仏Mistral、1兆パラメーターの「Mistral Large 4」発表 中国勢に対抗
仏人工知能(AI)新興企業Mistral AIは6日、同社最大のAIモデル「Mistral Large 4(ML4)」を発表した。総パラメーター数は約1兆で、オープンウェイト型AIの性能競争で中国勢などに対抗する。
Mistralによると、ML4は画像とテキストを扱えるマルチモーダルモデルで、Mixture-of-Experts(MoE)方式を採用する。総パラメーター数は1兆500億、処理時に使うアクティブパラメーターは490億、画像処理用のビジョンエンコーダーは16億パラメーター。最大100万トークンのコンテキスト長に対応する。
同社はML4を「Le Chonk」の愛称で呼び、サイバーセキュリティー、金融、製造、コーディングなどで高い性能を持つとしている。サイバー分野では、Artificial AnalysisのCyber Indexで世界上位5モデルに入り、中国以外で開発されたオープンウェイトモデルを大きく上回ったという。
コーディングでは、Mistralが公表した評価で「DeepSWE v1.1」が61.7%、「Terminal-Bench 4」が28.3%だった。人間によるブラインド評価では5モデル中2位となり、中国のMoonshot AIやZ.aiのモデルを上回ったとしている。ただし、これらの性能評価にはMistral自身が公表した結果も含まれ、モデル間の優劣は評価手法によって異なる。
ロイター通信によると、Mistralのアルチュール・メンシュ最高経営責任者(CEO)は、一部の分野では中国製モデルを上回っていると説明した。特にサイバー分野を挙げ、「欧州は競争できないという見方は正しくない」と述べた。一方、比較対象とした中国製モデルや具体的なベンチマークには言及しなかった。
ML4はMistralが欧州で運営するデータセンターに設置した3800基のエヌビディア製Grace Blackwell GPUを使ってゼロから学習した。現在はAPI経由のパブリックプレビューとして提供しており、モデルの重みは10月末に公開する予定である。ロイター通信は、一般公開予定日を10月27日と報じている。
モデルの重みを公開するオープンウェイト方式では、企業や政府機関が自社設備やプライベートクラウド上でモデルを運用できる。Mistralは、特にサイバーセキュリティーでは、閉鎖型モデルの安全機能が正当な脆弱性調査やインシデント対応を拒否する場合があり、自社環境で運用できることが利点になると説明している。
同社は正式な重み公開に先立ち、サイバーセキュリティー専門家や政府機関などに、安全制限を一部緩和したモデルを提供し、実環境での安全性評価を進める。
Mistralは9月、シリーズDの資金調達で30億ユーロを調達した。資金調達後の企業価値は210億ユーロを超えた。同社は調達資金を欧州の計算基盤拡張やモデル開発に投じ、「ソブリンAI」とオープンウェイトAIを成長戦略の柱に据えている。
※この記事はInternational Business Timesから提供を受けた記事を日本向けに翻訳・編集したものです。
スポンサードリンク
