元OpenAIのムラティ氏率いる新興AI、9750億パラメータの米国最大級オープンモデル「Inkling」を公開

元OpenAIのCTOであるミラ・ムラティ氏らが設立したThinking Machines Labは、同社初となるAIモデル「Inkling」を公開した。9750億パラメータを持つこのマルチモーダルモデルは、Apache 2.0ライセンスのもとでHugging Face上に公開されており、米国で開発されたオープンウェイトモデルとしては最大規模となる。開発者や企業は、サードパーティのAPIを経由することなく、モデルをダウンロードして自社環境でファインチューニングすることが可能だ。

■MoE（混合専門家）の採用で9750億パラメータの実行コストを抑制

Inklingのアーキテクチャを理解する上で、パラメータ数だけに注目するのは誤解を招く。モデルカードによると、本モデルは66レイヤーのデコーダー専用Transformerであり、スパースなMoE（Mixture-of-Experts）フィードフォワード・バックボーンを採用している。各レイヤーには256のルーティングされたエキスパートと2つの共有エキスパートが含まれるが、任意のトークンに対してアクティブになるのは、ルーティングされたエキスパートのうち6つと、常に実行される2つの共有エキスパートのみである。

この設計により、Inklingは9750億パラメータ分の学習知識を保持しながらも、1回の推論パスで使用するのは約410億パラメータ（アクティブ率約4.2％）に留まる。推論に必要な計算量は総パラメータ数ではなくアクティブなパラメータ数に比例するため、Inklingのデプロイコストは、同規模のデンス（密）モデルと比較して大幅に低く抑えられる。Thinking Machinesによると、Inklingはコーディングのベンチマークにおいて、NVIDIAの「Nemotron 3 Ultra」と同等の性能を、3分の1のトークン消費量で達成したという。これは計算効率の高さを示している。

ルーティング機構には、DeepSeek-V3のMoE実装を参考にした、シグモイド関数ベースのアプローチと補助損失なし（auxiliary-loss-free）のロードバランシング・バイアスが採用されている。標準的なアプローチとの主な違いは、ロードバランシングを補助トレーニング損失ではなく、学習されたバイアスによって強制する点にある。同社はこれにより、大規模トレーニングで補助損失手法が引き起こしがちなトレーニングの不安定性を回避できると説明している。アテンションに関しては、スライディングウィンドウ（ローカル）アテンションとグローバルアテンションのレイヤーを5:1の比率で交互に配置し、8つのKVヘッドを備えている。また、Rotary Positional Embedding（RoPE）の代わりに、Shawら（2018年）による相対位置エンコーディングを採用しており、これにより100万トークンのコンテキストウィンドウを持つ本モデルにおいて、長文シーケンスへの外挿がより高い信頼性で行えるという。

本モデルは、テキスト、画像、音声、動画にわたる45兆トークンでゼロから事前学習された。トレーニングは、NVIDIAとの2026年3月の提携（1ギガワット規模のVera Rubin計算容量）に基づき、すべてNVIDIA GB300 NVL72システム上で行われた。他のマルチモーダルシステムで一般的な独立した画像・音声エンコーダーを使用せず、4つの入力モダリティすべてにわたってネイティブに推論を行う。ただし、現時点での出力はコードや構造化データを含むテキストのみに限定されている。

■コスト重視のデプロイを可能にする「思考負荷」調整機能

トークンあたりの効率性をさらに高める第2のアーキテクチャ特徴が、調整可能な「思考負荷（thinking-effort）」ダイヤルだ。ユーザーは推論の深さを最小レベルから最大レベル（0.99）の間で自由に設定でき、モデルが出力を生成する前にどれだけ深く問題を処理するかを選択できる。

これにより、コストとレイテンシのトレードオフをモデル単位ではなく、リクエスト単位で調整可能になる。例えば、迅速な文書分類と複雑なコード生成の両方にInklingを使用する場合、前者は低い思考負荷、後者は高い思考負荷に設定することで、モデルの切り替えや個別のインフラ構築を行うことなく対応できる。これまで「安くて速いモデル」と「高価で高性能なモデル」の二者択一を迫られていた組織にとって、このダイヤルは連続的な選択肢を提供するものとなる。

フラッグシップモデルと同時にプレビュー公開された「Inkling-Small」は、このアプローチをさらに推し進めたものだ。総パラメータ数2760億、アクティブパラメータ数120億のこのモデルは、コード生成、LLMによる評価、他モデル向けの合成データ生成など、レイテンシに敏感なワークロード向けに設計されている。指示追従能力を測定する「IFBench」において、Inkling-Smallは83.4％を記録し、本家Inklingの79.8％を上回った。これは、小型モデルの事前学習データとレシピの改良による成果だという。Inkling-Smallの完全なウェイトは、テスト完了後に公開される予定だ。

■ベンチマーク結果の評価と背景

Thinking Machinesは、Inklingを他のオープンウェイトモデル（NVIDIA Nemotron 3 Ultra、Kimi K2.5、Kimi K2.6、GLM 5.2、DeepSeek V4 Pro）や、クローズドモデル（Gemini 3.1 Pro、Claude Fable 5、GPT 5.6 Sol）と比較したデータを公開している。結果は、複数のカテゴリで十分に競争力のある位置につけていることを示している。

兵器や暴力に関する有害なクエリへの拒否精度を測定しつつ、無害な類似クエリへの過剰拒否を最小限に抑える安全ベンチマーク「FORTRESS Adversarial」において、Inklingは比較対象のオープンウェイトモデルをリードする78.0％を記録した。「VoiceBench」では91.4％を記録（Gemini 3.1 Proの94.3％に次ぐ）。また、テストケースが固定され第三者が検証可能なコーディングベンチマーク「SWE-bench Verified」では、VentureBeatのローンチ分析によると、Inklingは77.6％を記録し、Nemotron 3 Ultraの70.7％を上回った。

一方で、課題も明確になっている。自律的なターミナルベースのコーディングを評価する「Terminal Bench 2.1」では、GLM 5.2の82.7％に対し、Inklingは63.8％と18.9ポイントの大差をつけられた。「SWE-bench Pro」でも、GLM 5.2の62.1％に対し、Inklingは54.3％に留まった。事実性をテストする「SimpleQA Verified」では、DeepSeek V4 Proの57.0％に対し、Inklingは43.9％と大きく下回った。同社自身が認めているように、Inklingはすべてのタスクにおいて最強のオープンウェイトモデルというわけではなく、ベンチマークの状況は単一の数値で性能を総括できるほど単純ではない。

また、特定の主張については情報源に留意する必要がある。Thinking MachinesがヘッジファンドのBridgewater Associatesとの共同研究で引用した「財務推論スコア84.7％」という数値は、Bridgewaterの独自財務データでオープンモデルをファインチューニングした結果だが、これは独立した第三者機関ではなく両社自身による評価である。TechCrunchの報道でも確認されている通り、これは同社のカスタマイズプラットフォーム「Tinker」の実力を示す説得力のあるデモンストレーションではあるものの、第三者による再現が行われるまでは、当事者による検証結果として捉えるべきである。

■オープンウェイトがもたらす自由と安全性の責任

Apache 2.0ライセンスにより、あらゆる組織がInklingのウェイトをダウンロードし、改変し、独自のデータでファインチューニングして商業的に再配布する権利を持つ。この自由こそが製品の核心であるが、ベンチマークの数値には表れない技術的な意味合いも伴う。

Thinking Machinesは、CBRN（化学・生物・放射性物質・核）およびサイバー能力の評価を実施し、Inklingは「既存のオープンウェイトエコシステムで利用可能なリスクを実質的に上回るリスクは示さなかった」と結論づけている。明確に有害なリクエストへの拒否率を測定する「StrongREJECT」では98.6％を記録した。しかし、モデルカードの安全性セクションで説明されているように、これらの評価はリリースされた状態のInklingの挙動を示すものであり、ファインチューニングされた派生モデルの挙動を保証するものではない。

英国AI安全研究所（UK AI Security Institute）が発表したオープンウェイトモデルに関する研究では、オープンウェイトシステムにおける安全対策は、ファインチューニングやウェイトの改変、特定のアンラーニング（消去学習）を通じて、クローズドモデルよりも容易に解除できることが明確に指摘されている。実際に、改変されたオープンウェイトモデルが悪用された事例も報告されている。Thinking Machinesもこの点を直接認めており、TechCrunchが報じたローンチ時の説明において、「カスタマイズの安全性を確保する責任は、Thinking Machinesではなく顧客にある」と強調している。モデルカード自体でも、有害なトピックに関するロールプレイや間接的なプロンプトに対して「時折応じてしまう傾向」が残存リスクとして特定されており、防御策として「Llama Guard」などの外部モデレーションツールを重ねて導入することを推奨している。

これはオープンウェイトモデルを否定するものではなく、Apache 2.0という選択肢が、ファインチューニングされた派生モデルをデプロイする組織にとって実務上何を意味するかを示している。評価実績はベースモデルのものであり、カスタマイズにおける安全性の責任は、そのカスタマイズを行う組織に帰属する。

■Inklingを実際に実行する方法

フル精度であるBF16チェックポイントを実行するには、少なくとも2TBの統合VRAMが必要であり、これにはNVIDIA B300 GPUが8基、またはH200が16基必要となる。NVFP4量子化チェックポイントを使用すれば、必要なVRAMは600GB（B300が4基、またはH200が8基）に削減されるが、このチェックポイントにはSM100+ハードウェア（NVIDIAのBlackwell世代）が必要となる。そのため、旧世代のH100クラスターを使用している組織は、この量子化版を実行できない。

このような自社インフラを持たない組織向けに、InklingはTogetherAI、Fireworks、Modal、Basetenなどのサードパーティ推論プロバイダーを通じて提供される。また、DatabricksのUnity AI Gatewayを介した一元的なガバナンス管理も可能だ。Tinkerプラットフォームを通じたファインチューニングはすでに提供開始されている。サポートされている推論エンジンにはvLLM、SGLang、llama.cppがあり、モデルには投機的デコーディング用のマルチトークン予測ドラフターが同梱されている。これにより、高スループットのデプロイメントにおいてレイテンシを大幅に削減できる。さらに、Tinkerコンソール内の新しい「Inkling Playground」を使用すれば、開発者はトレーニングを実行する前にチャットインターフェースでモデルをテストできる。

■激動の1年を経たThinking Machinesのビジネスモデル

Thinking Machinesは2025年7月、ベンチャー史上最大規模のシードラウンドの一つとして、120億ドルの評価額で20億ドル（約3240億円、1ドル＝162円換算）を調達した。同年10月には初の製品であるTinkerをリリース。しかしBloombergなどの複数の報道によると、そのわずか4ヶ月後、報道ベースで500億〜600億ドル規模とされた追加調達ラウンドの交渉は合意に至らず破談となった。同時に、共同創業者でCTOを務めていたバレット・ゾフ氏とルーク・メッツ氏の2名が2026年1月に退社し、OpenAIに復帰。さらに数ヶ月前には、もう一人の共同創業者であるアンドリュー・タロック氏もMetaの超知能（superintelligence）チームに移籍していた。

ゾフ氏の退社後、同社はPyTorchの共同開発者であるスミス・チンタラ氏をCTOとして招聘し、従業員数は約200名規模まで回復している。現在の主な収益源はTinkerであり、Bridgewater Associatesが顧客として名を連ねている。

Thinking Machinesは、自社の開発スピードを実行力の証拠としてアピールしている。OpenAIが収益規模を拡大するまでに約5年、Anthropicが約3年かかったのに対し、同社は約9ヶ月で同等のマイルストーンに達したと主張する。ただし、この主張は同社独自の見解であり、第三者による客観的な比較検証は行われていない。検証可能な事実としては、Inklingが実在し、そのウェイトが現在ダウンロード可能であること、そしてそのトレーニングが、1ギガワット規模のNVIDIAハードウェアを使用し、会社設立から17ヶ月で達成されたという点である。

Inklingを最先端の規模でデプロイするには多大なハードウェア要件が伴うため、決して「無料」ではない。しかし、モデルの取得と改変自体は無料だ。クローズドAPIにトークン単位の料金を支払い続けるか、それとも自社のモデルインフラの所有に投資するかを検討している企業にとって、Inklingは米国製モデルの具体的な選択肢を提供する。

■Inklingは自社に適しているか

Thinking Machinesは、Inklingを完成品ではなく「原材料」と位置づけている。Bridgewater Associatesの事例（特定の財務専門知識を学習させ、推論コストを約14分の1に抑えつつ、クローズドモデルを上回る性能を達成したと両社が評価したケース）は、このアプローチの狙いを最も明確に示している。独自のデータセットを持ち、ファインチューニングを行うエンジニアリング能力を備えた組織は、Inklingを真剣に検討すべきだろう。一方で、カスタマイズなしでそのままデプロイできるチャットボットや汎用アシスタントを求める組織にとっては、クローズドAPI市場の製品の方がより高いパフォーマンスを得られる可能性が高い。

この違いは重要である。なぜなら、Thinking Machinesが顧客に求めているのは、相応の労力だからだ。9750億パラメータのモデルをファインチューニングするには、高度な機械学習の専門知識が必要となる。同社が提供するのはベースモデル、インフラ提携、そしてTinkerであり、ドメイン知識、データ、そして構築された派生モデルの安全性検証は、導入する組織自身が担う必要がある。

■注目ポイントQ&A

●Inklingとは何ですか？ChatGPTやClaudeと何が違うのですか？

InklingはThinking Machines Labが開発したオープンウェイトのAIモデルです。Apache 2.0ライセンスのもとで、すべてのパラメータを公開ダウンロードして改変することができます。API経由でのみアクセス可能で内部のウェイトが非公開のChatGPT（OpenAI）やClaude（Anthropic）とは異なり、Inklingは自社のハードウェアにダウンロードして実行し、独自のデータでファインチューニングすることができます。ただし、ベースモデルのままではすべてのベンチマークで最高性能を示すわけではなく、そのまま使うシステムというよりも、カスタマイズの出発点として設計されています。

●9750億パラメータもあるのに、なぜMoEによって実行コストを抑えられるのですか？

InklingのMoE（混合専門家）アーキテクチャは、1回の推論パスにおいて9750億パラメータのうち約410億パラメータ（約4％）のみをアクティブにします。残りのパラメータは蓄積された知識として保持され、入力に応じてルーティング機構が選択的に呼び出します。推論の計算量は総パラメータ数ではなくアクティブなパラメータ数に比例するため、同規模のデンス（密）モデルに比べてクエリあたりの実行コストを大幅に削減できます。さらに、思考負荷（thinking-effort）ダイヤルを調整することで、リクエストごとの計算量を抑えたり、逆に推論の深さと精度を高めたりといったコストコントロールが可能です。

●Inklingをローカル環境で実行するにはどのようなハードウェアが必要ですか？

フル精度のBF16チェックポイントを実行するには、少なくとも2TBの統合GPU VRAM（NVIDIA B300が8基、またはH200が16基）が必要です。NVFP4量子化チェックポイントを使用すれば必要量を600GBに削減できますが、SM100+（Blackwell世代）のハードウェアが必要となるため、H100クラスターでは実行できません。自社でインフラを用意できない場合は、TogetherAI、Fireworks、Modal、Databricksなどの推論プロバイダーを通じて利用することも可能です。

●Thinking Machinesが公開している安全性の評価結果は、ファインチューニング後のモデルにも適用されますか？

いいえ、適用されません。FORTRESS Adversarial（78.0％）やStrongREJECT（98.6％）、CBRN評価などの安全性データは、リリースされた初期状態のベースモデルに関するものです。InklingはApache 2.0ライセンスのオープンウェイトモデルであるため、誰でもファインチューニングが可能ですが、その過程で安全対策が変更されたり無効化されたりする可能性があります。同社は、カスタマイズされたモデルの安全性責任は顧客側にあると明言しており、Llama Guardなどの外部モデレーションツールを併用した多層防御を推奨しています。

元記事: Inkling Ships: Murati’s Lab Puts Largest US Open-Weight AI on Hugging Face