270億パラメータのAIをiPhoneに移植、Caltech発スタートアップの超圧縮技術をアップルが検証中か

カリフォルニア工科大学（Caltech）発のスタートアップ企業PrismMLが、270億パラメータのAIモデルを4GB未満に圧縮し、iPhone 15以降で動作させる技術を開発した。米CNBCの報道によると、アップルはこの技術がデバイス上（オンデバイス）AIの処理方法を革新できるか、現在検証を進めているという。ただし、この協議は初期段階にあり、アップル側からの公式なコメントは得られていない。

■270億パラメータをわずか4GBに収める超圧縮技術

通常、大規模言語モデル（LLM）は各パラメータ（重み）を16ビット浮動小数点数（FP16）として保持する。PrismMLがベースモデルとして採用したアリババのオープンソースモデル「Qwen3.6 27B」の場合、FP16精度では約54GBの容量が必要となり、スマートフォンのメモリ容量を遥かに超過する。一般的に用いられる4ビット量子化を施しても約18GBが必要で、スマートフォンでの動作は不可能、大半のノートPCでも実用的とは言えない。

これに対し、PrismMLが開発した「Bonsai 27B」は、各重みを「+1」または「-1」の1ビット（バイナリ版）、あるいは「-1、0、+1」の3値（実質1.58ビット、ターナリ版）にまで極限まで削減するアプローチを採用した。エンベディングやアテンション層、多層パーセプトロンなど、モデルの全アーキテクチャにわたってこの低ビットフォーマットを適用している。

極端な圧縮による精度低下を防ぐため、同社は「FP16グループ単位スケーリング」という手法を導入。重みのグループごとにフル精度（16ビット）のスケーリング係数を保持することで、個々の重みが離散化されてもモデル全体の出力を安定させている。同社の社内ベンチマークによれば、3.9GBの1ビットモデルでベースモデルの90%以上、5.9GBの1.58ビットモデルで95%以上の性能を維持しているという。ただし、これらは自社測定値であり、第三者による独立した検証はまだ完了していない。

動作速度に関しては、iPhone 17 Pro上で1ビットモデルが毎秒11トークン、M5 Max搭載Mac上では毎秒87トークンに達したと同社は報告している。一方で、同社CEOのババク・ハシビ氏がCNBCに明かしたところによると、事実の想起（ファクトの記憶力）において能力の低下が見られるという。ただし、推論や数学、コーディング、マルチステップの計画といったエージェント的タスクの性能は比較的良好に維持されているとしている。

■アップルの現行方式「疎な活性化」vs PrismMLの「密な圧縮」

PrismMLのアプローチは、アップルが現在採用しているオンデバイスAIの設計思想とは大きく異なる。アップルがWWDC 2026で発表した200億パラメータのモデル「AFM 3 Core Advanced」は、「Instruction-Following Pruning（IFP）」という技術を採用している。これは200億パラメータすべてをフラッシュメモリ（NAND）に保存しておき、リクエストに応じて必要な10億〜40億パラメータのみをアクティブなDRAM（メモリ）に読み込む「疎な活性化（Sparse Activation）」方式だ。これによりメモリ消費を抑えているが、読み込まれなかったパラメータはその推論には一切寄与しない。

一方、PrismMLの方式は、すべてのパラメータを常にアクティブな状態（密な圧縮）に保つ。1ビットに量子化されているため、270億パラメータすべてが4GB未満のメモリ上に同時に収まる。フラッシュメモリからDRAMへの転送ボトルネックは発生しないが、代償としてすべての重みが従来の6万5536通りの値から、わずか3通りの値に制限されることになる。

また、ハードウェア側の課題もある。標準的なCPUやGPUで3値（ターナリ）の重みを処理する場合、既存の積和演算ユニットを使用するために一度高精度フォーマットに逆量子化（デ量子化）する必要があり、圧縮による計算高速化のメリットが相殺される可能性がある。アップルのNeural Engineが、このオーバーヘッドなしに1ビット行列演算をネイティブに実行できるかどうかは、現時点では不明である。

■アップルの戦略的背景と実用化への慎重論

匿名情報筋を引用した複数の報道によると、アップルは自社モデルをiPhone向けに圧縮しようとした際、大幅な性能低下に直面し、これが外部技術であるPrismMLの評価につながったとされる。アップルにとってオンデバイスAIの強化は極めて重要だ。Bank of Americaのアナリスト予測（TheStreet報道）によると、アップルの最先端クラウドモデル「AFM 3 Cloud Pro」は、Siriのクエリ全体の約5%を処理するだけで、クラウド計算コストの最大67%を占める可能性があるという。このモデルはGoogleのクラウドインフラ上で動作しており、プライバシー重視を掲げるアップルにとって、競合への依存と高額なコストは大きな課題となっている。

しかし、業界内ではPrismMLの技術の実用性に対して慎重な見方もある。Counterpoint Researchの調査ディレクター、タルン・パタック氏はCNBCに対し、「最終的なテストは、何百万ものクエリ、何千ものデバイスの組み合わせ、そして大規模な実環境での堅牢な検証にかかっている」と指摘。IDCのフィル・ソリス氏も、頻繁な呼び出しやバックグラウンド動作によるバッテリー消費が決定的な変数になると警告している。

さらに、メモリ制限の現実もある。12GBのメモリを搭載したiPhoneであっても、アプリが実際に使用できるのは約6GBであり、モデル本体だけでなく、コンテキスト長に応じて増大するキャッシュ領域などもその中に収める必要があるため、3.9GBというサイズでも余裕はそれほど大きくない。

なお、Apple系メディアの9to5Macは、PrismMLがモデルの一般公開と同時にアップルによる評価を公表したことについて、スタートアップ特有のPR戦略であると指摘している。通常、アップルとの本格的な協議は極秘にされるべきだが、今回の発表によって同社がメディアの注目を集めることには成功したと分析している。

■注目ポイントQ&A

●PrismMLのアプローチは、アップル独自のオンデバイスAIとどう違うのですか？

アップルの「AFM 3 Core Advanced」は、200億パラメータのモデルをフラッシュメモリに保存し、リクエストごとに必要な一部（10億〜40億パラメータ）のみをメモリに読み込む「疎な活性化」方式です。これに対し、PrismMLの「Bonsai 27B」は、すべてのパラメータを1ビットまたは1.58ビットに極限まで圧縮（量子化）し、270億パラメータすべてを常にメモリ上に常駐させる方式です。アップル方式は精度低下を避ける代わりに転送速度がボトルネックになり、PrismML方式はボトルネックを解消する代わりに精度低下のトレードオフが発生します。

●270億パラメータのAIを動かすと、iPhoneのバッテリーは激しく消耗しますか？

現時点では未解決の疑問です。PrismMLは、自社の1ビットモデルが既存ハードウェア上の従来モデルと比較して3〜6倍エネルギー効率が良いと報告していますが、これは自社ベンチマーク値であり、第三者による検証は行われていません。専門家は、オンデバイスAIが頻繁に起動されたり、バックグラウンドで動作し続けたりする場合、1回あたりの消費電力が少なくても、結果的にバッテリーを大きく消耗する可能性があると指摘しています。

●Bonsai 27Bは現在ダウンロードして試すことができますか？

はい、可能です。PrismMLは2026年7月14日に「Bonsai 27B」をApache 2.0オープンソースライセンスで公開しました。Hugging Face上で1ビット版および1.58ビット版が提供されており、Apple Siliconデバイス向けのMLXフレームワークや、他ハードウェア向けのGGUFフォーマットに対応しています。

元記事: Caltech Startup Fit a 27B AI Model Into an iPhone: Apple Is Evaluating the Tech