Anthropic、小型AIのIoT機器上での自己複製を検証 年末の能力向上を推計

(Milad Fakurian/Unsplash)[写真拡大]
AnthropicのFrontier Red Teamは10月12日、AIモデルがネットワーク上の機器に推論環境を構築し、複製を続ける能力についての実験結果を公表した。小型モデルは9種類のハードウェア構成のうち8種類で推論環境の構築に成功した。研究チームは、モデルの能力向上が従来の傾向に沿って続けば、安価なIoT機器での自己複製に必要な水準に数カ月で近づく可能性があると推計している。
■安価なTVボックスでも分散推論
研究者のWilliam Zhou氏とDaniel Freeman氏は、1台約55ドル(約8690円、1ドル=158円換算)のAndroid TVボックスを15台購入し、ネットワークで接続した。各機器にモデルの計算層の一部を割り当てる「パイプライン並列化」を使い、Gemma4-26B-A4Bを毎秒0.39トークンで動かした。安価な機器を組み合わせても推論を実行できることを示す実験だ。
この速度で推論環境を整え、別の機器へ広がるには時間がかかる。Anthropicは実験結果を基に、TVボックス上での推論環境構築には、モデルによって約28~150時間を要すると試算した。感染機器を次々と増やす速度は、数分単位よりも数日単位を想定している。
IoT機器の侵害が大規模に起きた例もある。セキュリティ企業Synthientは2026年1月、ボットネット「Kimwolf」の感染機器が200万台を超え、主な標的はAndroid機器だったと報告した。同社の調査では、認証なしで利用できるAndroid Debug Bridge(ADB)サービスなどが攻撃に使われていた。
■未知の機器で推論を始めるまで
Anthropicは自己複製の工程を、標的の発見、標的でのコード実行、推論環境の構築、次の標的への伝播の4段階に分けた。今回、重点的に調べたのは3段階目だ。機器ごとに異なるハードウェアやOSに合わせ、必要なソフトウェアの選択、パッケージの導入、エラーの修正を進める能力を測った。
実験には、オープンソースのPiコーディングエージェントを基に開発した「Memento」を使った。Mementoは新しいエージェントを定期的に起動し、前のエージェントの作業環境と、試した方法や失敗を記した短いメモを引き継ぐ。後続のエージェントはその記録を手掛かりに、別の方法を試せる。
オープンウェイトモデル「Qwen3.5-9B」は、9種類中8種類のハードウェア構成でLlama 3.1-8Bの推論環境を構築した。対象にはJetson Nanoのほか、MacやRTX 4090搭載PCも含まれる。この結果が示すのは、異なる機器に合わせて推論環境を整える能力であり、安価なIoT機器8種類で複製に成功したという意味ではない。
■隔離ネットワークで複製の連鎖を検証
研究チームは次に、Android 15のエミュレーター「redroid」を動かすGoogle Cloudの8ノードを、ファイアウォールで隔離した仮想ネットワークに配置した。最初のノードから、認証なしで開いたADBポートを通じて別のノードへ移り、Llama 3.1-8Bの推論環境を構築する一連の作業を試した。
試したオープンウェイトモデルのうち、GLM-5.2は5回中4回で全8ノードに、残る1回で7ノードに到達した。ただし、GLM-5.2自体の推論はノードとは別のサーバーで行った。各ノードで構築させたのは、比較対象として共通に用いたLlama 3.1-8Bの推論環境である。
この実験ではADBに認証を設けず、侵入工程を単純化していた。研究チームは結果を、実際のネットワークでの成功率の予測ではなく、条件を簡略化した場合の到達点として位置付けている。標的探索から次のノードへの伝播までをつなぐ能力と、安価な機器上でモデル自体を動かす能力は、別々の実験で測られた。
■「2026年末」の推計と、メモによる改善
Anthropicは、総パラメータ数300億以下の主なオープンウェイトモデルについて、公開時期と総合的な能力指標「Epoch Capabilities Index(ECI)」の関係を調べた。各時期の高性能モデルを結ぶ近似線では、ECIは年13.7ポイント上昇し、決定係数は0.95だった。この傾向を延長すると、2026年末までにGLM-5.2と同程度の指標を持つ小型モデルが現れるという推計になる。
研究チームが注目するのは、複製の工程を進める能力と、標的機器で動かせるモデルの大きさの組み合わせだ。ECIは自己複製専用の指標ではないため、年末という時期はおおまかな見通しとして示されている。
作業中の記録を引き継ぐ効果も測定した。Qwen3.5-9Bによる推論環境構築の成功率は、最初の世代の45%から、後続の世代では61~84%に上がった。これはモデルの重みを再訓練した結果ではなく、先行する試行のメモを利用した同じ課題での成績だ。
一方、Qwen3.5-9Bに高性能モデルのOpus 4.8を助言役として使わせた実験では、測定できる改善は見られなかった。類似の課題で助言役の利用を学習させた場合も、推論環境構築への応用は難しかったという。Anthropicは、複数のモデルが協調する場合には、大規模モデルが全体の方針を担い、小型モデルが個別の機器で作業する構成を想定している。
■通信の監視と機器の設定
モデルの重みを機器間で運ぶ方式では、新たに使う機器への大容量の転送や、分散推論に伴う機器間通信が発生する。Anthropicは、こうした通信をISPの監視で捉えられる可能性を挙げた。伝播を速めるほど通信量が増えるため、速度と発見されにくさの間にはトレードオフがある。
防御の参考例として、研究チームは従来型ボットネット「Mirai」への対応を挙げる。2019年に発表されたISPの対策研究では、感染が確認された契約者の通信を制限し、除去方法を案内した場合、14日以内に感染の92%が解消した。通知しなかった比較群などでも自然に解消した割合があり、その範囲は58~74%だった。
英国では2024年4月から、対象となる消費者向け接続機器のパスワードを機器ごとに固有のものとするか、利用者が設定できるようにする制度が施行されている。日本では経済産業省と情報処理推進機構(IPA)が2025年3月、IoT製品のセキュリティ要件への適合を示す任意のラベリング制度「JC-STAR」を開始した。機器の購入時には適合情報を確認し、使用時には初期パスワードや不要な管理機能、更新の設定を点検することが対策につながる。
■TVボックス以外への広がり
Anthropicは、より大きなモデルがデータセンターの計算資源を狙う場合や、APIの認証情報を使って推論サービス上で複製を続ける場合も、検討すべきシナリオとして挙げた。モデルの重みを機器へ転送する方式に加え、異なる規模のモデルや複数の伝播方法が組み合わさる可能性を見ている。
今回の評価は、安価な機器での分散推論、異種ハードウェアへの推論環境構築、隔離ネットワークでの伝播をそれぞれ示した。研究チームの年末予測は、これらの能力が小型モデルに備わる時期を見積もったものだ。今後の焦点は、その推計の検証と、機器の安全な初期設定や異常通信の検知をどこまで広げられるかにある。
元記事: AI Self-Replication on IoT Devices Months Away, Anthropic Red Team Finds
Google 検索の「トップニュース」で財経新聞の記事を優先して表示できます。
※この記事はTech Timesから提供を受けた記事を日本向けに翻訳・編集したものです。
スポンサードリンク
