米アンソロピック、次世代AI開発へのAI関与を数値化―90%超の業務でAI利用
2026年9月20日 06:07
米人工知能（AI）開発企業アンソロピック（Anthropic）は、次世代AIの開発に既存のAIがどの程度関与しているかを示す新たな指標を公表した。2026年8月時点で、同社のAI研究開発業務の26%ではAIモデル「Claude」が作業を主導し、90%を超える業務で人間との協働を含む形でAIが使われていた。完全に自律して遂行していた業務はなかった。
Anthropicが公表した指標は、AIによるAI研究開発の自動化、AIエージェントに対する監督、研究開発用コンピューティング資源の配分という3分野を対象とする。同社は測定方法も公開し、他のフロンティアAI開発企業にも比較可能な情報の開示を促した。
■AI研究開発の自動化を6段階で測定
第1の指標は「Anthropic R&D Automation Index」である。AIの関与がない「AL0」から、人間が関与せずAIが完全自律で動く「AL5」まで、研究開発業務の自動化を6段階で評価する。
「AIが協働する」に相当するAL3では、人間の緊密な指示の下でAIが作業の大部分を担う。「AIが主導する」AL4では、人間の監督を受けながら、高度な指示に基づいて作業の大半を最初から最後まで完了できる。2026年8月時点で、ClaudeがAL4に達していた業務は全体の26%だった。
指標の作成に当たり、Anthropicは2026年7月、モデル研究開発に携わる各部門の従業員を毎週20%ずつ無作為抽出し、社内記録から約1万5000件の研究開発タスクを特定した。これらを、モデル訓練、事前学習、強化学習、評価、障害対応などを含む階層構造に分類した。最終的な分類体系は542項目で構成され、このうち378項目が最下層の具体的なタスクだった。
各タスクの比重には、従業員が費やした時間を代替指標として用いた。評価にはClaudeも使用しており、同社は、自社モデルが自社システムを評価することによる誤差や、区分の境界を巡る判断の余地が残るとしている。
■3万のAIエージェントをリアルタイム監視
第2の指標は、研究・エンジニアリング業務を担うAIエージェントの監督状況を示す。2026年8月時点で、Anthropicが最も多く利用する社内プラットフォームでは、任意の時点で約3万のAIエージェントが稼働していた。
対象となるエージェントの行動はすべて、実行前にオンライン監視システムを通過する。危険と判断された行動はシステムが遮断するか、より安全な方向へ修正する。
同社が2026年8月にエージェントによる10億件を超える判断を分析したところ、オンライン監視システムが遮断した割合は0.002%で、約4万7000件に1件だった。遮断された行動は1週間以内に人間が確認する。
行動後に分析するオフライン監視システムも稼働している。毎週約10万件の記録が検知対象となり、複数の分類システムによる絞り込みを経て、優先度の高い約50件が人間の確認に回される。オフライン監視による追加確認の対象は、1000件当たり約1～2件だった。
■AI研究開発用計算資源、安全分野に6%
第3の指標は、AI開発に使われるコンピューティング資源の配分を測る。Anthropicが2026年7月13～20日の1週間を調べたところ、AI研究開発に使われた計算資源の約6%が安全性に関する業務に充てられていた。AIが研究開発作業を担う「AI駆動型AI研究開発」に限ると、安全性関連の比率は約12%だった。
同社は、能力向上と安全性向上の双方に同程度寄与する処理を、安全性関連ではなく能力開発側に分類した。このため、6%と12%はいずれも保守的な推計だとしている。モデルの安全性を高める防護用分類システムに使われる計算資源も、この比率には含まれていない。
一方、計算資源の使用量だけでは安全対策への投資全体を表せない。安全性研究では、計算処理の実行よりも研究者による実験設計に多くの時間がかかる場合があるためだ。今回の調査も1週間の状況を切り取ったものであり、長期的な傾向を示すものではない。
■AI開発のペース調整を巡り各社で温度差
今回の発表に先立ち、Anthropicのダリオ・アモデイ（Dario Amodei）最高経営責任者（CEO）は、AIモデルの能力向上のペースを落とし、安全対策を整える時間を確保するよう業界に呼びかけた。計画には、従業員に近いアクセス権を持つ独立評価者の受け入れ、フロンティアAI企業間の安全基準を巡る協調、国際的な連携が含まれる。
OpenAIのサム・アルトマン（Sam Altman）CEOと、xAIを率いるイーロン・マスク（Elon Musk）氏はこの提案に賛同した。アルトマン氏は、独立評価者に従業員並みのアクセスを認める取り組みをOpenAIでも導入する考えを示した。Google DeepMindとMicrosoftの経営陣も、より慎重な開発姿勢への支持を表明した。
Anthropicは、複数の外部組織から独立した第三者評価者を受け入れ、自社のリスク評価チームに近い範囲で社内プロセス、システム、データへのアクセスを認める方針である。第三者は、安全対策の検証、インシデントの報告、今回公表した指標などの監視を担う。
一方、業界全体で足並みをそろえて開発を減速させることには温度差がある。Amazonは、モデルは十分な試験と安全対策を経た上で公開すべきだとしたが、業界全体の開発減速を支持するまでには至らなかった。
メタ（Meta Platforms）のマーク・ザッカーバーグ（Mark Zuckerberg）CEOは、競争と法的責任が各社に安全性を確保する十分な動機を与えるとして、協調的な減速とは距離を置いた。各開発企業には、モデルを安全に訓練できる速度を自ら選び、必要な対策を講じる責任と能力があるとの考えを示した。
欧州のAI企業は、米企業主導の開発減速にさらに強く反発している。フランスのMistralは、一部の既存大手が安全性への懸念を利用し、競合他社より自社に有利な規制を進めようとしていると主張した。Hugging Faceのクレマン・ドラング（Clement Delangue）CEOも、減速ではなく加速すべきだと述べた一方、独立評価者をAI企業内に置く提案には賛同した。