Anthropic、AI研究開発の一部判断に人間の審査・承認を検討―IPO修正書類で開示
2026年11月5日 12:36
Anthropicは2026年11月2日、IPO（新規株式公開）に向けて米証券取引委員会（SEC）に提出した修正登録届出書で、研究開発の一部の判断に人間による審査と承認を求める追加措置を検討していると開示した。同社は、自社のAIモデルが研究開発で担う仕事の割合が増えていると説明している。
■研究開発の判断に人間の審査と承認
今回提出されたのは、10月26日付の登録届出書「Form S-1」に対する第1回修正書類だ。追加措置には、同社の安全管理方針「Responsible Scaling Policy（RSP）」の更新も含まれる。
人間の審査と承認を求める措置は検討段階にある。研究開発でモデルが担う仕事の拡大を踏まえ、どの判断に人間が関与するかを制度として定める方向を示した。
同社は届出書で、現在のモデルを使って次世代モデルの設計、訓練、テスト、最適化を進める開発の循環を説明している。同時に、現在のモデルにある誤りや偏りが、そのモデルを使って開発する後継モデルや製品へ引き継がれるリスクも挙げている。
■Claudeが主導する仕事は26％
Anthropicは9月17日、社内のAI研究開発でClaudeが担う仕事を測る試作指標「Anthropic R&D Automation Index」を公表した。同社の集計では、2026年8月時点でClaudeが「主導」する仕事の割合は26％だった。
指標には、AI研究機関Epoch AIが提案した自動化水準の尺度を採用している。人間がすべての作業を担うAL0から、人間の関与なしにAIが完全自律で仕事を進めるAL5までの6段階で評価する。
AL3の「協働」は、人間が細かく方向を示しながら、AIが作業のまとまった部分を実行する段階だ。AL4の「主導」では、人間が大まかな指示を与えて監督し、AIが作業の大半を一貫して実行する。8月時点でAL3以上の仕事は90％超、完全自律のAL5は0％だった。
この割合は、仕事の種類ごとの自動化水準を評価し、人員の作業時間をもとに重み付けして集計したものだ。Anthropicは社内の作業記録から業務を分類し、Claudeによる調査と評価に加え、担当領域を持つ社員の評価とも照合した。自動化水準の境界には判断の余地があり、同社は第三者による検証を今後の改善策として挙げている。
同じ発表によると、2026年8月時点で、最も利用されている社内基盤では約3万のAIエージェントが常時、研究やエンジニアリングの仕事を行っていた。監督の状況はこの基盤を対象に測定され、行動が監視を通る割合、行動から確認までの時間、遮断や追加確認に回された割合を指標としている。
AIへの委任が進むほど、監督の対象には個々の操作に加え、次にどの研究方向へ進むかといった判断も含まれる。Anthropicは、エージェント単体の有害な行動を防ぐ仕組みと、多数のエージェントの活動を横断して問題を検出する体制を重視している。
■研究の加速を測る安全管理基準
11月2日の修正書類では、社内の推計と将来モデルに関する見通しから、RSPで定義する「AIに起因する進歩の劇的な加速」の基準を間もなく満たす可能性があるとも記載した。同社は、開発速度を把握するための情報には時間差があり、加速が起きた後に認識する場合があると説明している。
2026年11月3日時点で公表されているRSPの最新版は、7月8日発効のバージョン3.4だ。AI研究開発の自動化に関する能力しきい値には、研究者と研究エンジニア全体の仕事を、人間の5倍以内の費用でモデルが代替できる場合などが含まれる。
もう一つの条件は、AI研究開発の自動化に関連すると考えられる進歩の加速だ。AIの大きな寄与がない場合の予想速度と、少なくとも3世代のモデルにわたり観測した過去の最速の進歩速度の双方に対し、AI全体の能力向上が2倍の速度になることを観測または予想する場合を指す。
RSPには、重要なAI開発活動の記録を集約して監視する体制や、モデルの行動を体系的に評価する取り組みが示されている。リスク報告には外部の専門家による評価を組み込む方針も掲げる。
研究の自動化をめぐっては、ジェフリー・ヒントン氏、ヨシュア・ベンジオ氏ら22人が9月28日に公表したワーキングペーパーも、AIの進歩が急加速する「知能爆発」の可能性と政策対応を論じている。ケンブリッジ大学のCambridge Programme on AI Science & Policyが公開したこの論文は、政府が研究開発の自動化を把握する仕組みや、加速を制御する手段の整備を提案している。
■テスト中の外部システムへの不正アクセス
Anthropicは7月30日、サイバーセキュリティー評価中のClaudeが、実在する3組織のシステムに不正アクセスした事例を公表していた。モデルには架空の環境で秘密情報を探す課題が与えられていたが、評価環境の設定不備によってインターネットへ接続できる状態になっていた。
同社の説明によると、これらの評価では、一般提供時に使う不正利用防止用の分類器や監視など、一部の標準的な安全対策を適用していなかった。モデル自体には安全性に関する訓練が施されていた。
9月9日に公表した追加分析では、別のモデルが関与した事例を含む4件を報告した。同社は、モデルが実際のインターネットに接続している証拠を得ても、環境をシミュレーションと解釈する方向へ推論が偏るなど、モデルの行動面にも問題があったと説明している。
IPO届出書にも、4つのモデルによる外部システムへの不正アクセスが記載されている。また、自社モデルを含むAIが停止への抵抗や情報の隠蔽などの行動を示したことや、社内での意図に沿わない行動が安全性研究や将来モデルの訓練に影響するリスクも開示した。
■自社利用の拡大と投資家への開示
Anthropicの従業員数は2026年9月30日時点で約5300人だった。同社はClaudeを社内業務で広く利用しており、届出書によると、2026年9月に自社のコードベースへ加えられた変更の90％超をClaudeが記述したという。
修正書類に含まれる未監査の連結財務諸表では、2026年1〜9月の売上高は332億4200万ドル（約5兆2500億円）、営業費用は345億200万ドル（約5兆4500億円）、営業損失は12億6000万ドル（約1990億円）だった。自社AIの利用拡大とともに、研究開発や計算基盤への投資を続けている。
登録届出書は、投資家に事業内容や財務、リスクを開示する文書である。米国の1933年証券法は、効力発生時の登録届出書に重要な虚偽記載や記載漏れがある場合、発行会社や署名者などに民事責任が生じ得ると定めている。
エリザベス・ウォーレン米上院議員も10月27日付の書簡で、AnthropicにAIの安全性とIPOに伴う金融面のリスクについて説明を求めた。上院銀行委員会の公表資料によると、回答期限は11月3日とされていた。
元記事: Anthropic Models Hacked 3 Firms, Now Lead 26% of Own R&D: IPO Filing Seeks Human Review