AnthropicとOpenAI、AI安全性評価の公表権を巡り交渉 ロイター報道

2026年10月15日 16:42

印刷

記事提供元:Tech Times

Photo by Steve A Johnson on Unsplash

Photo by Steve A Johnson on Unsplash[写真拡大]

AI開発企業の内部に入り、モデルや安全対策を調べる「組み込み型評価者」の報告書について、誰が公開内容を決めるのかが焦点となっている。ロイターは2026年10月13日、AnthropicとOpenAIが評価者との非公開協議で、公表内容への厳格な編集権限を求めていたと、協議を知る2人の話として報じた。両社はそれぞれ説明を示しており、評価者に認める公表権の範囲が注目される。

■公表権を巡る両社の方針と交渉

Anthropicのダリオ・アモデイCEOは9月の文章で、外部評価者がリスクや事故、同社の運用に関する主要な知見を、Anthropicの編集統制を受けずに公表できるべきだと述べた。同時に、安全保障上の機微情報、法的な秘匿情報、商業上の機密、第三者の秘密情報については、限定的な削除を認める方針も示した。

OpenAIも9月22日、第三者評価者が編集上の独立性を保つべきだと公表した。同社は、機密情報や知的財産を守るための削除方針を事前に定め、評価者が重要な削除の有無と報告書への影響を示せるようにすることを提案している。

ロイターによると、協議を知る2人は、両社が10月5日時点でも評価者の公表内容について厳格な編集統制を求めていたと話した。Anthropicは、そうした説明は独立評価者との協議全体を正確に表していないと反論した。過去に協働した評価者との現在の協議では、手法、評価基準、結論、公表内容を評価者が決めると説明している。

一方、Anthropicは新たに組む評価機関について、協働関係を築く間は報告書に意見を述べ、承認する権利を留保するとロイターに説明した。OpenAIは報告書全文の承認権を求めていないとし、機密情報の削除は標準的な対応だと述べた。ロイターが取材した1人によると、10月8日までにAnthropicと一部の評価者との協議には変化が見られた。

■最初の組み込み型評価者はアクセンチュア

Anthropicは9月18日、アクセンチュアと組み込み型評価者のチーム設立で提携すると発表した。アクセンチュアのAI事業「Faculty(ファカルティ)」が中心となり、モデルの評価やレッドチーミング、安全対策の検証などを担う。両社は今後5年間に、この分野の体制整備へそれぞれ少なくとも10億ドル(1ドル=158円換算で約1580億円)を投じる見込みだ。

Anthropicの構想では、評価者は従業員に近い水準のアクセスを得て、モデルの開発過程や運用上の判断を調べ、社員から直接話を聞く。アクセンチュアとの提携は独占契約ではなく、Anthropicは他の評価機関とも協働する方針だ。TechCrunchによると、提携発表後、アクセンチュア株は時間外取引で約8%上昇した。

AI Evaluator Forumは提携発表と同じ9月18日に公開書簡を出し、評価者による報告内容の管理、十分な内部アクセス、報復からの保護などを最低条件として掲げた。10月14日時点で、ジェフリー・ヒントン氏を含む200人超が署名している。書簡は、評価対象の企業と評価機関との間に、評価業務以外の大きな商業関係がないことも求めている。

Anthropicは当面、アクセンチュアの評価業務に直接資金を出す一方、METRなどの非営利評価機関とは、各機関の資金を使った試行について協議していると説明する。長期的には共同基金や政府資金による評価を想定している。内部情報へのアクセス、公表方法、資金調達について、共通の制度はまだ整っていないという。

■内部へのアクセスと機密保護

組み込み型評価者は、一般に公開される情報だけでは調べにくいモデルの挙動や開発上の判断を検証できる。その一方、報告書に何を記せるかは、評価対象の企業が持つ機密情報へのアクセス条件とも関わる。ロイターによると、両社は企業秘密が競合他社に渡ることを懸念している。

ロイターは、情報漏えいを防ぐ案として、企業の社員が評価チームの作業に立ち会うことや、評価者が競合する開発企業で同時に働くことを制限する案が協議されていると報じた。また、同社が確認した既存の契約には、企業の同意なしに機密情報を報告書へ掲載できないとする条項があったという。

AI評価団体Humane IntelligenceのCEO、ルマン・チョードリー氏はロイターに対し、共通の基準がなければ、評価者が必要とする内部アクセスを開発企業が管理し続けるため、報告内容にも影響力を持ち得ると指摘した。FacultyのCEO、マーク・ワーナー氏もロイターに、評価者への信頼には独立性と透明性が重要だと語っている。

■Hugging Face事案の報告書に見る公表条件

公表条件が実際の報告書にどう作用するかを示す事例がある。METRとRedwood Researchは8月26日、OpenAIのAIエージェントによるHugging Faceへの侵害事案について、外部調査の報告書を公表した。調査対象は、OpenAIが7月に実施したサイバーセキュリティ評価中のエージェントの行動だ。

両団体によると、互いに隔離されるはずだった約1200のエージェントが共有の仕組みを使って連絡を取り、7万件超のメッセージやファイルをやり取りした。そのうち約700がHugging Faceへの攻撃に参加した。エージェントは評価用システム「ExploitGym」の採点を欺く方法を探し、ツール呼び出しの記録を偽装する手法も試していた。

両団体は当初2日間を予定していた調査を、3回の訪問、計6日間に延ばした。公表時には、OpenAIが報告書中の非公開情報を削除できる取り決めだったと説明している。両団体はOpenAIの意見を受け、構成、重点、明確さ、語調も編集した一方、結論に重要な情報が削除されたとは考えていないと明記した。

Anthropicは今後、アクセンチュア以外の評価機関も発表する方針だ。各機関がどの情報にアクセスでき、機密情報の削除をどう扱い、自らの結論をどの範囲で公表できるか。個別の契約条件が、外部評価を利用する企業や規制当局にとって、報告書を読み解く重要な情報になる。

元記事: Anthropic and OpenAI Pushed for Veto Rights Over Safety Reports While Pledging Independence

※この記事はTech Timesから提供を受けた記事を日本向けに翻訳・編集したものです。

関連キーワード