ビル・ゲイツ氏、AI悪用対策の義務化を訴え　監視と政府の関与を重視

マイクロソフト共同創業者のビル・ゲイツ氏は、AIの悪用に備える安全策と監視の義務化を求めた。バイオテロや金融詐欺などを懸念し、企業の自主的な対応に加えて、立法府や法執行機関が制度づくりに関わるべきだとしている。

■安全策と監視の義務化を求める

ゲイツ氏は9月27日に放送された米NBC Newsの番組「Meet the Press」で、AIシステムには安全策と監視機能を備えるよう求めるべきだと述べた。企業の自主規制だけでは十分ではなく、米国での立法が必要だとの考えを示した。

安全策や監視の内容を決める議論には、政治家と法執行機関も参加すべきだという。ゲイツ氏は、こうした要件によって企業の負担は多少増えるものの、AI開発が大幅に減速するとは考えていない。

■緊急停止機能と、悪用への備え

カリフォルニア州のギャビン・ニューサム知事は9月18日、高性能なAIモデルの安全対策を強化するための知事命令を出した。検討項目には、企業がモデルを緊急停止できる仕組みを設け、その有効性を外部機関が継続的に確かめる案が含まれる。

ゲイツ氏は緊急停止機能の考えを否定せず、それだけでは十分ではないと述べた。差し迫った懸念として挙げたのは、悪意ある人々によるAIの利用だ。番組では、バイオテロやサイバー攻撃につながる能力に言及した。

ゲイツ氏は、AIを使った詐欺も懸念している。2026年8月に公表した文章では、詐欺のほか、偽情報やディープフェイクなどを、人々の生活に影響するリスクとして挙げた。悪用への対処には、利用状況を監視する仕組みが重要だとの立場だ。

■外部評価を進める企業

安全性を確かめる取り組みも進んでいる。AI開発企業のAnthropicとAccentureは9月18日、Anthropicのチームとともにモデルの評価や安全策の検証に取り組む、外部評価担当者のチームを設けると発表した。

Anthropicによると、この評価体制の運用方法には未定の部分があり、Accentureの業務費用はAnthropicが直接負担する予定だ。同社は、評価担当者が開発過程にも関わることで、安全上の見落としを見つけやすくしたいとしている。

元記事: Bill Gates Says AI Safeguards Are Needed to Prevent Dangerous Misuse