OpenAI、ChatGPTの未成年向け武器情報制限を強化へ　暴力への固執で会話終了も

OpenAIは2026年10月30日、ChatGPTの暴力防止策と18歳未満の利用者向け保護を強化すると発表した。未成年には暴力に悪用され得る武器関連の実用情報を制限し、全年齢を対象に、暴力への固執が見られる会話を自動終了する仕組みも開発する。発表した安全策は、今後数週間以内に順次導入を開始する予定だ。

■未成年への実用情報と、全年齢への事件情報を制限

OpenAIはすでに、利用者による暴力行為の計画・実行の支援を禁止し、18歳未満の利用者が武器を探したり入手したりするための支援を制限している。今回、その対象を、暴力に悪用され得る武器やセキュリティシステムの実用的な情報へ広げる。

未成年向けの追加制限は、質問が一見無害で、会話に暴力的な意図の兆候がない場合にも適用する。一方、暴力の予防や事態の沈静化について学ぶこと、支援を求めること、信頼できる大人とつながることには、引き続きChatGPTを利用できる。

全年齢の利用者には、過去の大規模な襲撃事件に関する回答にも追加制限を設ける。使用された武器や装備、その入手方法など、事件を詳細に再現する情報や、加害者の注目度を高めかねない被害規模の詳細な比較が対象となる。

事件の概要や被害者・地域社会への影響、危険の兆候の見分け方、暴力の予防については、引き続き理解を深められるようにする方針だ。こうした事件情報への制限は、利用者の年齢や質問の理由にかかわらず適用する。

■暴力への固執に介入し、保護者への通知も拡大

OpenAIは、暴力や他者への深刻な加害に固執する兆候が会話に現れた場合、ChatGPTがそのチャットを自動終了する仕組みに取り組んでいる。同じ理由で複数のチャットが終了した場合には、アカウントを一時停止することがある。

この取り組みは、会話をまたいで危険の兆候を捉える仕組みを発展させるものだ。同社は5月、以前の会話で見られた警告兆候を短く事実に即して要約し、後の会話で慎重な応答に役立てる方法を公表した。今後は直近の会話に暴力の兆候がある場合、悪用され得る情報の提供をさらに慎重に判断する。

保護者への通知には、ペアレンタルコントロールで親子のアカウントを連携する必要がある。OpenAIは7月、暴力に関する利用ポリシー違反で子どものアカウントが無効化された場合にも通知するよう対象を拡大した。今回、チャットの繰り返し終了によってアカウントが一時停止された場合にも、通知できるようにする。

同社は保護者向け通知の開発に当たり、オンライン上の暴力防止に取り組むMoonshotなどの専門家に助言を求めてきた。会話の自動終了についても、メンタルヘルスや暴力防止の専門家と連携し、介入のタイミングや方法を検討している。

■年齢推定と、成人が誤判定された場合の確認方法

ChatGPTの未成年向け保護は、登録された年齢に加え、行動やアカウントの情報から推定した年齢にも基づく。OpenAIは2026年1月20日に個人向けプランでの年齢推定モデルの展開を発表し、8月18日に学習支援や保護機能をまとめた「ChatGPT for Teens」を発表した。

年齢推定では、アカウントの作成からの期間、利用する時間帯、利用パターン、会話の一般的なトピックなどを参照する。推定は利用に伴って更新され、以前は成人向けの環境を使っていたアカウントも、18歳未満向けの環境へ移ることがある。

OpenAIの日本語ヘルプによると、この変更が行われた場合、利用者にはメールとChatGPT内の案内が届く。18歳以上の利用者は年齢確認パートナーのPersonaを通じて確認でき、成人と確認されれば未成年向けの追加保護が解除される。設定の「アカウント」にある「年齢」から、自分の年齢区分を確認できる。

Personaが求める情報は国によって異なり、リアルタイムの自撮り写真、政府発行の身分証明書、または両方となる。身分証明書と自撮り写真を照合する場合には、顔の特徴を使って本人の書類かどうかを確認する。

■年齢確認で扱われるデータとプライバシー

OpenAIの案内では、年齢確認用の身分証明書や自撮り写真はPersonaが扱い、確認後7日以内に削除する。OpenAIが受け取るのは、生年月日や年齢推定など、適切な利用環境を判断するための年齢関連情報だ。確認が完了したアカウントでは、年齢推定の適用も終了する。

Personaはサンフランシスコに拠点を置く本人確認企業で、2025年4月の資金調達時に企業価値20億ドル（約3160億円）を公表した。LinkedIn、Reddit、Robloxなどで採用されている。Discordも英国で限定的な試験を行ったが、2026年2月の説明では、試験後に継続採用を見送ったとしている。

Personaのプライバシーポリシーは、確認方式や国に応じて、端末識別子、IPアドレスから推定する大まかな所在地、公的登録簿などの第三者情報を扱う場合があると説明している。実際に収集する情報や確認内容は、導入企業が選ぶサービスや方式によって異なる。

2026年2月には、Personaの試験用環境でフロントエンドのソースマップが公開状態になっていたことが判明した。Malwarebytesによると、研究者は2456件のファイルにアクセスできたと報告した。Personaは、公開されたのは本番環境から隔離された試験用環境のコードだったと説明し、該当するサブドメインを停止した。

年齢確認には、個人情報の開示を抑える暗号技術の活用も研究されている。フランスの個人情報保護当局CNILの研究部門は、ゼロ知識証明を使い、サービス提供側に身元などを明かさずに年齢条件を満たすことを示す実証システムを公開している。

■通報実績を公表し、安全対策の報告書を新設

OpenAIによると、同社は2026年第3四半期に法執行機関への通報を200件超行った。会話から他者への差し迫った信憑性のある危害のリスクが認められた場合、法執行機関に通知する方針だ。

同社が2月26日にカナダのエバン・ソロモン人工知能・デジタル革新相へ送った書簡では、アン・M・オリアリー副社長が通報基準の強化を説明している。対象、手段、時期が会話に明示されていなくても、差し迫った暴力のリスクを評価できるよう、専門家と基準を柔軟化したという。

OpenAIは2027年初頭に、2026年7～12月を対象とする初の「コミュニティ安全レポート」を公開する。以後は6カ月ごとに更新し、危険の検知・調査・対応の仕組み、匿名化した事例、安全対策の有効性、ポリシー変更や関連データを示す計画だ。

■カナダの銃撃事件と米国での法的手続き

OpenAIの暴力対策を巡っては、カナダのタンブラー・リッジ銃撃事件への対応が問題となっている。AP通信によると、2026年2月10日、ブリティッシュコロンビア州で18歳のジェシー・バン・ルーツェラーが住宅と中等学校で8人を殺害した。

OpenAIはカナダ政府への書簡で、2025年6月に暴力関連のポリシー違反で同人のアカウントを停止した一方、当時は警察への通報基準に達していないと判断したと説明した。事件後には別のアカウントの利用を発見し、警察に情報を共有したという。同社は、強化後の基準で当時のアカウントを発見したなら、法執行機関に通報するとしている。

カナディアン・プレスによると、デビッド・イービー州首相は2月、外から見るとOpenAIには事件を防ぐ機会があったように見えると述べ、判断の説明を求めた。AP通信によると、サム・アルトマンCEOは4月、停止したアカウントについて警察に知らせなかったことを地域社会に謝罪した。

Global Newsによると、9月2日には被害者側の訴訟が計37件に達した。州政府も9月21日、カリフォルニア州で提訴すると発表した。ニキ・シャーマ州司法長官は、事件前の脅威を警察に通知しなかったことについて責任を問うとしている。

米フロリダ州司法長官は4月21日、2025年4月のフロリダ州立大学銃撃事件に関してOpenAIの刑事責任を調べる捜査を発表した。州の発表では、検察当局が実行犯とChatGPTの会話記録を確認したうえで捜査を開始したとしている。

同州は6月1日、ChatGPTの危険性の説明などを巡り、OpenAIとアルトマン氏を提訴した。訴状は故意の消費者保護法違反1件につき最大1万ドルの民事制裁金などを求めている。ロイターによると、州司法長官は請求額が数十億ドルに達する可能性に言及した。同州はOpenAIに対する州主導の訴訟として初めてだと説明している。

■第三者評価は保護者通知の信頼性を問題視

Common Sense MediaのYouth AI Safety Instituteは10月7日、ChatGPT for Teensを最低区分の「許容できないリスク」と評価した。同研究所は提供開始前後に4000件超のプロンプトを試し、8つのAI原則に基づく評価のうち、子どもの安全と人を第一に考える原則の2項目を最低区分とした。

同研究所によると、新たに保護者と連携した十数件以上のアカウントで、自殺念慮、自傷、食行動の問題について最長1時間会話しても通知が届かなかった。通知を確認できたのは、センシティブな話題の会話履歴が数週間分蓄積された古いアカウントだったという。

トム・シーゲル事務局長は、保護機能や安全通知について親に誤った安心感を与えかねないと指摘した。ニューヨーク・タイムズの取材に対し、Common Sense Media創設者のジム・ステイヤー氏も、未成年向けの提供を停止すべきだと述べた。同研究所はOpenAI Foundationなどから資金を受ける一方、評価の編集上の独立性を維持すると説明している。

KQEDによると、OpenAIは、保護者通知が有効になるまで連携後数時間かかり、試験の多くが有効化前に完了した可能性を挙げて評価に異議を唱えた。同研究所は、有効化に要する時間の前後で試験し、結果は変わらなかったとしている。

■他社も未成年保護と保護者向け機能を見直し

AIサービス各社も未成年向けの対応を見直している。Character.AIは、2025年11月25日までに18歳未満の利用者による自由形式のAIチャットを終了すると発表した。同社は独立非営利組織「AI Safety Lab」を設立・支援し、AI娯楽分野の安全性研究を進める方針も示した。

Character.AIを巡っては、フロリダ州の14歳の利用者の死亡を含む訴訟が起こされていた。ワシントン・ポストによると、同社とGoogleは2026年1月、未成年への被害に関する5件の訴訟で和解に原則合意し、詳細条件は非公開とした。GoogleはCharacter.AIと非独占的な技術ライセンス契約を結んでいる。

Metaは2026年1月、既存のAIキャラクターへの未成年のアクセスを世界で一時停止すると発表した。また、同社の日本語発表によると、10月30日にはMeta AIとの会話に自殺や自傷のリスクが示唆された場合の保護者通知を、日本を含む世界へ拡大した。通知はペアレンタルコントロールを利用する保護者が対象となる。

米連邦議会では6月29日、下院がAIチャットボットなどを対象とする「KIDS Act」を可決した。10月26日付の議会資料では、同法案は上院の商務・科学・運輸委員会に付託された段階となっている。

元記事: ChatGPT Blocks Teen Weapons Access; Adults Misclassified as Teens Must Submit Government ID