Meta AI、10代の自傷リスクを検知し保護者へ警告する新機能を導入――有人レビュー経て通知
2026年7月19日 14:49
Metaは2026年7月16日（現地時間）、AIチャットボット「Meta AI」が10代の利用者の自殺や自傷行為の兆候を検知した際、保護者にリアルタイムで警告（アラート）を送信する機能を発表した。この機能は、AIによる検知後に人間のモデレーターによる目視確認（レビュー）を経て通知される2段階のシステムを採用している。米国などで先行導入され、2026年末までに世界展開される予定だが、家庭環境に問題を抱える若者へのプライバシー上のリスクも指摘されている。
■AI検知と有人レビューを組み合わせた新システム
Metaは7月16日（現地時間）、10代の利用者が自殺や自傷行為を考えている可能性をAIチャットボットが検知した際、保護者にリアルタイムで警告を送信する機能の提供を開始した。大手プラットフォームとしては初の試みであり、AIが検知したメンタルヘルスのシグナルを家族に直接転送する仕組みとしては、これまでにない踏み込んだ対応となる。この機能は、Instagramの保護者による監視機能（ペアレンタルコントロール）を設定している世帯を対象に、米国、英国、オーストラリア、カナダで提供が開始されており、2026年末までに世界全体へ拡大される予定だ。
このシステムが既存の対策と大きく異なるのは、警告そのものだけでなく、その背後にある処理プロセスにある。Metaは、10代の利用者がMeta AIと交わす会話から自傷行為の兆候（微妙な表現を含む）をスキャンする専用 of AI分類システムを構築した。さらに、フラグが立ったすべてのチャットについて、保護者のスマートフォンに通知が届く前に、必ず人間のモデレーターによるレビュー（目視確認）を経ることを義務付けている。この2段階の設計は、自動化された危機検知には限界があり、誤警報が親子間の信頼関係や、若者が将来的に助けを求める意欲に悪影響を及ぼしかねないという、技術的な制約を考慮したものだ。
Metaはこのトレードオフを率直に認めている。同社によると、利用者の意図が曖昧な場合は「念のため」保護者に警告を送信する方針をとっているため、実際には深刻な危機が生じていない家庭にも通知が届く可能性があるという。そのため、警告通知には専門家が監修したリソースが同封され、保護者が通知に過剰反応するのではなく、子どもと対話を始めるきっかけにできるよう配慮されている。
■段階的に強化される保護者向け監視ツール
今回の発表は、Metaが2026年に入ってから進めてきたAI監視ツールの段階的な強化における「第3のステップ」に位置づけられる。同社は2026年2月、10代の利用者がInstagram上で自殺や自傷行為に関する言葉を短時間に繰り返し検索した際、保護者に通知する機能の提供を開始した。続く2026年4月には、監視機能を利用している保護者に対し、子どもが過去7日間にMeta AIと会話した大まかなトピックのカテゴリ（会話の具体的な内容は除く）を表示する機能を導入している。今回の新機能は、検索ワードだけでなく会話そのものを対象とし、受動的な情報提供にとどまらず、能動的な警告を送信する点でさらに一歩踏み込んだものとなっている。
保護者が受け取る警告には、子どもとMeta AIとの実際の会話テキストは含まれない。複数のメディアの報道によると、通知は「フラグが立った会話が発生したこと」を示す一般的な内容であり、専門家によるリソースが提供されるものの、チャット内容そのものは再現されない。この設計は、保護者への情報共有と子どものプライバシー保護のバランスをとるためのものだが、警告が届くこと自体が「何らかの懸念される発言があったこと」を意味することになる。
なお、会話にフラグが立ちレビューが行われた際、Meta AIは利用者本人に対しても、相談窓口（ヘルプライン）や信頼できる大人に相談するよう直接促す。今回の新システムは、本人へのアプローチを維持したまま、保護者への通知ルートを並行して追加する形をとっている。
■専門家による監修とシステムの限界
Metaによると、今回の検知基準の開発にあたり、10代のメンタルヘルスを専門とする75人以上の公認精神保健専門医に意見を求めたという。専門医らは、危機に関連する何百ものプロンプトに対するAIの回答をレビューし、適切さやトーン、改善点について構造化されたフィードバックを提供した。このフィードバックは、Meta AIが会話を突然打ち切るのではなく、外部のリソースを紹介する前に利用者の感情に寄り添うようにするなど、リアルタイムの対話品質の向上にも活かされている。
韓国・韓国外国語大学のカウンセリング心理学教授であるチヨン・リー（Ji-yeon Lee）博士は、目先の回答だけでなく、会話の文脈や多様なリスクレベルまで検証した臨床レビュープロセスの厳格さに感銘を受けたと述べている。また、インターネット安全性の非営利団体「ConnectSafely」の共同創設者兼CEOであるラリー・マギッド（Larry Magid）氏もこのアプローチを支持し、子どものプライバシー保護と保護者への必要な情報提供のバランスが適切に保たれていると評価した。
一方で、このシステムには限界も指摘されている。AIモデルがリアルタイムで会話を監視し、フラグが立ったチャットをMetaの従業員が目視確認した後に通知が送られる仕組みだが、Metaは検知モデルの具体的なアーキテクチャ、有人レビューチームの規模、フラグ検知から通知までの遅延時間、内部テストにおける誤検知率などを公表していない。これらの情報は極めて重要である。レビューの速度は警告がタイムリーに届くかを左右し、誤検知率は保護者が警告を過剰に受け取ることで、結果的に警告に対する感度が鈍くなってしまうリスクに直結するためだ。
また、2025年8月に非営利団体Common Sense Mediaの「Youth AI Safety Institute」が実施した評価では、Meta AIの自傷行為検知システムは「根本的に機能していない」と批判され、自傷行為の意図を明かした10代のアカウントに対して適切な対応や安全リソースが提供されなかったことが指摘されていた。今回の新システムは、この失敗に対する明確な改善策と位置づけられているが、同社は2025年の基準値と比較して検知率がどのように向上したかを示す具体的なデータを公表していない。
■緊急通報サービスとの連携も視野に
Metaは同日、Meta AIとの会話（大人・子ども問わず）から自傷や自殺の差し迫った危険が察知された場合、緊急通報サービスに直接連絡する別の機能も開発中であることを明らかにした。ただし、具体的な導入時期は公表されていない。
これは、FacebookやInstagramで既に実施されている、自殺の差し迫った危険性がある投稿を特定した際に緊急通報を行う取り組みを拡張するものだ。同社によると、過去1年間で世界全体で1万9000件以上の緊急通報連携を行い、救急隊員らによる安否確認（ウェルネスチェック）につながったという。しかし、このプロセスをAIとの会話に適用することはより複雑である。会話のシグナルは公開投稿よりも判定が難しく、緊急通報における誤検知は、保護者への通知とは異なる重大な社会的影響をもたらす可能性があるためだ。
さらにMetaは、Instagramで保護者が設定できるより制限の厳しいモード「制限付きコンテンツ」設定を、Meta AIとの会話にも適用すると発表した。10代のアカウントは自動的に13歳以上向けのデフォルト設定となり、恋愛に関する会話やアルコール関連情報の提供などが制限されているが、「制限付きコンテンツ」設定ではさらに広範なトピックが制限される。ただし、追加される制限の完全なリストは公表されていない。
■救済の網から漏れる「家庭に問題を抱える若者」のリスク
この新しい警告システムは、Instagramの保護者による監視機能が有効になっているアカウントにのみ適用される。現在の仕様では、16歳未満は自動的に監視対象となり自主的な解除はできないが、16〜17歳は監視を終了することを選択できる。また、監視機能を有効にするには、保護者が自身のアカウントと子どものアカウントを能動的に連携させる必要がある。
この構造は、重大な「救済の網の漏れ（カバー率のギャップ）」を生み出している。最も危機的な状況にあり、セーフガードを必要としている若者ほど、監視機能に登録されていない可能性が高いためだ。例えば、家庭環境に問題を抱え、理解のない親に対して自身の性的指向や性自認（LGBTQ+など）を明かしていないティーンエイジャーは、本来助けとなるはずのシステムによって、逆に最も深刻な危害を被るリスクがある。LGBTQ+の若者がMeta AIに悩みを打ち明けた際、親が監視機能に登録していれば、そのフラグが立った会話の存在が、まさに苦痛の源である家族に通知されてしまう可能性がある。
複数のLGBTQ+擁護団体は、若者の安全に関する法制化の文脈において、この保護者通知システムの構造的懸念を指摘してきた。カリフォルニア州の「子供をソーシャルメディア依存から守る法案（SB 976）」に対しては、一律の保護者管理要件が若者の意に反したカミングアウト（アウティング）につながり、理解のない家族にさらされるリスクがあるとして、LGBTQ+擁護派が明確に反対を表明した。団体「LGBT Tech」も、保護者の同意義務化は若者を孤立させ、かえって安全を脅かす可能性があると指摘している。Metaの新しいシステムには、このリスクに対処する仕組みは含まれていないとみられる。
■巨額訴訟と規制強化の背景
今回のMetaの発表は、同社がソーシャルメディア史上最大規模の法的措置に直面している中で行われた。米国41州の司法長官は、Metaのプラットフォームが未成年者を依存させるように設計されているとして、最大1.4兆ドル（約226.8兆円、1ドル＝162円換算）の制裁金を求める訴訟を起こしており、2026年8月にはオークランドで裁判が開始される予定だ。Metaは、組み込みの制限機能を備えた「ティーンアカウント」を含む30以上の安全ツールの存在を、若年層の保護に対する自社の取り組みの証拠として挙げてきた。今回の発表は、その防衛策を強化するものであると同時に、他の主要なAIプラットフォームが現在提供していない、実質的な機能拡張を示すものでもある。
この動きは連邦法による法的な義務化に先んじるものだ。現在、米国には10代の利用者が危機の兆候を示した際にAIプラットフォームが保護者に連絡することを義務付ける法律は存在しない。しかし、英国の「オンライン安全法（Online Safety Act）」やオーストラリアの「eSafety」フレームワークなどは、未成年者向けプラットフォームを運営する企業に対して規制上の義務を課しており、こうした外部からの圧力が、今回の世界展開のスケジュールを加速させた可能性がある。
※もしあなたやあなたの身近な人が困難な状況にある場合は、厚生労働省の相談窓口や、各種いのちの電話、SNS相談などを利用してください。
■注目ポイントQ&A
●保護者は、子どもとMeta AIとの実際の会話テキストを受け取ることができますか？
いいえ。提供開始時点の複数の報道によると、通知に会話の具体的な内容は含まれません。フラグが立ち、レビューが行われた会話が発生したことのみが通知され、保護者が子どもにアプローチしやすくなるよう、専門家が監修したリソースが提供されます。
●Meta AIは、保護者に警告を送る前に、自傷行為の兆候を検知した時点でどのような対応をとりますか？
Meta AIは、利用者本人に対して相談窓口（ヘルプライン）を紹介し、信頼できる大人やカウンセラーに相談するよう直接促し続けます。今回の保護者向けアラートは並行して機能する追加のルートであり、本人への対応を置き換えるものではありません。
●保護者による監視機能に登録している場合、理解のない親を持つLGBTQ+の若者にリスクが生じる可能性はありますか？
はい。これは保護者通知システム全般において指摘されている懸念であり、Metaの現在の設計ではこの問題への対処は含まれていないとみられます。性的指向や性自認に関する悩みを抱える若者がMeta AIに相談した際、親が監視機能に登録していると、その悩みの原因である親に通知が届いてしまうリスクがあります。LGBT TechやGLAADなどの団体がこの課題を指摘しています。
●Meta AIの検知システムが、実際には危機的状況ではない会話に誤ってフラグを立てた場合はどうなりますか？
Metaは、利用者の意図が曖昧な場合には「念のため」保護者に警告を送信する仕様であることを明言しています。そのため、実際には深刻な状況にない場合でも通知が届くことがあり、同社は検知精度の向上に努めつつも、現時点ではこれが適切なアプローチであるとしています。なお、具体的な誤検知率は公表されていません。
元記事: Meta AI Adds Parental Crisis Alerts: Human Review Flags Teen Self-Harm Signals