MetaのAIチャットボット悪用か、著名Instagramアカウントへの不正アクセス疑惑

MetaのAIを活用したサポートチャットボットを悪用し、Instagramの著名アカウントへの不正アクセスが行われた可能性があると報じられ、同社への批判が高まっている。

オバマ政権時のホワイトハウスや米国宇宙軍最先任上級曹長などのアカウントが被害に遭ったとされているが、この手法の真偽や詳細な影響範囲については公式に確認されていない。セキュリティ専門家は、機密性の高いアカウント復旧機能におけるAI運用のリスクを懸念している。

MetaのAIを活用したサポートチャットボットをハッカーが悪用し、Instagramの著名アカウントへの不正アクセスを行った可能性があるとの報道を受け、同社に対する批判が高まっている。この疑惑により、機密性の高いアカウント管理や復旧機能に人工知能（AI）を使用することのリスクについて、懸念が再燃している。

今回の議論は、オバマ政権時のホワイトハウス、米国宇宙軍最先任上級曹長、および美容小売大手のセフォラ（Sephora）に関連するアカウントを含む、複数の著名なInstagramアカウントがハッキング被害に遭ったと報じられたことから始まった。

■指摘されている悪用の手口
メッセージングアプリ「Telegram」上のサイバーセキュリティおよびハッカーコミュニティ内で共有されたスクリーンショットや動画によると、攻撃者はMetaのAIサポートチャットボットを操作する手法を発見した可能性があるという。

英メディア「The Guardian」の報道によれば、ユーザーがチャットボットとの会話を開始し、標的とするInstagramアカウントに紐付けられたメールアドレスの変更を要求できる状態であったとされる。

一部の事例では、攻撃者が特定のInstagramユーザー名を提供し、自身が管理する新しいメールアドレスにアカウントを紐付けるようAIシステムに指示したと報じられている。

この手法が成功した場合、アカウント復旧オプションの送信先が変更され、不正なユーザーが認証情報をリセットして被害者のアカウントにアクセスできるようになる可能性がある。

セキュリティ専門家らは、ユーザーのアイデンティティ保護においてアカウント復旧システムが果たす重要性を踏まえ、指摘されている悪用手法の簡便さに懸念を表明している。

■AIを活用したカスタマーサポートの拡大を進めるMeta
今回の議論は、MetaがFacebookやInstagramにおいてAI主導のカスタマーサポートを強力に推進している中で発生した。

同社は今年初め、パスワードのリセットやアカウントの復旧、セキュリティ関連の問題を抱えるユーザーを支援するために設計された自動サポートツールへのアクセスを拡大した。

Metaは、このAI搭載システムを従来のサポート窓口に代わる迅速かつ効率的な選択肢としてアピールし、基本的なトラブルシューティングの提案にとどまらず、直接的な解決策を提供できるとアピールしていた。

このシステムの展開において、アカウントのセキュリティと復旧は特に強調されていた重要分野の一つであった。

■人間による監視の強化を求めるユーザーの声
米テックメディア「404 Media」の報道によると、被害を受けた多くのユーザーは、セキュリティインシデントが発生した際に人間のサポート担当者に対応してもらうことが困難である現状も批判している。アカウントが乗っ取られたと主張する個人からは、自動化システムから人間による対応へと案件をエスカレーションすることが困難であるとの報告が上がっている。

多くの人々がAIへの依存を強める中、企業はカスタマーサービス業務におけるセキュリティを強化すべきだという指摘がある。

自動化によって効率は向上するものの、セキュリティ専門家らは、機密性の高いアカウント機能にはより強力な本人確認手順と、人間による審査への容易なアクセスが引き続き必要であると主張している。

■続くAIセキュリティを巡る議論
AIはそもそも完璧なものではないが、何よりも人間の安全とプライバシーが最優先されるべきである。Metaはこの問題に対処するため、AIサポートチャットボットを見直す必要があるだろう。

企業が顧客サポートにAIを組み込み続ける中で、利便性、自動化、ユーザー保護のバランスをどう取るかについて、今後さらに強い圧力に直面する可能性がある。これはAIを利用するすべての企業にとって難しい課題だ。