Google DeepMindとシンガポール、会話から詐欺を検知する端末内AIモデルを開発

Google DeepMindとシンガポール政府技術庁（GovTech Singapore）は2026年10月、スマートフォン上で会話の流れを分析し、詐欺の兆候を検知するAIモデルを発表した。Googleのオープンモデル「Gemma」を同国の詐欺手口に合わせて調整したもので、アプリへの導入は段階的に進める。一般向けの提供時期は示されていない。

■会話の流れから詐欺の兆候を捉える

この取り組みは、10月にシンガポールで開かれたSingapore International Cyber Week（SICW 2026）で紹介された。2026年5月にGoogleと同国のデジタル開発・情報省が発表した国家AIパートナーシップの一環として、Google DeepMindとGovTech Singaporeが開発を進めている。

シンガポール警察によると、2026年上半期に報告された詐欺は1万6821件、被害額は約4億1060万シンガポール・ドル（約507億円）だった。件数は前年同期比14.4％、被害額は17.9％減ったが、投資詐欺では約1億6980万シンガポール・ドル（約210億円）、政府職員をかたる詐欺では約9080万シンガポール・ドル（約112億円）の被害が生じた。Google DeepMindは、2019年以降の詐欺被害額が累計40億シンガポール・ドル（約4940億円）を超えるとしている。

警察の統計では、2026年上半期に報告された詐欺の80.8％で、被害者自身が送金を操作していた。相手を信用させて送金へ誘導する手口では、単一のメッセージだけでなく、やり取りの中で依頼がどう変化したかも手掛かりになる。今回のモデルは、そうした複数回にわたる会話を分析対象とする。

■軽量な選別とGemmaによる分析を組み合わせる

Google DeepMindが公表した仕組みは2段階だ。まず、端末上の軽量な分類器が受信メッセージを選別し、不審な可能性がある場合に、調整済みのGemmaが過去のやり取りを含む広い範囲を分析する。通常のメッセージには後段の処理を使わず、スマートフォンの電力消費を抑える設計だ。

会話に操作的なパターンを検知すると、端末上に警告を表示し、機微な情報の共有や送金の前に注意を促すという。第2段階では前後の文脈を踏まえて判定するため、最初の選別で疑わしいとされた会話を、通常のやり取りとして扱うこともできる。

Gemmaには、端末での動作を想定した軽量モデルがある。Googleは2026年4月、モバイル機器向けの派生モデルを含む「Gemma 4」をApache 2.0ライセンスで公開した。ただし、今回の詐欺検知モデルについてGoogle DeepMindが明らかにした名称は「Gemma」であり、採用した世代や端末上で必要な保存容量は示していない。

■利用者の会話は端末内で処理

Google DeepMindの説明では、アプリに導入された際、モデルが会話へアクセスするのは利用者が同意した場合に限られる。分析は端末上で行う設計で、同社とシンガポール政府は、この仕組みを通じて利用者の会話を閲覧できないとしている。

端末内での処理は、メッセージをサーバーへ送って分析する方式とは異なる。Google DeepMindは、エンドツーエンド暗号化を用いるメッセージングサービスでも、利用者保護と通信の秘匿性を両立させるための設計として位置付けている。

モデルの調整には、GovTech Singaporeが管理するGoogle Cloud環境「Sovereign Sandbox」を使った。Google DeepMindによると、私的な通信や個人を識別できる情報を学習から除外し、匿名化した詐欺報告と脅威情報を利用した。合成した対話や現地のデータを使い、さまざまな詐欺やなりすましの手口に対する試験も行った。

GovTech SingaporeのTrust and Safety担当ディレクター、Mark Chen氏は、個人の通信を端末内に保ちながら、地域に特有の標的型詐欺を捉える取り組みだと説明している。

■シンガポールの手口に合わせて調整

Google DeepMindは、汎用モデルでは地域固有の詐欺を捉えにくい場合があるとして、シンガポールの公的機関、銀行、著名人へのなりすましや、現地で広がる手口を含む会話データでGemmaを調整した。機関名や地域特有の言い回しを会話の文脈とともに扱うことを狙う。

同社は今後、シンガポール政府との協力や他国での応用可能性について、さらに情報を共有する方針だ。GovTech Singaporeが管理する環境で地域の脅威情報を用いてモデルを調整し、利用時の会話分析は端末内で行うという、学習と運用の役割分担が今回の取り組みの特徴となる。

■アプリへの導入は段階的に

Google DeepMindは、モデルのアプリへの導入をシンガポール政府と段階的に進めるとしている。どのアプリで、いつ一般利用者が使えるようになるかは示していない。会話を警告対象にする仕組みでは、通常のやり取りをどう判定するかも、利用時の体験を左右する。

シンガポールでは、メッセージングサービスなどを対象とする詐欺対策も進む。警察は2026年8月、指定したオンラインサービス向けの行動規範を新たに発行した。9月には、規範などへの違反に対する最大1000万シンガポール・ドルの制裁金を盛り込んだ法案が議会を通過した。

■国家AI政策と既存の詐欺対策

デジタル開発・情報相のJosephine Teo氏はSICW 2026で、GovTech SingaporeとGoogle DeepMindによる端末上の詐欺検知を、政府が進める対策の一つとして紹介した。同氏によると、GovTech Singaporeと警察が共同開発した別のシステムは、1日に60万件を超えるウェブサイトを調べ、悪質なサイトの妨害にも使われている。

警察の2026年上半期の報告では、詐欺に関連する携帯電話回線4万7500超、WhatsApp回線3万7500超、オンライン上のアカウント名や広告3万1600超、ウェブサイト5万2200超を妨害した。端末上で会話を分析する今回のモデルは、こうした詐欺対策に加わる新たな手法として開発されている。

シンガポールは2026年1月、エージェント型AIの運用に関するガバナンス枠組みを発表し、3月には今後3年間で企業1万社のAI導入を支援し、労働者10万人の活用能力を高める国家AI影響プログラムを打ち出した。Google DeepMindも同年、インド、韓国、シンガポールとの国家レベルのAI協力を発表している。今回の詐欺検知モデルは、そのうちシンガポールとの協力で進む取り組みだ。

元記事: Singapore and Google DeepMind Deploy On-Device AI That Detects Scams Without Cloud Access