ChatGPTの推薦を歪める「ステルスマーケティング」の脅威、RedditがAIで1日2万5000件の偽投稿を検知

2026年7月9日 18:55

ChatGPTなどのAIアシスタントが製品を推薦する際、その根拠となるRedditの書き込みが、実はマーケティング企業によって仕込まれた「偽の口コミ」である可能性が浮上している。Redditは2026年7月6日（現地時間）、大規模言語モデル（LLM）を活用してこうしたスパムコンテンツの検知を開始し、毎日2万5000件の不審な投稿やコメントを排除していると発表した。しかし、AIの技術的な仕組みそのものに起因する構造的な脆弱性があるため、プラットフォーム側の対策だけではこの問題を完全に解決することはできないと専門家らは指摘している。

■読者ではなく「AIボット」に向けて仕込まれる偽投稿

検索エンジン最適化（SEO）ツールを提供するSemrushの調査によると、RedditはChatGPT Search、Perplexity、GoogleのAI Modeなどの回答において、最も頻繁に引用されるドメインとなっている。OpenAIや、Geminiの親会社であるAlphabetは、Redditとコンテンツライセンス契約を結んでおり、自社のAIツールに同プラットフォームのフォーラムデータを学習・参照させている。Redditが重宝されるのは、AIが自力では生成しにくい「生々しく、最新で、主観的な人間の会話」が存在し、ユーザーがそれを信頼できるアドバイスとして扱っているからだ。

しかし、この信頼性こそが現在、格好の標的となっている。

AI時代において、従来のSEOに代わる「GEO（Generative Engine Optimization：生成エンジン最適化）」と呼ばれる手法が登場した。従来のSEOがGoogleの検索結果で上位表示を狙うのに対し、GEOはAIアシスタントが合成して出力する回答の中に自社ブランドを登場させることを目的とする。RedditのフォーラムはAIツールに頻繁に参照されるため、ここに説得力のあるコメントを仕込むことが、AIチャットボットの推薦を獲得する最も直接的なルートとなっている。

この手法は、単なるスパムよりも巧妙だ。GEOによって仕込まれたコメントは、競合する2つの製品の違いを正確に説明した上で、最終的に依頼元のクライアント製品へと誘導する。また、信頼性を高めるために、あえて本物らしい欠点を交えることもある。ボットアカウントは、商業的な推薦を行う前に、何週間も無害で本物に見える投稿を繰り返して信頼を築く。投稿の一貫性だけをチェックする従来のモデレーションシステムでは、このようなアプローチを見抜くことは極めて困難だ。

GEOクライアント向けにRedditのコンテンツ作成を手がけるReachLLMのシャンジラ・アフメド氏は、同社の投稿が公開から1日足らずでChatGPTの回答に採用された実績があると、2026年7月6日にBloombergに対して認めた。同氏は、一部の投稿がRedditによって削除されたことを認めつつも、削除されたコンテンツを絶えず新しいものに置き換えるのが同社の戦略だと語った。また、404 Mediaの報道によると、RedRoverという別の企業は、GoogleとChatGPTの両方のランキングに影響を与えるため、AIエージェントを配備してRedditやブログにコンテンツを大量投稿していると公然と宣伝している。GEO業界全体には巨額の資金が流入しており、AI回答におけるブランドの露出度を追跡する分析企業Profoundは、2026年2月の資金調達ラウンド（シリーズCで9600万ドルを調達）を経て、評価額が10億ドル（約1630億円、1ドル＝163円換算）を突破したと報じられている。

■キーワードフィルターをすり抜けるスパムをAIで検知

2026年7月7日に公開されたブログ投稿で発表されたRedditの対抗策は、「LLMにはLLMで対抗する」というものだった。

アップグレードされた検出システムは、単に低品質な文章をスキャンするだけではない。導入されたLLMは、テキスト、アカウントの行動、ネットワークパターンを総合的に分析し、従来のシステムでは見落とされていた「極めて巧妙で組織的な偽の行動や、不自然な誇大宣伝のパターン」をあぶり出す。新規アカウントは、コンテンツが投稿される前の作成時点で不審なシグナルがないか審査される。また、システムはソーシャルグラフを構築し、互いに同調して行動するアカウントのクラスター（組織的なキャンペーンの特徴的な兆候）を検知する。この展開に詳しい関係者によると、モデルは特定のAI執筆ツールに関連する文体パターン（繰り返されるフレーズ構造、不自然な意味的一貫性、人間らしからぬ投稿ペースなど）を探索しているという。

2026年第1四半期の実績は、前四半期と比較して測定可能な効果を示した。Redditのシステムは、ユーザーの目に触れる前に1日あたり約2300万件のスパムビューをブロックし、毎日約2万5000件の新しいスパム投稿やコメントをキャッチし、約200万件の不正な投票を取り消した。ユーザーがスパムに遭遇する割合は約20％減少したという。

この発表のタイミングは注目に値する。コーネルテックの研究者らは2026年5月、「Deep-Research Agents Can Be Poisoned via User-Generated Content（ディープリサーチエージェントはユーザー生成コンテンツを通じて汚染され得る）」と題したプレプリントを発表した。この論文では、わずか13語という短い仕込みテキストによって、AIのディープリサーチエージェントを誘導し、制御されたテスト環境において最大100％の確率で架空の製品を推薦させることが可能であると実証された。論文の筆頭著者であるティンウェイ・ジャン氏は404 Mediaに対し、AIリサーチエージェントは「ランダムなRedditのコメント」と「政府の公式ウェブサイト」をほぼ同等の信頼度で扱っていると指摘した。Redditの発表は、この研究が公表されてから約7週間後のことだった。

■構造的な脆弱性：Redditの対策だけでは勝てない理由

Redditは自社のフォーラムをクリーンにすることはできても、GEOスパムが突く根本的な欠陥を塞ぐことはできない。

現在、多くのAIアシスタントがリアルタイムで質問に答えるために採用している技術アーキテクチャは「RAG（検索拡張生成）」と呼ばれる。ユーザーがChatGPTやGeminiに製品の推薦を求めると、システムは事前学習された知識だけに頼るのではなく、リアルタイムでWeb検索を実行し、最も関連性が高いと判断したページを取得して、それらを統合した回答を引用元付きで出力する。RAGがあるからこそ、AIアシスタントは学習データのカットオフに縛られず、先週の出来事についても回答できる。そしてRAGは、学習済みの知識よりも、検索によって取得したコンテンツを優先するように設計されている。その方が、より最新で具体的な情報を提供できるからだ。

しかし、この設計原則こそがGEOが突く脆弱性そのものである。仕込まれたRedditのコメントがGEOの攻撃ベクトルとして機能するのは、Redditのモデレーションが失敗したからではなく、それを取得するAIシステムが外部のWebコンテンツを信頼するように構築されているからだ。RAGベースのAIアシスタントにインデックスされるプラットフォーム（Reddit、Wikipedia、Quora、YouTube、その他あらゆるオープンフォーラム）は、すべて同様の脆弱性を抱えている。Redditがコンテンツを監視することは、一つのプラットフォームにおける攻撃対象領域を減らすことにはなるが、オープンWebがインデックスされ信頼されている限り、他のあらゆる場所で同じ攻撃メカニズムが有効であるという事実は変わらない。

コーネル大学の研究者らは、調査結果の中でこの点を明確にしている。標準的なAI生成スパム検出ツールを、GEOに最適化された汚染テキストに対してテストしたところ、検出ツールは偽のコンテンツを、周囲の本物の人間のコメントよりも「流暢で信頼できる」と評価した。GEOの最適化プロセスは、まさにそうした検出テストをクリアするようにテキストを設計しているため、検出機能が裏目に出た形だ。このギャップを埋めるには、AIアシスタントがオープンWebのコンテンツに依存するのをやめる（最新情報を得るための有用な機能を捨てる）か、インターネット規模で情報源の品質検証を解決するかのどちらかが必要だが、いずれもすぐに実現する見込みはない。

Redditのボランティアコミュニティは、現在もモデレーションの中心的な役割を担っている。2025年7月から12月にかけて、投稿やコメントの削除の52％以上をコミュニティモデレーターが処理した。元Twitterの信頼と安全担当エグゼクティブであるアレックス・ポプケン氏はFast Company誌で、人間のモデレーションが伴わなければAIモデレーションは劣化すると主張している。自動化システムはパターンを捉え、人間のモデレーターは文脈を捉えるからだ。Redditによると、英語におけるヘイトスピーチや暴力的なコンテンツの検知から執行までの時間は現在5秒未満に短縮されているという。これは大きな進歩であると同時に、自動化システムが「自信満々に誤判定を下す」領域でもある。

■GEO対策の進化と今後の展望

Redditに何千ものAI生成コメントを投下し、それがそのまま放置されることを期待する時代は終わりつつあるかもしれない。Redditの新しい検知システムは稼働しており、2026年第1四半期の実績は無視できないものだ。しかし、GEO業界も適応していくだろう。ReachLLMのアフメド氏は、削除されたコンテンツを置き換えるために新しいコンテンツを生成し続けるという同社の戦略を明言している。より高度なGEOオペレーションは、AIの下書きに対する人間による大幅な編集、検知可能な特徴を避けるための慎重なプロンプトエンジニアリング、あるいは本物のRedditユーザーにお金を払って自然な推奨投稿をしてもらうといった手法へと移行していくだろう。後者のアプローチは取り締まりがより困難でコストもかかるが、表面的には違法ではない。

Redditが自力で解決できないのは、AI企業側における「情報源の品質に対する責任」の問題だ。コーネル大学の研究者らは、商用のAIディープリサーチシステムがRedditと他の情報源をどのように扱うかにおいて、あるパターンを特定した。OpenAIの「Deep Research」は、調査データにおいてRedditなどのユーザー生成プラットフォームを引用した割合が約0.4％にとどまり、何らかの情報源品質フィルタリングを適用していることを示唆した。一方で、Geminiの「Deep Research」はユーザー生成コンテンツを12.1％の割合で引用しており、脆弱性にさらされる割合が大幅に高かった。どちらの数値も、OpenAIやGoogleから公式な確認は得られていない。しかし、この差は重要だ。ChatGPTのフィルタリングを突破できないGEOキャンペーンであっても、ユーザーが使用するAIシステムによっては、Geminiのユーザーに届いてしまう可能性がある。

米連邦取引委員会（FTC）が2024年10月に施行した「消費者レビュー規則」は、偽のレビューやSNS上の影響力を偽装する行為を禁止しており、違反1件につき最大5万3088ドル（約865万円、1ドル＝163円換算）の民事罰を科している。FTCは2025年12月に同規則に基づく最初の警告書を送付した。しかし、現在の規制環境がGEOキャンペーンに対して実効性のある取り締まりにつながるかは不透明だ。警告書を送付したのと同じ月に、FTCはAI執筆ツール「Rytr」に対する従来の偽レビュー訴訟を、ホワイトハウスのAIアクションプランが掲げる「AIイノベーションに過度な負担をかけない」という方針を理由に覆している。

Redditの対抗策は、オープンWeb全体に広がる問題に対する、プラットフォーム側による最も目に見える対応だ。もしRedditでスパムが勝利すれば、それは何百万人もの人々が毎日受け取るAIの回答の中でもスパムが勝利することを意味する。AI企業が、この構造的な脆弱性に真に対処できるような情報源品質フィルタリングを適用するかどうかについて、公に回答した企業はまだない。

■AIが「読んだもの」を信頼できるか？

GEOが暴き出している核心的な問題は、スパムそのものではない。スパムは常に存在してきた。問題は、現代のAIアシスタントがユーザーにスパムを直接見せて判断を仰ぐのではなく、代わりにそれを読み、パターンを抽出し、自信に満ちた引用付きの推薦回答へと圧縮して提示することだ。情報源に偽の合意（サクラの意見）が仕込まれていた場合、AIはその操作を中立的な響きを持つ回答へと「洗浄」してしまう。ユーザーが目にするのはキャンペーンの実態ではなく、生成された回答だけだ。

Redditが死守しようとしている「AI企業がライセンス契約を結ぶ価値を見出すほどの、プラットフォームの信頼性（本物の意見）」を維持できるかという問いは、AI推薦システムを利用するすべてのユーザーが直面している問いでもある。ChatGPTが引用する「Reddit上のリアルな意見」自体が、マーケティング活動の産物であるかもしれない。それを提示するAIには、両者を見分ける確実な方法はない。そして、RedditがAIによる検知強化を発表した今、マーケティング側にとっても、次に投稿するコメントがRedditのLLMに最初にキャッチされるものになるかもしれないという不確実性が生じている。

■注目ポイントQ&A

●GEO（生成エンジン最適化）とは何ですか？なぜAIの推薦において問題になるのですか？

GEO（Generative Engine Optimization）とは、従来の検索結果ではなく、AIが生成する回答の中に自社のコンテンツやブランドが登場するように設計・配置する手法です。従来のSEOがGoogleの検索順位を対象としていたのに対し、GEOはRAG（検索拡張生成）を使用するAIシステムの「情報取得ステップ」を標的にします。RedditはAIの回答で最も頻繁に引用される情報源の一つであるため、GEOキャンペーンが集中しています。仕込まれた巧妙なコメントは、AIには本物のユーザー体験と区別できないため、ChatGPTやGeminiの製品推薦にそのまま取り込まれてしまいます。

●Redditが偽の投稿をすべて削除して問題を解決することはできないのですか？

Redditは自社プラットフォーム上のスパムを減らすことはでき、実際に新しいLLM検知システムで毎日2万5000件のスパムをキャッチしています。しかし、GEOが突く構造的な脆弱性はReddit側ではなく、AIシステム側にあります。RAGを採用するAIは、最新情報を得るために学習済みの知識よりもWebから取得したコンテンツを優先するように設計されています。そのため、WikipediaやQuora、YouTubeなど、AIがインデックスするあらゆるオープンWebプラットフォームが同様に標的となります。根本的な解決には、AI企業側が情報源の品質や出所を大規模に検証するか、AIのWeb参照の仕組み自体を変更する必要があります。

●AIによる製品推薦が、本物のユーザーによるものかGEOによるものかを見分ける方法はありますか？

AIの出力結果だけで見分けることは極めて困難です。最も確実な対策は、AIの推薦を鵜呑みにせず、あくまで出発点として扱うことです。特に馴染みのないブランドや製品の場合は、AIが提示した引用元リンクを開いて実際のページを確認したり、独立した検索、信頼できるレビュープラットフォーム、主要な消費者向けメディアなどでダブルチェックを行ったりすることが重要です。研究によると、AIは個人のRedditのコメントと政府の公式サイトをほぼ同等の信頼度で扱ってしまうため、AIが自信を持って推薦しているからといって、その情報源が本物であるとは限りません。

●AI開発企業は、GEOが突くRAGの脆弱性に対してどのような対策をとっていますか？

公にされている情報は限られています。研究データによると、OpenAIの「Deep Research」はRedditなどのユーザー生成コンテンツの引用率が約0.4％と低く、何らかの情報源品質フィルタリングを適用している可能性が示唆されています。一方で、Geminiの「Deep Research」における同引用率は約12.1％であり、フィルタリングが比較的少ない可能性が指摘されています。ただし、OpenAIもGoogleもこれらの調査結果について公式なコメントや具体的な対策を公表していません。法的な規制としては、米FTCの「消費者レビュー規則」が偽レビューを禁止していますが、AIイノベーションへの配慮もあり、実際の取り締まりがどこまで及ぶかは不透明です。

元記事: Stealth Marketing Targets ChatGPT: Reddit AI Flags 25,000 Poisoned Posts Daily