GoogleのスパムアップデートがAI回答にも影響、その対策の難しさ

概要

Googleは今年2度目となる6月のスパムアップデートを開始しました。このアップデートは既存のスパムポリシーを適用するものですが、新たに生成AIの回答を操作しようとする行為も違反の対象となります。

しかし、コーネル大学の論文（プレプリント）は、このポリシーの実施の難しさを指摘しています。AIリサーチエージェントが情報源とするコミュニティページには第三者のコメントも含まれるため、著者が書いたものではない推奨事項が意図的に挿入される可能性があります。

AI生成回答にブランドを表示させたいという需要が高まる中、すでにグレーマーケットが形成され、マーケターはAI回答を操作する方法を試行錯誤しています。一方で企業は、自社サイトがAI回答に引用されたかどうかのデータを得られず、違反行為があってもそれを特定できない状況にあります。

論文「ユーザー生成コンテンツを介してディープリサーチエージェントをポイズニングできる」は、AIリサーチツールが情報源を収集する際の弱点を掘り下げました。これらのツールは関連するサブクエリを生成し、繰り返し表示されるページを収集して、引用付きのレポートを作成します。

分析の結果、特定のトピッククラスターにおいて、ユーザー生成ページがサブクエリの最大48%に出現し、検索されたURL全体の17%から23%を占めていることが判明しました。これらのページの一つを変更するだけで、トピック全体のレポートに影響が及ぶ可能性があります。

著者らは、繰り返し表示されるページに約13単語のテキストを埋め込むだけで、AIレポートに攻撃者が選択したエンティティを挿入できることを示しました。これにより、ページが取得されたセッションの38%から51%で、そのエンティティが表示されました。複数のページに同様のテキストを分散させると、この割合は42%から62%に上昇します。

テストはオープンソースのAIリサーチエージェントであるSTORM、Co-STORM、OmniThinkを用いてシミュレーション環境で行われました。

GoogleはAI回答の操作をスパムとして識別できますが、それを捕捉すること自体が困難です。埋め込まれたテキストは正規の助言のように見え、ツールが常に読み込むページに存在するため、通常の投稿と区別することが課題です。

研究チームは埋め込まれたテキストへの防御策を模索しましたが、有効なものを見つけられませんでした。ユーザー生成コンテンツを除外したり、言語モデルでスクリーニングしたり、最終レポートの不正確な主張を調査したりしても、ユーザー体験を損なうことなく攻撃を阻止することはできませんでした。

ChatGPT Deep ResearchやGemini Deep Researchは、倫理的理由からポイズニングテストは行われませんでしたが、Geminiは12.1%の割合でユーザー生成コンテンツに依存していることが示唆されています。

解説

今回のGoogleのスパムアップデートで生成AI回答の操作が明確にスパムポリシーの対象となったことは、SEO業界にとって重要な転換点です。これまで不明瞭だったAI領域における最適化とスパムの境界線が、より厳しく引かれつつあります。

特に懸念されるのは、AI回答にブランドが表示されるための施策と、Googleがスパムと見なす操作行為との線引きが依然として曖昧であることです。ブランドとしてはAIでの可視性を高めたい一方で、その手段がスパムと判断されるリスクを常に考慮する必要があります。

ECやローカルブランドにとっては、競合他社や悪意のある第三者によって、自社製品やサービスに関する誤情報、あるいは無関係な競合名がAI回答に挿入されるリスクがあります。これにより、顧客の購買判断に悪影響を与えたり、ブランドイメージを損ねたりする可能性があります。

ニュースパブリッシャーや大手ブランドは、AIツールからの引用が「勝利」と見なされがちですが、引用される情報源が操作されていた場合、その回答全体の信頼性が損なわれます。ブランドは、自身が意図しないコンテンツによって、その名が信頼できない情報源として扱われる事態を避ける必要があります。

現在のところ、AI回答における可視性は、単に受動的に最適化するチャネルではなく、積極的に監視し管理すべき新しい領域となっています。自社ブランドがAI回答にどのように表示されているか、異常がないかといった継続的なモニタリングが不可欠です。

Googleが生成AIの操作に対して具体的にどのように取り締まるか（専用アップデートか、既存のSpamBrainシステムと手動レビューか）はまだ明らかにされていません。しかし、この問題は「単一のプラットフォームでは解決できない未解決の問題」とされており、その対策は容易ではありません。

当面は、AI生成された情報の妥当性を最終的に判断する責任は、その情報を読むユーザー自身に委ねられています。SEOプロフェッショナルとしては、AIが情報をどのように収集し、提示するかを理解し、ブランドの評判管理と潜在的なリスクへの対応を強化することが求められます。