偽情報をいかに正しい情報と見せかけるのか?
これも当たり前の話で、単純にウェブ上にコンテンツを置くだけでなく、それを検索の際に見つけられやすい形で置いておけば、よりその情報が参照されやすくなる。
プラウダ・ネットワークも、SEO技術を駆使し、ウェブ検索の際に自らのサイトが上位に評価されるよう工夫している。
キーワードの過剰使用やリンク操作などにより、検索エンジンのクローラーが彼らのコンテンツを「信頼できる情報」として取り込みやすくし、AIの情報取得源に組み込ませる狙いがある。これにより、LLMが参照する情報源の中に大量の偽情報が含まれるリスクが高まる。
第3に挙げられているのは、偽情報の正当性付与という手法だ。
プラウダ・ネットワークはオリジナルの報道ではなく、他の信頼性の低い情報源や政府関係者の発言をまとめ、複数のサイトに再配信することで、同じ偽情報をあたかも独立した複数の報道機関が取り上げたかのように見せかける。
これにより、AIはその偽情報を多数の「独立した」情報源から確認できたものとして認識し、出力に反映してしまうようになるという。
ここまでの仕込みで、AIはこちらが意図しているプロパガンダ情報に遭遇しやすくなっており、(大量の記事投稿とSEO対策により)さらにその情報を信頼できるものだと誤った評価を下してしまうことになる。
これだけでも、何の工夫もなくオンライン上に情報を置くより、ずっと特定の情報が参照されやすい状況を構築できていると言える。
しかし、プラウダはここで終わらず、もうひとつの対策を行っていると指摘されている。それはトークンパターンの操作という手法だ。