生成AIで作成したデマが社会を揺るがしている（筆者がChatGPTで生成）
目次

（小林 啓倫：経営コンサルタント）

　年明け早々、生成AIが絡んだ嫌な事件が起きている。1月初旬に、SNSを舞台とした大規模な偽情報の拡散が行われたのだ。

　掲示板型SNSのReddit上に、フードデリバリーサービスの不正行為を告発する文章が投稿され、数日間で数千万人に閲覧された。しかしその後の検証により、これが生成AIを駆使した精巧なデマであることが判明。この事件は、AI時代の情報検証がいかに困難であるかを象徴する出来事となった。

企業不信感に乗じたデマの蔓延

　事件の発端は1月5日。Redditのサブレディット（テーマを分類するカテゴリーのようなもの）「r/confession」に、「Trowaway_whistleblow（“捨てアカの内部告発者”のようなニュアンス）」と名乗る匿名のユーザーが、自身をフードデリバリーアプリのソフトウェアエンジニアであると称して投稿した。

　彼、もしくは彼女は「巨大なNDA（秘密保持契約）」下にありながら、公衆Wi-Fiのある図書館から使い捨てのノートパソコンを使って投稿していると述べ、自社が構築した「機械」への良心の呵責から内部告発に踏み切ったと主張した。

　投稿された内容は衝撃的だった。

　フードデリバリー企業は「絶望スコア（Desperation Score）」という隠しアルゴリズムを独自開発し、契約するドライバーたちの経済的な窮状を数値化した上で、高額報酬の注文を意図的に表示しないようにしている。また、顧客がドライバーにいくらチップを払うかを予測モデリングで算出し、それに基づいてドライバーの基本給を動的に引き下げるというのだ。

　さらに「優先配送料」を支払っても配達速度は変わらず、実は通常配送を遅らせることで相対的に優先配送が早く見える工作をしているとも述べられていた。その他、ドライバーへの手当の名目で徴収した資金が、組合結成を阻止するロビー活動費に充てられているという指摘も含まれていた。

　この投稿は瞬く間に拡散された。報道によれば、Redditでは8万7000件以上のアップボート（高評価）を獲得し、X（旧Twitter）ではスクリーンショットが3600万回以上閲覧された。

　多くのユーザーは、自らが日ごろ抱いていた「アルゴリズムに搾取されている」という疑念が裏付けられたと感じ、集団訴訟の必要性を論じるコメントが相次いだ。また俳優のジョン・クリーズのような著名人もX上で言及し、社会的な怒りが増幅していった。