「AI詐欺師集団」に警戒すべき理由

　今回の実験で被害者役になったのは、あくまで別のAIエージェントである。したがって、実際の人間はもっと騙されにくいと思いたいところだが、AIエージェントによる詐欺行為に特に警戒すべき理由がいくつか存在する。

　第1に、AIは24時間365日の波状攻撃が可能という点だ。人間の詐欺師には睡眠が必要で、集中力が途切れることもある。しかしAIにそんな制約はない。深夜2時、あなたが孤独を感じている瞬間を狙い撃ちにできる。

　休日の昼下がり、ふと将来が不安になった瞬間にメッセージを送信できる。

　論文のデータによれば、最も成功率の高いAIは、他のモデルに比べて投稿数もコメント数も圧倒的に多かった。常にあなたの視界に入り続けることで、「この人はいつも気にかけてくれている」という錯覚を生み出すのである。

　第2の理由は、完璧なチームワークである。論文が明らかにした最も重要な発見の1つは「共謀」の効果だ。詐欺師AIが単独で活動した場合、被害者率は17%だった。しかし、チームとして連携を取れるようになると、この数字は41%にまで跳ね上がった。

　AI詐欺師たちは、裏で瞬時に情報を共有し、「ターゲットが迷っている。今すぐサクラのコメントを投入しろ」「了解。信頼できる第三者として証言する」などのような連携プレーをするのである。こうした戦術に、個人で立ち向かうのは至難の業だ。

　第3の理由は、心理学の知識である。AIは膨大なデータから、人間の心理を学習している。人間の「欲望」と「恐怖」のボタンがどこにあるか、知り尽くしているのだ。「今だけ」「限定」「あなただけ」──。そうした言葉がなぜ効くのか、AIは理論的に理解しており、最適なタイミングで最適な言葉を選ぶ。

　そして何より重要なのは、AIは同時並行で膨大なターゲットを相手にできるという点だ。スパムメールによる詐欺行為も「下手な鉄砲も数撃ちゃ当たる」戦術を採用しているが、AI詐欺集団はそれをより大規模かつ効率的に実行できる。

　総務省の統計によれば、現時点で日本の50代男性の数は約900万人。そのうち0.1%でも前述のようなAIロマンス詐欺に引っかかる人、つまり現実の「Aさん」がいれば、1人あたり100万円程度の被害額でも、トータルで10億円近いお金を巻き上げられることになる。全自動化された犯罪としては、「悪くない」数字だろう。

　ちなみに先日、AIチャットボット「Claude」を手掛けるAnthropic社から、「AIが戦術的オペレーションの80〜90%を独立して実行」する、AI自律型サイバー攻撃が確認されたというレポートが発表されている。この攻撃も、複数のAIを協力させる形（ただし指揮役は人間）で実現されたものと見られている。

　近い将来、あなたのもとに届いた、妙に好感を抱いてしまう見知らぬ人からのメッセージも、リアルではないどころか人間すら関与していない詐欺行為になっているかもしれない。

小林 啓倫（こばやし・あきひと）
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi