人間が書いたとしか思えないような、高度な文章を生成できる対話型AI「ChatGPT」。このサービスがリリースされたとき、スパムなどの詐欺行為に悪用されるのではないか、という懸念の声が各所からあげられた。 その懸念を裏付けるような事例も報告され始めている。実際に、大規模なボットネットの運用にChatGPTが利用されていた疑いが浮上しているが、ChatGPTがよく使う「あるフレーズ」によって、このボットネットは閉鎖に追い込まれた。 今年7月、インディアナ大学ブルーミントン校の研究者らが執筆した、ある論文が発表された。「Anatomy of an AI-powered malicious socia