ユーザー情報が中国共産党の管理下に?
DeepSeekの利用規約では、ユーザーの情報はすべて中国国内のサーバーに送られ「安全に管理される」という。つまり、ユーザーの電話番号、生年月日、メールアドレス、ユーザーの入力したテキスト、音声、チャット履歴、携帯電話の機種やOS、IPアドレス、キー入力パターン、利用プロバイダーなどの情報がすべて中国共産党管理下に置かれるのだ。
もし、アプリにバックドアなどが仕込まれていたら、おそらくスマートフォンにリンクしているカメラや保存されている写真、文書などにもアクセスできるし、スマートフォンを自動操作することもできるかもしれない。
私は昔、中国に出張に行ったとき、iPhoneをリモートで勝手に操作された経験がある。目の前でiPhoneの画面が勝手に動き、写真やメールを勝手にあけて何かを探しているように画面が勝手にスクロールされているのだ。心霊現象をみるより、なかなか怖いものだ。
DeepSeekを少し使ってみて分かったのだが、ユーザーがどういう人物であるかを非常に詳細に推論しているもようだ。例えば、私が減圧ダイビングのガスブレンド割合や潜水時間、減圧手順の計算を頼むと、計算の答えを出す前に、十数秒の思考が文字になって画面に現れた。
それには、私がダイバーである可能性、国際基準で認められていない危険な深度のダイビングをする可能性があり、強く警告せねばならない、という推論まで出してきて、実際に強い調子で警告を発し、あなた、死にますよ、みたいな感じで「脅し」をかけてくる。
DeepSeekは、このようにユーザーの性格、職業、思考を推論し、警告し威圧する性質を持つAIなのだ。これは、人民の行動・思考管理に利用することを目的にしたAIではないかと疑わしくなるほど、しつこくユーザーの思考や行動を分析・推論し、干渉しようとしてくる。
中国の認知戦は、仮想敵国の世論誘導、世論分断などに大きな戦力を割いている。それは民主主義国家の政治が最も世論に左右されやすいという弱点を持つからだ。
世論を動かせば選挙の結果も左右できる。AIを使って瞬時にその国の人口の半分くらいの個人の性格や好み、思考を解析し、的確な言葉でその個人の心理を操ることができれば、これほど手ごわい武器はないだろう。
もちろんChatGPTにも同じ懸念はある。要は、その情報の取扱者が民主主義国家の米国か、共産党の習近平体制であるかの違いなのだが、日本人としてはその違いこそが問題なのだ。