自信がある知識こそ疑うべき生成AI

　筆者がClaudeから「822年に日本で起きた騒乱は『承和の変』だ」という回答を得たとき、それを鵜呑みにしなかった理由のひとつは日本史が苦手だったからである。そもそも822年が「平安時代初期」かどうかも自信がない、そんなレベルだ。

　だからこそ、非常にもっともらしい文章を提示されても、その内容が本当に正しいのか細部まで確認しようという気になったわけである。

　逆に言えば、もし筆者が日本史の知識に自信を持っていたら、Claudeの説明に違和感を覚えつつもスルーしていたかもしれない。あるいは「淳和天皇」や「嵯峨上皇」といった、部分的に正しい知識を見て、「もっともらしそうだ」と感じていたかもしれない。

　また、平安時代がその名に反し、天皇や貴族の間でさまざまな権力闘争が繰り返された時代だという知識があれば、「淳和天皇と嵯峨上皇の対立」もあり得るかもしれないと納得していた可能性もある。

　生成AIが生成する文章の説得力を巡っては、今さまざまな研究が進められているが、いずれも人間側が想像以上に彼らの「嘘」に脆弱であるとの結果が出る傾向にある。表示された説明文が腹落ちするものであればあるほど、まずは疑ってみるという姿勢を維持するしかないのかもしれない。

【小林啓倫の生成AI事件簿】
◎実は多かった生成AIのエロ使用
◎急成長「Sakana AI」とは何者？設立1年で評価額11億ドル越えユニコーンの革新性
◎482億円相当が不正流出したDMMビットコインは氷山の一角、なぜ暗号資産取引所で流出事件が相次ぐのか？
◎生成AIに依存し過ぎると人間はバカになるのか？実験が明らかにした、生成AIを賢く使える人、使えない人
◎Googleは対話型AI「Bard」のミスで時価総額1000億ドルが吹き飛ぶ、現実味を帯びる生成AI倒産
◎“大川隆法化”し始めたAIサービス、「ゴーストAI」でリアルに実現するイタコ的世界
◎【生成AI事件簿】ヒトラーの人格を再現したチャットボットも、AIで強化される右派・保守系SNSのヤバすぎる言論空間
◎全米が震撼！Xで拡散された超大物アイドルのディープフェイク・ポルノの衝撃
（ほか多数）

【小林 啓倫】
経営コンサルタント。1973年東京都生まれ。獨協大学卒、筑波大学大学院修士課程修了。
システムエンジニアとしてキャリアを積んだ後、米バブソン大学にてMBAを取得。その後コンサルティングファーム、国内ベンチャー企業、大手メーカー等で先端テクノロジーを活用した事業開発に取り組む。著書に『FinTechが変える! 金融×テクノロジーが生み出す新たなビジネス』『ドローン・ビジネスの衝撃』『IoTビジネスモデル革命』（朝日新聞出版）、訳書に『ソーシャル物理学』（草思社）、『データ・アナリティクス3.0』（日経BP）、『情報セキュリティの敗北史』（白揚社）など多数。先端テクノロジーのビジネス活用に関するセミナーも多数手がける。
Twitter: @akihito
Facebook: http://www.facebook.com/akihito.kobayashi