文法は正しいが文脈が支離滅裂
ただし設計の責任まで肩代わりするものではありません。システム開発現場で実際に起きているのは、もっと地味で厄介な問題です。
「グーグル・スプレッドシート」と連携する簡単な仕組みを、AIに書かせるとします。
一見それらしいコードが数秒で出てきて、説明も丁寧で、自信に満ちています。
しかし、そのソフトを動かしてみると、しばしばエラーが発生します。
原因を調べると、すでに廃止された古い仕様を前提にしていたり、存在しないURLを指定していたりします。
これは単なる情報の古さの問題だけではありません。
AIは、複数の異なるバージョンの書き方をパッチワークのように継ぎ接ぎして出力することがあります。
それでもコードは整っているため、初心者ほど疑いません。エラーが出ると、その内容をスクリーンショットしてAIに貼り付けます。
すると別の修正案が返って来るのです。それを試すと、また別のエラーが出ることがあります。こうして無限デバッグの循環が始まるのです。
文法は正しいが、文脈が支離滅裂なコードを初心者が自力でデバッグするのは、霧の中で出口を探すような徒労を強いることになります。
ここで問題なのは、AIが嘘をつくことではありません。確率的にもっともらしい文章を生成する仕組みである以上、誤りは構造的に避けにくいのです。
本質は、それを検証できないまま使う側の構造にあります。
基礎知識がないまま、対話だけで正解にたどり着こうとすること自体に無理があるのです。