「行動の幻覚」を防ぐプロンプトの特徴

　まずは「行動の幻覚」だ。これは調査計画の策定段階で誤りが発生するというもので、AIがユーザーの意図から逸脱したり、既に実行した調査を無意味に繰り返したり、誤った前提を置いて「正しそうな計画」を立案したりすることを指す。

　たとえば、プロジェクトマネージャーについて調べるよう依頼したのに、プロダクトマネージャーについて調べ始めたり、「A社の本社はニューヨークにある」という誤情報に基づいて「ニューヨーク周辺の関連企業を調査する」と計画したりするといった具合だ。

　いまあなたが、AI企業の研究開発投資動向を調査したいと考えているとしよう。単純に「AI企業の研究開発投資について調べてください」と指示するだけでは、この行動の幻覚が起きかねない。そこで論文では、次のような詳細を付けることを推奨している。

AI企業の研究開発投資について調べてください。

【調査の進め方について】
・調査対象企業：OpenAI、Anthropic、Google DeepMind、Metaの4社に限定
・各ステップで「なぜこの検索をするのか」「前のステップで何が分かったか」を明示してから次に進むこと
・同じ情報源や同じ検索クエリを繰り返さないこと
・新しい調査方向に進む前に、それが当初の目的（研究開発投資動向の把握）に合致しているか確認すること

　ここでのプロンプトのポイントは、①調査範囲を明確に限定して逸脱を防ぐ、②各ステップでの自己確認を促し、目的との整合性を維持させる、③冗長な繰り返しの禁止を明示する、④調査の論理的連鎖を可視化させることで、エラーの発見を容易にする──の4点だ。

「制約の無視」は、ユーザーが指定した制約条件や制限を、AIが計画段階で黙って無視するエラーを指す。技術的には実行可能な計画を立てるものの、ユーザーの意図した条件を逸脱してしまうのだ。

　たとえば、「2023年以降の記事を除外して」と指示したのに、計画段階でその制約条件を含めず、結果的に2023年の記事を検索してしまったり、「日本市場に限定して」と指定したのに、グローバル市場のデータを含めてしまったりという具合である。

　特に「地理」「環境」などの専門分野や、「キャリア」「ライフスタイル」などの曖昧な制約を含む分野で発生しやすいとされている。

　日本国内のステーブルコイン規制動向を調査する場合を考えてみよう。