「制約の無視」を発生させないプロンプトの特徴

「日本のステーブルコイン規制について、最近の動向を調べてください。2024年以降の情報を中心に、金融庁の公式発表に基づいてまとめてください」のようなプロンプトを入力すれば、こちらの考える制約を明確に示しているように思えるかもしれないが、「制約の無視」を発生させないよう万全を期すためには、次のようなプロンプトにするのが望ましい。

日本のステーブルコイン規制について、最近の動向を調べてください。

【絶対に守るべき制約条件】
以下の条件は調査全体を通じて厳守してください。各検索・各まとめの段階で、これらの条件を満たしているか確認してください。

1. 時期：2024年1月1日以降の情報のみ（それ以前の情報は背景説明でも使用しない）
2. 地域：日本国内の規制のみ（海外事例との比較は不要）
3. 情報源：金融庁、日本銀行、全国銀行協会の公式発表を一次情報とする
4. 除外対象：暗号資産全般の話題、NFT関連、DeFi関連は対象外

【確認事項】
調査の各段階で「上記4つの制約条件をすべて満たしているか」を自己チェックしてから次に進んでください。

　ここでのポイントは、①制約条件を箇条書きで明確に列挙する、②「絶対に」「必ず」「のみ」などの強調語を使って重要度を伝える、③除外条件も明示的に書く（何を調べないかも重要）、④各段階でのセルフチェックを指示する、⑤制約条件を本文中に埋め込まず、視覚的に分離して目立たせる──の5つである。

「主張の幻覚」は、AIが検索して情報を集めた後、それを要約する段階で誤った情報が混入するエラーを指す。これはさらに、「Fabrication（どの情報源にも存在しない内容を生成する） 」と 「Misattribution（主張自体は正しいかもしれないが、引用した情報源がその主張を支持していない）」という2つのサブタイプに分けられている。

　たとえば、検索結果に「リサーチエンジニア職はニューヨーク勤務」と書かれているのに「カリフォルニア勤務」と報告したり、「A社の売り上げは100億円」という情報源を引用しているが、実際にはその情報源にそのような記載がなかったり、複数の情報源を混同し、B社の情報をA社のものとして報告したりするといった具合だ。

　いまランサムウェア攻撃の事例調査をしようとしているとしよう。「2024年に日本企業が受けたランサムウェア攻撃の事例をまとめてください。被害額や攻撃手法も含めて報告してください」でも十分なように思えるかもしれないが、より精度を上げるには、プロンプトを次のように詳細化することが考えられる。