「主張の幻覚」を避けるプロンプトの特徴

2024年に日本企業が受けたランサムウェア攻撃の事例をまとめてください。

【報告形式の指定】
各事例について、以下の形式で報告してください:

・企業名:
・発生時期:
・被害内容:
・情報源URL:
・情報源での該当記述(原文の要約):

【重要な注意事項】
・数値(被害額、影響を受けたシステム数など)は、情報源に明記されている場合のみ記載
・情報源に明記されていない推測や一般論は「情報源では未確認」と明示
・複数の情報源で数値が異なる場合は、両方の数値と出典を併記
・「報道によると」「~と見られる」などの不確実な表現がある場合はそのまま伝える

 ここでのプロンプト設計のポイントは、①情報源の明示を必須とする形式を指定する、②「情報源での該当記述」の引用を求め、トレーサビリティを確保する、③不確実な情報の扱い方を明示的に指示する、④数値や具体的事実については情報源への依拠を徹底させる、⑤推測と事実の区別を明確化させる──の5つである。

「ノイズ支配」は、AIが関連性の高い重要な情報を取得しているにもかかわらず、それを活用せず、相対的に重要度の低い情報(ノイズ)に基づいて回答してしまうエラーを指す。

 論文では「Anchor Effect(アンカー効果)」(初期に取得した情報に過度に依存し、後から得た質の高い情報を無視する)「Homogeneity Bias(同質性バイアス)」(繰り返し出てくる情報を重視し、ユニークだが重要な情報を見落とす)という2つの認知バイアスが原因として説明されている。

 たとえば検索の段階では、「リサーチエンジニア職、ニューヨーク」という重要な情報を取得しているのに、レポートをまとめる際には「創造性を重視する企業文化」という一般的な記述のみを使用してしまったり、最初に検索した古い情報に基づいて結論を出し、後から取得した最新の公式発表を無視したり、多くの情報源で言及されている一般的な事実のみを報告し、一つの情報源にしかない決定的な証拠を見落としたりといった具合だ。

 AIエージェントのガバナンス課題を調査する場合を例に挙げよう。