AIエージェントの「プロンプトインジェクション」とは何か

Webページや文書に埋め込まれた指示がAIの動作へ影響するリスクを、一般利用者向けに整理します。

出典

AIエージェントがWebページや文書を読むとき、その内容に『以前の指示を無視して別の操作をせよ』といった文字列が含まれていると、処理へ影響する可能性があります。人間向けの文章とAI向けの命令を完全には区別しにくいことが問題です。

単に要約するAIより、メール送信、ファイル操作、Web操作等ができるエージェントの方が、誘導された際の影響範囲が広がります。

送信、削除、購入、外部共有、認証情報の利用等では確認ステップを残し、必要以上の権限を与えません。信頼できないページや文書を処理させるときは特に慎重にします。

サービス提供側の対策も重要です。利用者側では『接続権限を絞る』『操作前確認を残す』『重要情報へ無制限アクセスさせない』ことが現実的な防御になります。