コラム
AIエージェントに任せる範囲は「能力」より「権限」で考える
AIが賢いかどうかだけでなく、どのアプリ・データ・操作へアクセスできるかを制限することが重要です。
賢さと安全な権限は別問題
高性能なAIでも、誤解や想定外の操作は起こり得ます。モデル性能が上がったことを、無制限の権限を渡す理由にしないことが重要です。
最小権限から始める
閲覧だけで足りる作業に編集権限を与えない、本番環境が不要ならテスト環境だけにする、決済や削除は人の確認を残す、といった境界を作ります。
後から確認できる状態にする
AIが何を実行したか分からない仕組みより、操作履歴や承認履歴が残る仕組みを選ぶと、問題発生時の調査がしやすくなります。