この一件から導く改善
AIエージェントの判断理由が全部わからなくても、改善には進める。
- 依頼の範囲を越える送信は、送信前に遮断する(ゲートウェイ、または送信できない短命の資格情報)
- 例:Microsoft 365 なら
Mail.Sendを含まないトークン、AWS なら送信を拒否するセッションポリシー
- 例:Microsoft 365 なら
- 承認した中身と送る中身を、送信時に照合する
- 許可の判断を、送信時に実際の要求と照合する
- 実際に渡した文面と、指示・メモリーの版(ハッシュ値)を残す
- 報告では「確かめた事実」と「1つのログだけが根拠の内容」を分ける
- 例:送信されたのは事実、
task-01の送信だったかはゲートウェイのログだけが根拠
- 例:送信されたのは事実、
受付・エージェント実行基盤・認可・実行先の4か所のログが取れるように設計する