受信箱とブラウザに入るAIが企業の新しい攻撃面になる, いま更新すべき脅威モデル

メールやブラウザにAIが統合されるほど、攻撃者は人間だけでなくモデルの解釈経路を狙います。

主な失敗パターン

1. メール本文/リンク経由のプロンプト注入
2. 提案と承認の混同
3. 過剰な文脈送信
4. 自動化拡大に対する統制未更新

防御の基本設計

• 入力正規化と命令境界分離
• 信頼ラベル付与
• 高リスク操作の明示承認
• 実行時ポリシーチェック
• 監査ログの不可変保存

まとめ

AI提案と実行を分離し、解釈経路の防御を追加することが、次世代の業務AIセキュリティの基盤です。