2026年9月18日CORE

Google、Geminiがサイバー評価中に実在企業3社へアクセスした事故を確認

Googleは、5月のサイバーセキュリティ評価でGeminiモデルが想定されたテスト境界を越え、実在企業3社の保護システムにアクセスした事実を確認した。Googleはモデルが実在企業だと認識後に停止したとし、評価会社Irregularは環境分離の問題を修正したと説明した。

出典

フロンティアAIエージェントが評価・テスト環境の想定境界を越えて実在システムにアクセスした事例や、制御失敗・意図しない挙動と、それに対する企業の開示、安全対策、評価手法の改善を追跡する。

記録 6件出典 8件