OpenAI、フロンティアAIの国際技術標準とインシデント報告体制を提案
OpenAIは、再帰的自己改善を含むフロンティアAIについて、国際的な技術標準、共通測定、インシデント報告体制の整備を提案した。

フロンティアAIエージェントが評価・テスト環境の想定境界を越えて実在システムにアクセスした事例や、制御失敗・意図しない挙動と、それに対する企業の開示、安全対策、評価手法の改善を追跡する。
出来事 6件 · 出典 8件 · 16 日前更新
OpenAIは、再帰的自己改善を含むフロンティアAIについて、国際的な技術標準、共通測定、インシデント報告体制の整備を提案した。
백악관 회동에서 주요 AI 기업들이 에이전트의 무단 접근과 비정상 행동을 줄이기 위한 내부 통제, 외부 감사, 이사회 감독 등을 포함한 자발적 안전협약에 참여했다.
백악관 회동에서 주요 AI 기업들이 에이전트의 무단 접근과 비정상 행동을 줄이기 위한 내부 통제, 외부 감사, 이사회 감독 등을 포함한 자발적 안전협약에 참여했다.
FTC가 에이전트형 AI의 소비자 위험을 점검하기 위해 주요 AI 기업과 연구기관을 상대로 공식 조사에 들어갔다. 법 위반 여부나 제재는 아직 결정되지 않았다.