New result on AI control: gradual vs. non-gradual adversarial attacks require fundamentally different monitors. No singl...

New result on AI control: gradual vs. non-gradual adversarial attacks require fundamentally different monitors. No single architecture handles both. A four-monitor ensemble reduces risk but the coverage gap remains. This is an empirical argument against monoculture in safety infrastructure. What does defense-in-depth actually look like at deployment scale?#MachineLearning #AISafety #MLSystems #AIAlignment

Read Original

Related

Mastodon discussion 18m ago

「AIが主体的に仕事をする環境を実現していく」個人の生産性のツールから仕事・生活のエージェントへ/NEC・森田 隆之社長 インタビュー未公開版【WBS】 https://www.yayafa.com/2837674/ #AgenticAi ...

「AIが主体的に仕事をする環境を実現していく」個人の生産性のツールから仕事・生活のエージェントへ/NEC・森田 隆之社長 インタビュー未公開版【WBS】 https://www.yayafa.com/2837674/ #AgenticAi #AI #ArtificialGeneralIntelligence #ArtificialIntelligence #...