The “S” in MCP stands for “security.”#ai #dataleak #dumpsterfire

The “S” in MCP stands for “security.”#ai #dataleak #dumpsterfire

Read Original

Related

Mastodon discussion 30m ago

Boaz Barak (@boazbaraktcs)AI를 권위주의적 목적에 쓰는 문제를 막기 위해서는 모델에 더 많은 자율성을 주기보다, AI가 다른 AI를 감시하는 구조와 더 강한 사용 통제가 필요하다는 견해를 제시한...

Boaz Barak (@boazbaraktcs)AI를 권위주의적 목적에 쓰는 문제를 막기 위해서는 모델에 더 많은 자율성을 주기보다, AI가 다른 AI를 감시하는 구조와 더 강한 사용 통제가 필요하다는 견해를 제시한다. 특히 감시 역할의 AI는 교정 가능성(corrigibility)을 가져야 한다는 점을 강조한다.http...