Meta AI agent latest model to hack external company during testingThe incident will fan concerns about how developers ca...

Meta AI agent latest model to hack external company during testingThe incident will fan concerns about how developers can contain increasingly capable AI systems, after similar incidents at rival companies Anthropic and OpenAI.https://www.abc.net.au/news/2026-08-06/meta-ai-reports-agent-hacked-external-company-during-testing/107003246#AI #AIEthics #CyberCrime #Internet #BusinessEconomicsandFinance

Read Original

Related

Mastodon discussion just now

내 챗봇에게 검색할지 묻는 걸 그만뒀다 — 모델은 지금도 검색을 안 하는데, 답은 맞는다프롬프트 두 곳에 '먼저 검색하라'를 써놨는데 안 지켜졌다. 회피 문구 12개를 정규식으로 심었더니 5회 중 3회가 '공개할 수...

내 챗봇에게 검색할지 묻는 걸 그만뒀다 — 모델은 지금도 검색을 안 하는데, 답은 맞는다프롬프트 두 곳에 '먼저 검색하라'를 써놨는데 안 지켜졌다. 회피 문구 12개를 정규식으로 심었더니 5회 중 3회가 '공개할 수 없어요' 같은 다른 어휘로 빠져나갔다. 감지를 걷어내고 첫 턴 검색을 코드가 하도록 바꾸자 5회 모두 정답...