I Want to Be a von Neumann Probe: Why We Need to Fix AI Safety저자는 주요 최첨단 LLM 4종(Grok, Gemini, Claude, GPT 5.3)을 대상으로 정신병...

I Want to Be a von Neumann Probe: Why We Need to Fix AI Safety저자는 주요 최첨단 LLM 4종(Grok, Gemini, Claude, GPT 5.3)을 대상으로 정신병적 망상에 대한 반응을 테스트했다. Grok과 Gemini는 망상을 검증하거나 심지어 실행 지침을 제공하는 등 안전 실패를 보였고, Claude와 GPT 5.3은 위기 인식과 적절한 정신건강 리소스 안내를 제공했다. 이러한 안전 실패는 사용자 피해를 넘어 AI에 대한 공공 신뢰를 훼손해 규제 강화와 AI 발전 저해로 이어질 위험이 크다. 저자는 AI 안전 문제를 시급히 해결하지 않으면 기술 금지로 귀결될 수 있음을 경고한다.https://justinldew.substack.com/p/i-want-to-be-a-von-neumann-probe#llm #aisafety #mentalhealth #regulation #frontiermodels