The Hugging face incident was done by specifically created offensive-security agent system which exceeded the intended scope of a directed evaluation because its tools, permissions and containment architecture allowed it to optimize against the wider environment:Hacking capability and the success-seeking behaviour were directed, all equipped with tools suitable for that work.Should we be surprised that something then happened, with high tech?No autonomous AI "hack".#ai #aisafety #llm
Related
Nachtrag: Wie schnell ist KI? Am Sonntag gab es „Oh Herr, mach meine Gedanken gefügig!“ ChatGPT konnte damit nix anfang...
Nachtrag: Wie schnell ist KI? Am Sonntag gab es „Oh Herr, mach meine Gedanken gefügig!“ ChatGPT konnte damit nix anfangen, war ja zum Zeitpunkt der Abfrage noch nicht online. Der ...
Не ИИ обесценил сеньоров. Это сделали ваши собеседованияПринято считать, что LLM обесценивают опыт: новичок с моделью вы...
Не ИИ обесценил сеньоров. Это сделали ваши собеседованияПринято считать, что LLM обесценивают опыт: новичок с моделью выдаёт результат, похожий на результат эксперта, и платить за ...
L'inchiesta del Guardian, la risposta dell'IDF e la contro risposta del Guardian). Spiegheremo come si articola e funzio...
L'inchiesta del Guardian, la risposta dell'IDF e la contro risposta del Guardian). Spiegheremo come si articola e funziona un'inchiesta giornalistica tentando di dare una risposta ...