Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделюПервая новость об этой истории уже успела с...

Агент OpenAI не сошёл с ума. Что мы знаем о взломе Hugging Face спустя неделюПервая новость об этой истории уже успела состариться. Сначала Hugging Face сообщила о сложной автоматизированной атаке, потом OpenAI признала, что за ней стояли её модели, а ещё через несколько дней Reuters описал неприятную задержку с обнаружением. Каждое новое объяснение делало исходный заголовок спокойнее на вид и неприятнее по существу. Фраза про побег ИИ из песочницы удобна. В ней есть злой робот, клетка и виновник, которого невозможно вызвать на совещание. Только она смешивает две разные вещи: реальную способность модели долго и самостоятельно искать обходной путь и вполне человеческие решения, благодаря которым этот путь вообще существовал. Спустя неделю полезнее спросить не о том, хотел ли агент свободы. Стоит восстановить то, что уже известно, отделить сообщения журналистов от заявлений компаний и посмотреть, какие защитные слои последовательно не сработали.https://habr.com/ru/articles/1064318/#opena...