Как обойти Llama-3 70B моделью в 600 раз меньше: Теорема Платона, JEPA и революция Моделей МираНовое исследование Рэндел...

Как обойти Llama-3 70B моделью в 600 раз меньше: Теорема Платона, JEPA и революция Моделей МираНовое исследование Рэнделла Балестриеро и Яна ЛеКуна «Proving and Improving the Platonic Representation Hypothesis with JEPAs» , подкрепленное публичными выступлениями ЛеКуна, доказывает: стремление достичь универсального интеллекта (AGI) исключительно за счет масштабирования предсказания следующего токена — это тупиковый путь. Авторы превратили эмпирическую Гипотезу платоновского представления (Platonic Representation Hypothesis) в строгую математическую теорему и доказали, что компактная архитектура Joint-Embedding Predictive Architecture (JEPA) с «хорошими видами» выравнивает представление о реальном мире в десятки раз эффективнее гигантских LLM.https://habr.com/ru/articles/1105086/#transformers #llm #jepa #lecun