Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолокВ перво...

Можно ли научить маленькую LLM учиться без роста весов? Продолжение: почему повторное обучение упёрлось в потолокВ первой статье я показал несколько опытов с небольшой моделью (её размер влезает в обычную домашнюю видеокарту) вокруг одного вопроса: может ли такая модель становиться умнее со временем — не раздуваясь до огромных размеров, а за счёт памяти, аккуратного дообучения и проверки ответов. Но я тогда не сказал, ради чего всё это и что это вообще часть чего-то большего. Теперь раскрою карты. Эти опыты — не сами по себе. Это шаги к новой архитектуре, над которой я работаю; я зову её LANN-4 (если расшифровать — нейросеть, которая учится всю «жизнь», с небольшим неизменным «мозгом» и вынесенной наружу памятью). И сразу честно: самой этой архитектуры ещё нет — она не выбрана и не построена. Небольшие модели в опытах — это подопытные инструменты, а не LANN-4. Готовую новую модель я не показываю. Я показываю исследование на пути к ней — и то, что получилось и что НЕ получилось. А не по...

Read Original

Related

Mastodon discussion 10m ago

この大事な時期にMozcに巻き込まれて被弾でもしたら……Google日本語入力が不満な人へ、Windows/Mac対応国産ソフト「もずきー」登場。遅延付きライブ変換とAI文脈補正を搭載、使うほど学習し自分好みに(生成AIクローズアップ) h...

この大事な時期にMozcに巻き込まれて被弾でもしたら……Google日本語入力が不満な人へ、Windows/Mac対応国産ソフト「もずきー」登場。遅延付きライブ変換とAI文脈補正を搭載、使うほど学習し自分好みに(生成AIクローズアップ) https://www.techno-edge.net/article/2026/11/17/5737.html#Appl...

Mastodon discussion 11m ago

ビリーさんはプリムさんにiPhoneのことを話すでしょうかPrimary Vector、Winampスキンが利用可能なiPhone用ミュージックプレイヤーアプリ「golden」をリリース https://www.macotakara.jp/...

ビリーさんはプリムさんにiPhoneのことを話すでしょうかPrimary Vector、Winampスキンが利用可能なiPhone用ミュージックプレイヤーアプリ「golden」をリリース https://www.macotakara.jp/iphone_app_store/entry-52359.html#Apple #LLM #news #bot