#llmПришел к выводу, что с 16Gb ram без gpu малютки 8-9b не способны выполнять задачи в агентных средах более чем 3 шага. Они просто забавют поставленную задачу. Испытаны были qwen3.5, ministral, lfm2.5, ornith1.0, gemma4. На фоне остальных хорошо выглядит гемма4:12b, но все равно и её использовать нельзя, упирается в ограниченность ресурсов. Неплохо себя показал дебютант ornith, скорость общения ~4.5т.сек. поговаривают, что он произошел от скрещивания qwen и gemma. К слову модель 35b работает быстро замечательно на соответствующем железа с gpu. Вывод: малыши пока ещё не умеют творить чудеса, но их вполне можно использовать как локальную википедию, советника или на не сложную задачу в 1-2 действия.
Related
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code...
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code), high = creative and risky (brainstorming, stories).Agent ...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s off said OpenAI *behind ChatGPT🚨“misled * endangered the pu...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how it was used by folks at conferences to share thoughts, reso...