Mastodon discussion 21h ago

Пять способов ускорить локальный инференс MoE-модели: один я написал самВ предыдущей статье я разбирался, какие эксперты...

Пять способов ускорить локальный инференс MoE-модели: один я написал самВ предыдущей статье я разбирался, какие эксперты реально живут в VRAM у Strata, пока она крутит Qwen3.8-Flas...