See how Qwen3.8 27B reached 50.44 tok/s with 256K context on a 24 GB Blackwell GPU using NVFP4, MTP, and a custom llama....

See how Qwen3.8 27B reached 50.44 tok/s with 256K context on a 24 GB Blackwell GPU using NVFP4, MTP, and a custom llama.cpp build. https://hackernoon.com/how-i-got-qwen38-27b-running-at-50-toks-with-256k-context #llm

Read Original

Related

Mastodon discussion 13m ago

Разблокировали аккаунт Claude по апелляцииЭто не инструкция, как избежать блокировки или как гарантированно вернуть акка...

Разблокировали аккаунт Claude по апелляцииЭто не инструкция, как избежать блокировки или как гарантированно вернуть аккаунт. Делюсь личным опытом, который может быть полезен.https:...