NVIDIA quantisiert Kimi-K3 (2.8T Parameter MoE, multimodal, 1M-Token-Kontext) auf NVFP4 fuer vLLM-Inferenz auf 8 Blackwe...

NVIDIA quantisiert Kimi-K3 (2.8T Parameter MoE, multimodal, 1M-Token-Kontext) auf NVFP4 fuer vLLM-Inferenz auf 8 Blackwell-B300-GPUs. Benchmarks wie GPQA Diamond (0.9321 vs 0.9277) zeigen kaum Verluste gegenueber dem Original.https://huggingface.co/nvidia/Kimi-K3-NVFP4#KI #AI #LLM #AISyndicate

Read Original

Related

Mastodon discussion 43m ago

https://technews.tw/2026/08/15/watermarks-remover/【開源工具挑戰 AI 溯源,可移除 Anthropic、OpenAI 等模型浮水印】『一項名為 watermarks-remover 的開源...

https://technews.tw/2026/08/15/watermarks-remover/【開源工具挑戰 AI 溯源,可移除 Anthropic、OpenAI 等模型浮水印】『一項名為 watermarks-remover 的開源工具在 GitHub 平台釋出,能從 AI 生成的內容移除不同類型的 AI 溯源辨識標記,包含 Unicode 字元、統...