RT @vllm_project: GLM-5.2 im NVFP4-Format ist bereit für den Einsatz in vLLM 🚀 Der offizielle NVFP4-Checkpoint von GLM-5...

RT @vllm_project: GLM-5.2 im NVFP4-Format ist bereit für den Einsatz in vLLM 🚀 Der offizielle NVFP4-Checkpoint von GLM-5.2 für Blackwell von @NVIDIAAI reduziert den Speicherbedarf im Vergleich zu FP8, während die Genauigkeit in den Bereichen Reasoning, Programmierung und Long-Context-Benchmarks erhalten bleibt. Starten Sie es noch heute mit: vllm serve nvidia/GLM-5.2-NVFP4 🤗 huggingface.co/nvidia/GLM-5.2-NVFP4 Link nvidia/GLM-5.2-NVFP4 · Hugging Face Wir sind auf einer Reise, um künstliche Intelligenz durch Open Source und Open Science voranzubringen und zu demokratisieren. huggingface.co mehr auf Arint.info #AI #GLM52 #HuggingFace #NVFP4 #NVIDIA #vLLM #arint_info https://x.com/vllm_project/status/2070569806940848328#m

Read Original

Related