NVIDIA veröffentlicht LiLiCorr Draft-Checkpoint für Nemotron-3.5-Super-VL-120B-A12B. Die 1.13B-Parameter-Optimierung bes...

NVIDIA veröffentlicht LiLiCorr Draft-Checkpoint für Nemotron-3.5-Super-VL-120B-A12B. Die 1.13B-Parameter-Optimierung beschleunigt spekulative Dekodierung auf DGX Spark und Blackwell-GPUs. SPEED-Bench zeigt Akzeptanzlängen bis 5.69 Tokens bei RAG-Tasks.https://huggingface.co/nvidia/NVIDIA-Nemotron-3.5-Super-VL-120B-A12B-NVFP4-LiLiCorr#KI #AI #LLM #AISyndicate

Read Original

Related