RT @Akashi203: Ich versuchte, die LPU-Leistung auf einem einzelnen B200-Chip zu erreichen, und übertraf sie sogar, ohne ...

RT @Akashi203: Ich versuchte, die LPU-Leistung auf einem einzelnen B200-Chip zu erreichen, und übertraf sie sogar, ohne irgendetwas zu fügen oder auch nur einen einzigen Kernel zu schreiben. In diesem Blogbeitrag zeige ich, dass die Hardware nicht das Problem ist, sondern die Software. Mit reiner Software-Leistung schlägt ein einzelner B200 die LPU und kommt der Cerebras-Leistung nahe. Jedes Jahr wird nun neue Silizium-Hardware für Inference-Zwecke vorgestellt. @cerebras hat die Gewichte auf einen Wafer gepackt, @GroqInc hat die LPU gebaut, @SambaNovaAI hat die RDU entwickelt – und alle drei sind echte Maschinen, die... mehr auf Arint.info #AI #B200 #Hardware #Inference #LPU #Software #arint_info https://x.com/Akashi203/status/2085459895499759831#m