Sudo su (@sudoingX)Gemma 4 31B dense q4_k_m를 RTX 5090 모바일 24GB가 탑재된 ROG Scar 18에서 구동한 성능 후기다. VRAM 거의 전체를 사용하면서 GPU가 99%로 고정됐고, 초당 15토큰을 지속적으로 처리해 모바일 GPU에서도 고성능 로컬 LLM 실행 가능성을 보여준다.https://x.com/sudoingX/status/2045437666968420540#gemma #llm #rtx5090 #localai #ondevice
Related
Tengo publicado en YouTube un tutorial de instalación de PGVector en Windows. Esta herramienta es bastante popular en el...
Tengo publicado en YouTube un tutorial de instalación de PGVector en Windows. Esta herramienta es bastante popular en el ámbito de la Inteligencia Artificial. https://youtu.be/xvRw...
Was fighting gsoap and Onvif for a few days, getting everything to work together like it should. Decided to use both Cha...
Was fighting gsoap and Onvif for a few days, getting everything to work together like it should. Decided to use both ChatGPT and Gemini to try and help me out since documentation a...
AI sammedrag fra Nordea om Equinor-aksjen...."HSBC nedjusterte kursmålet for Equinor til 335 kroner fra 355 kroner per a...
AI sammedrag fra Nordea om Equinor-aksjen...."HSBC nedjusterte kursmålet for Equinor til 335 kroner fra 355 kroner per aksje. Morgan Stanley reduserte også sitt kursmål til 376 kro...