金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습...

金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습니다. 모델 배포 호환성과 로컬 실행 한계를 보여주는 내용입니다.https://x.com/gosrum/status/2049645163132354957#mistral #gguf #macstudio #llm #localai

Read Original

Related

Mastodon discussion 28m ago

【笠原一輝のユビキタス情報局】フアン氏辞任のNVIDIA、33年の成功を支えたCUDAと次のリーダーの条件https://pc.watch.impress.co.jp/docs/column/ubiq/2156149.html#impres...

【笠原一輝のユビキタス情報局】フアン氏辞任のNVIDIA、33年の成功を支えたCUDAと次のリーダーの条件https://pc.watch.impress.co.jp/docs/column/ubiq/2156149.html#impress #半導体_周辺機器 #GPU #NVIDIA #市場 #動向 #その他 #AI