金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습...

金のニワトリ (@gosrum)Mistral-Medium-3.5-128B의 GGUF 지원이 아직 진행 중이라고 언급했으며, Mac Studio에서 Q4_K_XL을 로드할 때 메모리 부족으로 재시작이 발생했다고 보고했습니다. 모델 배포 호환성과 로컬 실행 한계를 보여주는 내용입니다.https://x.com/gosrum/status/2049645163132354957#mistral #gguf #macstudio #llm #localai

Read Original

Related

Mastodon discussion 34m ago

𝗦𝗲𝘁𝗵 𝗥𝗼𝗴𝗲𝗻 𝘃𝗶𝗻𝗱𝘁 𝗔𝗜-𝘀𝗰𝗿𝗶𝗽𝘁𝘀𝗰𝗵𝗿𝗶𝗷𝘃𝗲𝗿𝘀 𝗴𝗲𝗲𝗻 𝗲𝗰𝗵𝘁𝗲 𝘀𝗰𝗵𝗿𝗶𝗷𝘃𝗲𝗿𝘀Seth Rogen vindt dat mensen die kunstmatige intelligentie (AI)...

𝗦𝗲𝘁𝗵 𝗥𝗼𝗴𝗲𝗻 𝘃𝗶𝗻𝗱𝘁 𝗔𝗜-𝘀𝗰𝗿𝗶𝗽𝘁𝘀𝗰𝗵𝗿𝗶𝗷𝘃𝗲𝗿𝘀 𝗴𝗲𝗲𝗻 𝗲𝗰𝗵𝘁𝗲 𝘀𝗰𝗵𝗿𝗶𝗷𝘃𝗲𝗿𝘀Seth Rogen vindt dat mensen die kunstmatige intelligentie (AI) gebruiken om een script te schrijven simpelweg "geen schrij...