Sudo su (@sudoingX)로컬 AI가 아직 부족하다는 담론은 과장됐으며, 24GB VRAM과 짧은 프롬프트만으로도 Google의 모델이 놀라운 결과를 냈다는 주장이다. 3090, 4090 같은 소비자 GPU...
Sudo su (@sudoingX)로컬 AI가 아직 부족하다는 담론은 과장됐으며, 24GB VRAM과 짧은 프롬프트만으로도 Google의 모델이 놀라운 결과를 냈다는 주장이다. 3090, 4090 같은 소비자 GPU에서도 로컬 추론의 가능성이 크다는 점을 강조한다.https://x.com/sudoingX/status/20...