Mastodon discussion 1d ago

[Перевод] Квантизация больших языковых моделей: FP32, BF16, INT8, NF4 и QLoRAБольшие языковые модели требуют огромных об...

[Перевод] Квантизация больших языковых моделей: FP32, BF16, INT8, NF4 и QLoRAБольшие языковые модели требуют огромных объёмов памяти. Например, модель с 8 миллиардами параметров в ...

Mastodon discussion May 2

cocktail peanut (@cocktailpeanut)Phosphene이 출시 하루 만에 LoRA 지원과 CivitAI 통합을 추가했다. 사용자는 Retro anime LoRA를 적용해볼 수 있게 되었으며, 프...

cocktail peanut (@cocktailpeanut)Phosphene이 출시 하루 만에 LoRA 지원과 CivitAI 통합을 추가했다. 사용자는 Retro anime LoRA를 적용해볼 수 있게 되었으며, 프로젝트가 매우 빠르게 발전하고 있음을 보여준다. 다만 기존 사용자에게는 일부 git 히스토리 문제가 있어 영...