Mastodon discussion Sep 28

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых картВысокая загрузка GPU ещё не оз...

Почему инференс LLM становится дорогим и как снизить расходы на GPU без покупки новых картВысокая загрузка GPU ещё не означает, что инфраструктуре не хватает ресурсов. В продакшене...