Con quello che spendiamo di API ci compriamo due RTX 5090 e facciamo girare tutto in casa? Ho fatto i conti con un picco...

Con quello che spendiamo di API ci compriamo due RTX 5090 e facciamo girare tutto in casa? Ho fatto i conti con un piccolo simulatore e per uno sviluppatore solo vince il cloud. Se però il codice non può uscire dall'azienda, i conti contano poco. #AI #FinOps

Read Original

Related

Mastodon discussion 21m ago

Пространственное внимание на RTX 3050: эксперимент с контекстом 16KМожно ли ускорить обучение небольшой языковой модели ...

Пространственное внимание на RTX 3050: эксперимент с контекстом 16KМожно ли ускорить обучение небольшой языковой модели на длинных последовательностях, если заменить полное внимани...