Pronajmul jsem si docker pod s 12 vCPU, 25 GB RAM, 30GB disk a RTX 5000 24GB GPU za $0.27/h. Dal jsem na to llama.cpp a ...

Pronajmul jsem si docker pod s 12 vCPU, 25 GB RAM, 30GB disk a RTX 5000 24GB GPU za $0.27/h. Dal jsem na to llama.cpp a QWEN3.8 27b (jo ten se Číňanům opravdu povedl). Ve spojení s Pi coding agentem mám cvičenou opičku co maká 24h denně za cenu jedné hodiny minimální estonské mzdy denně. Dělá research, sumarizuje logy, hledá podle nich bugy, připravuje PR do gitu a ještě do toho pro mě něco programuje (zkouším spec driven development), ja si jen projdu co to vyplodilo a bud mu to omlátím o tensory nebo akceptuju. A projekt se posouvá dopředu raketovou rychlostí. A nemusím řešit nějaké tokeny, hodinové limity apod. #AI #LLM #qwen38.

Read Original

Related