FLUX.2-dev GGUF Q4_K_M на Apple Silicon: куда уходят 29 гигабайт?В процессе моих изысканий о том как-же создавть изображения локально, я столкнулся с неочевидной, для себя, проблемой в виде колоссального потребления VRAM, которое не сходилось с тем что написано в карточках моделей и в интернете. Я попытался разобраться на примере современной FLUX.2-dev. Чтобы хотябы теоретически влезать в доступную мне VRAM на моем оборудовании я выбрал вариант GGUF Q4_K_M. И вот тут началось все самое интересное.https://habr.com/ru/articles/1015320/#apple #ai #python #torch #flux2dev
Related
🎮 All Angel Comb and modification locations in Subnautica 2Surviving the ocean in Subnautica 2 is a difficult task, but ...
🎮 All Angel Comb and modification locations in Subnautica 2Surviving the ocean in Subnautica 2 is a difficult task, but you can find Angel Combs to get some useful modifications. T...
What are the plans of artificial intelligences.#ArtificialIntelligence #AI #Computers #Technology #Tech #Cyber
What are the plans of artificial intelligences.#ArtificialIntelligence #AI #Computers #Technology #Tech #Cyber
I refer to the infamous story of the hippopotamus in the swamp: in the middle of a game, finding himself bewildered by t...
I refer to the infamous story of the hippopotamus in the swamp: in the middle of a game, finding himself bewildered by the complications that would result from a piece sacrifice th...