13年前のXeon(GPUなし)でGoogleのGemma 4 26Bが5 tokens/secで推論できたという報告がありました。オープンウェイトモデルの進化によって、LLMの実行環境が特殊なGPUから汎用CPUへと広がりつつあります。この「民主化」の流れは、大企業によるAI寡占へのカウンターバランスとして非常に重要です。個人開発者や小規模組織がプライベートにAIを運用できる選択肢が増えることは、セキュリティやプライバシーの観点からも歓迎すべき動きだと考えています。引き続き注視していきたいと思います。#Gemma #オープンウェイト #LLM #セルフホスト #AI民主化
Related
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code...
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code), high = creative and risky (brainstorming, stories).Agent ...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s off said OpenAI *behind ChatGPT🚨“misled * endangered the pu...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how it was used by folks at conferences to share thoughts, reso...