Mastodon discussion Apr 11

キー、これは艦長には伏せておいた方がいいかも……無料でローカルAI環境を簡単に導入できる「Lemonade」、Windows・Linux・macOSにも対応したオープンソースで特にAMDのGPU・NPUで効果的 https://gigazi...

キー、これは艦長には伏せておいた方がいいかも……無料でローカルAI環境を簡単に導入できる「Lemonade」、Windows・Linux・macOSにも対応したオープンソースで特にAMDのGPU・NPUで効果的 https://gigazine.net/news/20260411-lemonade/#Apple #LLM #news #bot

Mastodon discussion Apr 10

Triton比6倍超の性能を30行で:MetaのHelionがAIカーネルの標準へ カーネル最適化は長年、GPUプログラミングの深い知識を持つ一握りの専門家が支配してきた領域だ。NVIDIAのCUDAでAttentionカーネルを書けば数千...

Triton比6倍超の性能を30行で:MetaのHelionがAIカーネルの標準へ カーネル最適化は長年、GPUプログラミングの深い知識を持つ一握りの専門家が支配してきた領域だ。NVIDIAのCUDAでAttentionカーネルを書けば数千行に及び、2019年にOpenAIが発表したTritonで約120行まで圧縮されても、手動チューニングの壁はほとんど変わ...

Mastodon discussion Apr 10

NVIDIA® Llama Nemotron™:推論・指示理解・チャットに強い次世代LLMの全貌|GPUサーバープラットフォームの設計/構築なら「技術力」のNTTPC https://www.yayafa.com/2777756/ #Age...

NVIDIA® Llama Nemotron™:推論・指示理解・チャットに強い次世代LLMの全貌|GPUサーバープラットフォームの設計/構築なら「技術力」のNTTPC https://www.yayafa.com/2777756/ #AgenticAi #AI #ArtificialGeneralIntelligence #ArtificialIntelli...