Mastodon discussion Oct 10

文章を生成させない場面でLLMを使うのは、そろそろ割に合わない気がしています。OpenAIのDecisions APIが公開ベータ入り。返すのは文章ではなく、型付きの確率・選択肢・スコアで、従来のResponses APIより約10倍高速だ...

文章を生成させない場面でLLMを使うのは、そろそろ割に合わない気がしています。OpenAIのDecisions APIが公開ベータ入り。返すのは文章ではなく、型付きの確率・選択肢・スコアで、従来のResponses APIより約10倍高速だそうです。生成と判定を分離する、この設計がついに大手APIにも届いた意味は大きい。分類やルーティングをわざわざLLMに投...

Mastodon discussion Oct 9

문서를 3D 온톨로지 그래프로 만들고, 그래프 사실로 답하고, 그 답을 0토큰으로 검증하는 오픈 지식엔진.#ai #machinelearning #opensource #llm #software #coding #deve...

문서를 3D 온톨로지 그래프로 만들고, 그래프 사실로 답하고, 그 답을 0토큰으로 검증하는 오픈 지식엔진.#ai #machinelearning #opensource #llm #software #coding #development #engineering #inclusive #communityONGRID: GraphRAG에 ...