Mastodon discussion Jul 10

Метод, которого не существовало: как я собрал локальный RAG для CAD APIПоследние годы инжиниринг живёт под одним лозунго...

Метод, которого не существовало: как я собрал локальный RAG для CAD APIПоследние годы инжиниринг живёт под одним лозунгом: то же самое, но дешевле и быстрее. Заказчики сокращают бю...

Mastodon discussion Jul 9

Жизнь после RAG: MCP, логи и автоматический анализ тикетов JiraПривет, Хабр! Меня зовут Илья Парамошин, я ведущий инжене...

Жизнь после RAG: MCP, логи и автоматический анализ тикетов JiraПривет, Хабр! Меня зовут Илья Парамошин, я ведущий инженер в МТС Web Services. В прошлый раз я рассказывал об архитек...

Mastodon discussion Jul 7

RAG для закупок: Qdrant и LlamaIndex в локальном контуреПривет Хабр! Меня зовут Владимир, и недавно я решил изучить нову...

RAG для закупок: Qdrant и LlamaIndex в локальном контуреПривет Хабр! Меня зовут Владимир, и недавно я решил изучить новую (для себя) технологию - LlamaIndex . А тут и задачка подве...

Mastodon discussion Jul 7

🌗 我們如何訓練一個小型大型語言模型(LLM)刪減 68% 的 RAG 上下文➤ 透過「列表式評估」精準刪減,在成本與準確度間取得最佳平衡✤ https://www.kapa.ai/blog/how-we-prune-rag-context...

🌗 我們如何訓練一個小型大型語言模型(LLM)刪減 68% 的 RAG 上下文➤ 透過「列表式評估」精準刪減,在成本與準確度間取得最佳平衡✤ https://www.kapa.ai/blog/how-we-prune-rag-context在處理大規模技術文件與複雜知識庫時,RAG(檢索增強生成)系統常面臨「檢索過多無效資訊」導致成本高昂且幹擾模型判斷的問題...