LLM-wiki против RAG: Оцениваем и сравниваемПро LLM-wiki здесь уже было несколько хороших статей ( 1 , 2 и 3 ), поэтому подробно останавливаться на идее Andrej Karpathy не буду. В двух словах: вместо RAG-ретривера - wiki-агент, вместо чанков из сырых документов - связанные концепт-страницы, вместо обновления - перекомпиляция и поиск «битых» ссылок. Насколько LLM-wiki лучше, или может быть хуже чем RAG, пусть даже простейший, с обычным векторным поиском? И как их можно сравнивать? Кажется, общепринятой методики оценки ещё не сложилось. Тем не менее я попробовал, и получил неожиданные результаты. Об этом и расскажу, а ещё о методике оценки, о wiki-агенте для тестов, о том что получилось, что - нет, и даже сколько это стоило.https://habr.com/ru/articles/1058252/#llm #llmагенты #wiki #rag #оценка_качества #claudecode #langchain #rag_система #wilcoxon_scores
Related
New post on Fahhim: "Arabic breaks most prompt templates — here is the structure that survives"https://fahhim.moteklab.c...
New post on Fahhim: "Arabic breaks most prompt templates — here is the structure that survives"https://fahhim.moteklab.com/blog#ArabicAI #PromptEngineering #EgyptianDialect #LLM #C...
One of the product aspects I dislike about AI is the fact it seems to think I don't know how to use things.Case in point...
One of the product aspects I dislike about AI is the fact it seems to think I don't know how to use things.Case in point; Slackbot this morning "yelling" at me about how it could c...
Developers, let's settle this.What's more challenging these days?- Writing code manually- Debugging AI-generated code #P...
Developers, let's settle this.What's more challenging these days?- Writing code manually- Debugging AI-generated code #Programming #AI #SoftwareDevelopment