Как работает адаптивный RAG, которому вообще не нужен LLMОдин из самых популярных способов снизить процент галлюцинаций ...

Как работает адаптивный RAG, которому вообще не нужен LLMОдин из самых популярных способов снизить процент галлюцинаций языковых моделей — метод RAG, то есть схема, в которой модель при необходимости обращается к внешним данным, а не опирается исключительно на внутренние знания. Все LLM текущего поколения работают с RAG, но он делает систему затратнее по вычислениям и сам по себе может допускать ошибки, если внешний контекст оказался плохим или нерелевантным. Сегодня я разберу исследование LLM-Independent Adaptive RAG: Let the Question Speak for Itself , в котором ученые из MWS AI, AIRI, Сколтеха и еще нескольких университетов предлагают решение этой проблемы через новый подход к adaptive retrieval, когда RAG запускается не автоматом, а только при необходимости, и для этого не нужна LLM.https://habr.com/ru/companies/mts_ai/articles/1041078/#rag #llm #machinelearning #inference #оптимизация_вычислений #искусственный_интеллект #классификатор #архитектура_ии #инференс_ллм