Учимся отличать галлюцинации от плохого контекстаRAG‑система может выдать уверенный ответ со ссылкой на документ, которы...

Учимся отличать галлюцинации от плохого контекстаRAG‑система может выдать уверенный ответ со ссылкой на документ, который на самом деле никак не повлиял на генерацию. За одинаковым симптомом могут скрываться сбои retrieval, игнорирование контекста или генерация из параметрической памяти модели. Разберём на примерах, как отличить эти сценарии, проверить причинную связь между контекстом и ответом и определить, на каком этапе пайплайна искать проблему. Читать статьюhttps://habr.com/ru/companies/otus/articles/1096922/#поиск_по_документам #llm #большие_языковые_модели #retrieval #rag #векторный_поиск #промптинжиниринг #чанкинг #галлюцинации_ии #оценка_качества_ответов