RAGу для программистаВнедрение AI в программные продукты часто сопровождается необходимостью обогатить контекст LLM спец...

RAGу для программистаВнедрение AI в программные продукты часто сопровождается необходимостью обогатить контекст LLM специфичными для ваших задач данными. Для обогащения знаний используемой вами модели применяется два подхода: - fine-tuning — дообучение модели на ваших данных. Тут финансовые затраты идут на обучение модели: -- ресурсы на fine-tuning в случае on-prem решения, -- дополнительные средства за дообучение модели по подписке. - RAG — внешний источник данных, данные из которого передаются в качестве контекста к промпту в LLM. Затраты тут переносятся на размер запроса за счёт увеличения входящего контекста. Так как я программист, а не Data Scientist, то предпочитаю понятные, переносимые вне зависимости от способа размещения модели, подходы, поэтому мой выбор — RAG.https://habr.com/ru/companies/skbkontur/articles/1095364/#искусственный_интеллект #python #обработка_данных #llm #rag #векторный_поиск #сезон_код_будущего #autorag