RAG для закупок: Qdrant и LlamaIndex в локальном контуреПривет Хабр! Меня зовут Владимир, и недавно я решил изучить новую (для себя) технологию - LlamaIndex . А тут и задачка подвернулась - надоело копаться в Положении о закупках, поэтому понадобился RAG для ответов по ФЗ-44, ФЗ-223, ну и локальному положению. В этой статье разберу, как создать простенький RAG, не выходящий из локального контура, на базе LlamaIndex + Qdrant, напишем к нему API и UI на Gradio. Поехали.https://habr.com/ru/articles/1056194/#qdrant #llamaindex #rag #python #векторный_поиск #llm #fastapi
Related
The $5B bets that went spectacularly wrong for tech bro before he lost $30B overnightThe “Nostradamus of AI” made a pair...
The $5B bets that went spectacularly wrong for tech bro before he lost $30B overnightThe “Nostradamus of AI” made a pair of $5 billion bets — only to watch his $45 billion hedge fu...
Groq targets over 200 megawatts of data-center capacity by 2027 but relies on self-reported operating figures to support...
Groq targets over 200 megawatts of data-center capacity by 2027 but relies on self-reported operating figures to support its growth plans. Watch whether independent audits emerge a...
Today, I got Gemma4:12b-it-qat running at a good 70 tokens per second on the Lenovo, Nvidia 4070, llama.cpp, with multi ...
Today, I got Gemma4:12b-it-qat running at a good 70 tokens per second on the Lenovo, Nvidia 4070, llama.cpp, with multi token prediction. Got Qwen3.8:27b running at a good 6 tokens...