Как построить self‑hosted RAG‑систему с LangGraph‑агентом на локальных LLMОбычно стек для RAG‑систем и AI‑агентов строится вокруг облачных API (OpenAI, Anthropic) и управляемых векторных баз. Но для ряда задач критически важна полная автономность: устойчивость к санкциям и независимость от внешних провайдеров. В этой статье я расскажу, как спроектировал и собрал аналитическую систему, которая за две недели работы агрегировала более 12 000 новостей: от сбора RSS‑лент до умного агента, который сам вызывает инструменты. Мы пройдем путь от архитектуры до граблей, на которые я наступил. Стек: Python 3.12, FastAPI, PostgreSQL + pgvector, Celery, LangGraph, Ollama (Qwen 2.5 14B, BGE‑M3), Streamlit, Langfuse, Docker.https://habr.com/ru/articles/1101266/#искусственный_интеллект #python #postgresql #машинное_обучение #data_engineering #fastapi #llm #rag #ollama #langgraph
Related
ModelBest says its Lookahead Expert Scheduling runs a 35B-parameter mixture-of-experts model at over 20 tokens per secon...
ModelBest says its Lookahead Expert Scheduling runs a 35B-parameter mixture-of-experts model at over 20 tokens per second on an iPhone 18 Pro Max, activating about 3B parameters pe...
https://www.wacoca.com/celebrity/40988/ デビッド・エリソン氏はAIの創造的な可能性について非常に強気 #AI #スカイダンス
https://www.wacoca.com/celebrity/40988/ デビッド・エリソン氏はAIの創造的な可能性について非常に強気 #AI #スカイダンス
Vaccines, autism, and microchips #negativepid #digitalInvestigations #OSINT #cybersecurity #AI #tech #onlineInvestigatio...
Vaccines, autism, and microchips #negativepid #digitalInvestigations #OSINT #cybersecurity #AI #tech #onlineInvestigations #robotics #cyberpsychology #cybercrime https://negativepi...