Mastodon discussion May 12

Как я сделал AI-директора для малого бизнеса и почему отказался от RAGМаленькая компания, человек 20. Гендир тонет в зад...

Как я сделал AI-директора для малого бизнеса и почему отказался от RAGМаленькая компания, человек 20. Гендир тонет в задачах. Помнить кто что обещал, отслеживать движение по целям,...

Mastodon discussion May 12

A Bette RAG AlternativeLATCH는 기존 RAG 방식을 대체하는 새로운 문서 메모리 인프라로, 문서를 한 번 컴파일하여 영구적으로 쿼리할 수 있어 최대 210배 빠른 응답 속도와 97% 비용 절감을...

A Bette RAG AlternativeLATCH는 기존 RAG 방식을 대체하는 새로운 문서 메모리 인프라로, 문서를 한 번 컴파일하여 영구적으로 쿼리할 수 있어 최대 210배 빠른 응답 속도와 97% 비용 절감을 실현한다. NVIDIA H100 GPU 기반 vLLM 인프라에서 벤치마크된 이 솔루션은 VRAM 사용량을 ...

Mastodon discussion May 12

FlowFlow, voice notes with on-device RAG in Rust for iOSFlowFlow는 iOS용 100% Rust 기반 음성 메모 앱으로, 사용자의 음성을 녹음하고 Soniox API를...

FlowFlow, voice notes with on-device RAG in Rust for iOSFlowFlow는 iOS용 100% Rust 기반 음성 메모 앱으로, 사용자의 음성을 녹음하고 Soniox API를 통해 실시간 자동 전사하며, RAG(검색-생성) 기능으로 메모 내용을 질의할 수 있다. 로컬 우선 아키텍처...

Mastodon discussion May 10

Avi Chawla (@_avichawla)프롬프트 엔지니어링, RAG, 컨텍스트 엔지니어링, 파인튜닝, 에이전트, LLM 배포/최적화, 안전성·평가·관측성까지 포함한 풀스택 AI 엔지니어링 로드맵을 소개합니다. 무...

Avi Chawla (@_avichawla)프롬프트 엔지니어링, RAG, 컨텍스트 엔지니어링, 파인튜닝, 에이전트, LLM 배포/최적화, 안전성·평가·관측성까지 포함한 풀스택 AI 엔지니어링 로드맵을 소개합니다. 무료 오픈소스 자료도 함께 제공되어 AI 개발자에게 유용합니다.https://x.com/_avichawla/s...