Mastodon discussion 3d ago

Search our documentation by meaning, not keywordsRaspberry Pi는 자사 기술 문서 검색에 RAG(검색 증강 생성) 기반 AI 챗봇 도구인 InKeep과 Kapa를 시험 ...

Search our documentation by meaning, not keywordsRaspberry Pi는 자사 기술 문서 검색에 RAG(검색 증강 생성) 기반 AI 챗봇 도구인 InKeep과 Kapa를 시험 적용 중이다. 이들 챗봇은 문서를 의미 기반 임베딩으로 분할해 관련 정보를 찾아내고, LLM을 활용해 문서 ...

Mastodon discussion 4d ago

Как я сделал AI-директора для малого бизнеса и почему отказался от RAGМаленькая компания, человек 20. Гендир тонет в зад...

Как я сделал AI-директора для малого бизнеса и почему отказался от RAGМаленькая компания, человек 20. Гендир тонет в задачах. Помнить кто что обещал, отслеживать движение по целям,...

Mastodon discussion 4d ago

A Bette RAG AlternativeLATCH는 기존 RAG 방식을 대체하는 새로운 문서 메모리 인프라로, 문서를 한 번 컴파일하여 영구적으로 쿼리할 수 있어 최대 210배 빠른 응답 속도와 97% 비용 절감을...

A Bette RAG AlternativeLATCH는 기존 RAG 방식을 대체하는 새로운 문서 메모리 인프라로, 문서를 한 번 컴파일하여 영구적으로 쿼리할 수 있어 최대 210배 빠른 응답 속도와 97% 비용 절감을 실현한다. NVIDIA H100 GPU 기반 vLLM 인프라에서 벤치마크된 이 솔루션은 VRAM 사용량을 ...

Mastodon discussion 5d ago

FlowFlow, voice notes with on-device RAG in Rust for iOSFlowFlow는 iOS용 100% Rust 기반 음성 메모 앱으로, 사용자의 음성을 녹음하고 Soniox API를...

FlowFlow, voice notes with on-device RAG in Rust for iOSFlowFlow는 iOS용 100% Rust 기반 음성 메모 앱으로, 사용자의 음성을 녹음하고 Soniox API를 통해 실시간 자동 전사하며, RAG(검색-생성) 기능으로 메모 내용을 질의할 수 있다. 로컬 우선 아키텍처...