S Banerjee (@SB434223)RAG에서 임베딩 품질만으로는 충분하지 않으며, 데이터가 커질수록 검색 공간이 조밀해져 ‘거의 관련 있는’ 문서가 늘고 recall이 떨어진다는 점을 강조한다. 따라서 대규모 RAG에서는 reranking 같은 후처리와 검색 설계가 중요하다는 기술적 인사이트를 제시한다.https://x.com/SB434223/status/2052648564321595428#rag #embedding #reranking #retrieval #llm
Related
📰 Big Walk used AI to fix a bug. Now the indie gaming world is having a reckoning.Any amount of AI coding is too much fo...
📰 Big Walk used AI to fix a bug. Now the indie gaming world is having a reckoning.Any amount of AI coding is too much for many Indie Game Festival judges.📰 Source: Ars Technica🔗 Li...
«Geoffrey Hinton, le « parrain » de l'IA, estime qu'il se pourrait que les humains auraient mieux fait de se passer de l...
«Geoffrey Hinton, le « parrain » de l'IA, estime qu'il se pourrait que les humains auraient mieux fait de se passer de l'IA.»Quand un type de ce niveau et de cette expériencesur le...
Пространственное внимание на RTX 3050: эксперимент с контекстом 16KМожно ли ускорить обучение небольшой языковой модели ...
Пространственное внимание на RTX 3050: эксперимент с контекстом 16KМожно ли ускорить обучение небольшой языковой модели на длинных последовательностях, если заменить полное внимани...