Дешево, но не точно: разбираем контроллер доверия к памяти LLM-агентовВ 2024 году мэрия Нью-Йорка запустила чат-бота MyCity — цифрового помощника для владельцев малого бизнеса. Он должен был стать удобным справочником по городским правилам и законам. Но на деле бот раздавал советы, за которые предпринимателям грозили штрафы и суды, например, не выплачивать до конца чаевые сотрудникам, уволить человека за жалобу на харассмент, и прочее в таком духе. Правильная информация при этом лежала в собственной базе знаний бота наравне с устаревшей. Как оказалось, он просто-напросто не смог выбрать между верным и неверным, когда оба варианта оказались под рукой.https://habr.com/ru/companies/ru_mts/articles/1089058/#LLM #RAG #галлюцинации #память_агентов #агенты_ИИ #интерпретируемость_ИИ #машинное_обучение
Related
🧶 6/6 #rockforcoffee V průběhu dalších desetiletí se kapela několikrát znovu spojila. Její příběh však poznamenala smrt ...
🧶 6/6 #rockforcoffee V průběhu dalších desetiletí se kapela několikrát znovu spojila. Její příběh však poznamenala smrt Keitha Emersona🩶 v roce 2016 a Grega Lakea🩶 v témže roce. Ca...
Anthropic's major backers—Google (14%), Amazon (15%), Microsoft, Nvidia, and AMD—bought $26 billion in non-voting shares...
Anthropic's major backers—Google (14%), Amazon (15%), Microsoft, Nvidia, and AMD—bought $26 billion in non-voting shares alongside the IPO. The arrangement highlights how deeply en...
Build vs Buy AI Solutions: Which Is Right for Your Business?Should you build a custom AI solution or buy an existing pla...
Build vs Buy AI Solutions: Which Is Right for Your Business?Should you build a custom AI solution or buy an existing platform? Explore the differences in cost, scalability, flexibi...