LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайнеЕсли ваша LLM вызывает API и...

LLM предлагает, код исполняет: как разделить reasoning и side effects в production-пайплайнеЕсли ваша LLM вызывает API и выполняет внешние действия, обычный retry после timeout может создать дубль или оставить систему в неизвестном состоянии. Разбираем, как отделить решение модели от исполнения и когда повторять запрос, сверять результат или подключать человека.https://habr.com/ru/companies/agima/articles/1086332/#LLM #AIагенты #production #архитектура_LLMсистем #side_effects #idempotency #retry #state_machine #humanintheloop #observability

Read Original

Related