LLM Sandbox: изолированная среда для исполнения кода от LLM [часть 1, теория]В большинстве бизнес-сценариев LLM перестал...

LLM Sandbox: изолированная среда для исполнения кода от LLM [часть 1, теория]В большинстве бизнес-сценариев LLM перестала быть просто чат-ботом. Современные модели становятся частью агентских систем: у них есть инструменты, доступ к файлам, терминалу, браузеру, базам данных. Они не только отвечают на вопросы, но и выполняют действия. В этой статье (ее первой части) разберём среду изолированного исполнения кода: песочницу (sandbox). Представим ситуацию: пользователь загружает Excel-файл, просит проанализировать таблицу, найти аномалии и на основе анализа создать PowerPoint-презентацию. В чистом виде LLM не умеет читать файлы, строить графики и создавать презентации. Однако может написать код, который всё это сделает. И тут появляется вопрос: где этот код запускать? Генерируемый агентом код может быть ошибочным или, в случае с промпт инъекцией, намеренно опасным. Поэтому для безопасного исполнения кода агенту нужна песочница или изолированная среда . В этой статье разберём: - основные ри...