Почему AI-агент с доступом к API опаснее обычного ChatGPTНебольшое уточнение перед началом. В статье будет упоминаться н...

Почему AI-агент с доступом к API опаснее обычного ChatGPTНебольшое уточнение перед началом. В статье будет упоминаться некий (скриптовый) язык описания политик SIL (Security Intent Language). На его месте могло бы быть любое другое название, формат или технология. В рамках материала SIL используется исключительно как пример удобного способа описания правил поведения AI-агентов. Основная цель статьи - объяснить проблему контроля действий AI и показать один из возможных подходов к её решению.https://habr.com/ru/articles/1042998/#AI_Agents #Agentic_AI #LLM #Tool_Calling #Prompt_Injection #AI_Security #API_Security #RBAC #Runtime_Control #Policy_Engine