Контур вокруг LLM: как AI Gateway снижает риск утечек и prompt injectionРазберём, как защищать данные и языковые модели в компании. Что такое AI Gateway, зачем его ставят между приложением и моделью, что он успевает перехватить и чего не умеет. Посмотрим на реальных примерах, как утекают данные и как работает prompt injection. Из каких проверок собирают защиту, что из них крутится на обычном процессоре, а что требует видеокарты, и сколько это стоит в рублях. Отдельно разберём агентов, которые сами ходят по сети, и то, что требуют ФСТЭК и Банк России. Сразу оговорюсь: полной защиты от prompt injection нет ни у кого, и статья её не обещает. Речь о том, как снизить вероятность атаки и ограничить ущерб от той, что всё равно пройдёт.https://habr.com/ru/articles/1100970/#фстэк #dlp #onpremise #llm #prompt_injection #guardrails #owasp_llm_top_10 #ai_gateway
Related
After a change to a RAG system, the answers still read fluently. Whether they got better or worse is another matter: "Th...
After a change to a RAG system, the answers still read fluently. Whether they got better or worse is another matter: "The contract cannot be terminated with 30 days' notice" shares...
Ich fahre sehr viel mit der Bahn und heute passen die Angaben in der App gar nicht. Gestern stimmte die Abfahrtszeit nic...
Ich fahre sehr viel mit der Bahn und heute passen die Angaben in der App gar nicht. Gestern stimmte die Abfahrtszeit nicht und meinem Sohn und mir wurden nicht die gleichen Züge an...
OpenAI third-quarter revenue reaches $10 billion, up nearly 50%OpenAI's quarterly revenue hit $10 billion for the first ...
OpenAI third-quarter revenue reaches $10 billion, up nearly 50%OpenAI's quarterly revenue hit $10 billion for the first time in the three months ending in September, up nearly 50% ...