Как написать безопасный сборщик промта для LLM: руководство-шпаргалкаВся безопасность вашей LLM-системы проходит через один кусок кода: сборщик промта. Если он пропускает чужую роль, невидимые символы или поддельную историю, никакой «строгий системный промт» не спасёт. После работы над своим проектом решил написать шпаргалку из 20 пунктов, что проверить и почему, плюс что добавить в 2026.https://habr.com/ru/articles/1096824/#промт #безопастность #нейросети #red_teaming #llm #llmмодели #promt_injection
Related
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code...
Ask AI the same question twice — get two different answers. Why? 🎲Temperature: low = focused and repeatable (facts, code), high = creative and risky (brainstorming, stories).Agent ...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s...
California⚡sued #OpenAI on Mon, alleging it🚨failed to rein in powerful, potentially dangerous #AI #tech.CA AG ob Bonta’s off said OpenAI *behind ChatGPT🚨“misled * endangered the pu...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how...
href weekly | November 8–15, 2026 BitsMastodon · November 10 · #twitter turned to sh*t many years ago, but I do miss how it was used by folks at conferences to share thoughts, reso...