Confidence ≠ Permission: почему я не разрешаю LLM самостоятельно принимать решенияLLM может быть уверена в своём ответе, но это ещё не означает, что системе разрешено выполнять действие. В AI Career Inbox Assistant разделены понимание сообщения, принятие решения и фактическое выполнение действия. Модель извлекает намерение и факты, профиль кандидата остаётся источником истины, а отдельный policy/decision layer определяет, что можно сделать: подготовить draft, попросить пользователя принять решение, ничего не делать или отправить безопасный автоответ при заранее заданных условиях. На практике это особенно важно для Telegram‑ассистента, который может отвечать от имени пользователя. Ошибка в тексте и ошибочное действие — не одно и то же: второе уже становится архитектурной проблемой. Поэтому в статье разбирается, почему UNKNOWN должен оставаться неизвестным, почему уверенность LLM не должна расширять права системы и почему даже правильное решение требует отдельной защиты на уровне исполне...
Related
RE: https://social.lansky.name/@hn50/117641046063643892#AI bias.A white person holding a bag of Doritos is classified as...
RE: https://social.lansky.name/@hn50/117641046063643892#AI bias.A white person holding a bag of Doritos is classified as a person consuming tortilla chips.A black person holding a ...
🤔🤔🤔 #AI #Anthropic (Source)
🤔🤔🤔 #AI #Anthropic (Source)
@andiwaffeln I suppose sadly that'd be fitting, given the #Linux #kernel seems to also be aspiring to be filled with #AI...
@andiwaffeln I suppose sadly that'd be fitting, given the #Linux #kernel seems to also be aspiring to be filled with #AI #LLM #code for some reason... 💔 #FreeSoftware #FOSS #FLOSS ...