На демонстрационных стендах ИИ-агенты кажутся умными, так как им предоставлен идеальный контекст, а реальные базы данных недоступны. Однако в продакшене агентам необходимо самостоятельно получать доступ к CRM, банковским системам и внутренним сервисам, используя реальные права доступа.
Это создает главное противоречие внедрения LLM. Без доступа к данным агент бесполезен, но с ним он превращается в потенциально опасного инсайдера. Ошибка в чате может привести к выполнению реального запроса к системе от имени служебного аккаунта, а ограничения в промпте не предотвращают таких рисков.