ARENA PULSE Все новости

Проблема доверия к контексту в корпоративных ИИ-системах

Рейтинги

Корпоративные ИИ-агенты часто выдают уверенные, но неверные ответы из-за ненадежного контекста, создавая разрыв между уверенностью и достоверностью.

Исследование среди 101 предприятия показало, что инфраструктура, обеспечивающая ИИ-агентов бизнес-контекстом, развивается быстрее, чем к ней можно полностью довериться. Retrieval-augmented generation (RAG) является основным источником контекста для 38% компаний, а нативные инструменты поставщиков вытеснили специализированные векторные базы данных. Большинство предприятий (57%) столкнулись за последние шесть месяцев с тем, что их ИИ-агенты выдавали уверенные, но неверные ответы, связанные с отсутствующим или противоречивым контекстом.

Решением проблемы управляемый семантический слой, который 58% компаний уже внедряют или строят, но для большинства он еще не в эксплуатации. Рынок движется в сторону гибридного поиска. Несмотря на лидерство нативных инструментов поставщиков на практике, значительная часть компаний намерена использовать лучшие из лучших решений. Это приводит к контекстному разрыву — агенты звучат авторитетно, но основаны на фундаменте, владельцы которого еще не до конца доверяют.

Источник: venturebeat.com

Открыть в ArenaPulse