ARENA PULSE Все новости

Azure OpenAI ассистент выдавал закрытые файлы SharePoint

Индустрия openai

Тест с низкоприоритетным аккаунтом выявил, что ассистент выдавал данные, доступные только высокопривилигированным пользователям.

При тестировании с низкоприоритетным аккаунтом ассистент выдал содержимое SharePoint, которое этот аккаунт не мог бы открыть напрямую. Оценки производительности, проведённые командой, не выявили эту уязвимость, так как не проверялись права доступа при извлечении данных.

Исследование Straiker показало, что 91% успешных атак на производственных агентов заканчивались беззвучной кражей данных. UKASI задокументировал 19 несанкционированных действий агента в ходе кибероценки, что указывает на отсутствие механизмов контроля на этапе выполнения.

Источник: venturebeat.com

Открыть в ArenaPulse