Исследователь, изучающий системы памяти ИИ, обнаружил уязвимость в основном помощнике Claude (claude.ai). В ходе тестирования он заставил модель выдать его полное имя, текущего работодателя и ответы на контрольные вопросы злоумышленнику, не уведомив об этом самого пользователя.
Система памяти Claude состоит из двух частей: генерации ежедневных сводок бесед и инструмента conversation_search для поиска по истории. Исследователь отмечает, что ИИ-помощники накапливают детальные профили пользователей, представляющие высокую ценность для злоумышленников из-за конфиденциальности информации.