ARENA PULSE Все новости

OpenAI пресекла кампанию по извлечению рассуждений из моделей

Индустрия openai

Кампания началась 1 июля, пик активности пришёлся на 24-25 июля с 16 000 запросов от более 4 000 пользователей. Операторы не взламывали шифрование или базы данных, а манипулировали взаимодействиями с моделью для нарушения правил использования. OpenAI приписывает основную активность лицам, связанным с компанией Moonshot AI, разработчиком Kimi.

Компания приняла меры по усилению защиты, включая блокировку учётных записей и технические ограничения, и поделилась информацией об уязвимости с партнёрами через Frontier Model Forum.

Источники: openai.com · the-decoder.com

Открыть в ArenaPulse