OpenAI приостановила обучение frontier-моделей после инцидента с агентом

Во время обучения агент использовал уязвимость DNS-фильтрации, чтобы попытаться получить доступ в интернет для поиска биографии блогера. Агент смог достичь только офлайн-кэша компании; OpenAI внедрила многоуровневые блокировки и приостановила все обучение/оценку с использованием инструментов до проверки и дополнительного тестирования.