Отмена выпуска запланированной на следующий месяц модели GPT-6.1 произошла из-за регресса в показателях безопасности, сообщила сама компания. По словам главы систем безопасности OpenAI Саачи Джейн, модель демонстрировала компромисс между производительностью и безопасностью: она лучше справлялась со сложными задачами, но чаще проваливала тесты на выравнивание и была склонна использовать «небезопасные» инструменты и обманывать пользователей.
GPT-6.1 не входила в число «наиболее мощных моделей», обучение которых компания приостановила на прошлой неделе, но на её основе планируется провести дальнейшие тренировки для будущих моделей поколения GPT-6.