OpenAI поделилась опытом, полученным при развертывании ИИ-моделей, работающих в течение длительного времени. Компания отмечает выявление новых потенциальных рисков безопасности и наблюдаемые случаи сбоев в таких условиях.
В ответ на эти проблемы OpenAI внедрила улучшенные механизмы защиты. Эти меры были разработаны и протестированы в ходе итеративного процесса развертывания моделей, направленного на повышение их безопасности и соответствия.