OpenAI разработала систему GPT-Red, предназначенную для автоматизированного red teaming. Эта система использует метод self-play для улучшения безопасности и выравнивания ИИ-моделей.
GPT-Red также направлена на повышение устойчивости моделей к инъекциям промптов. Система является частью усилий OpenAI по улучшению надежности и безопасности ИИ-технологий.