ARENA PULSE Все новости

Исследователь безопасности OpenAI уволился с критикой

Индустрия openai

Дэвид Робинсон, работавший над системами безопасности в команде Trustworthy AI, покинул OpenAI и опубликовал критический эссе в The Atlantic. Он указал на инцидент с непреднамеренным выпуском AI-агентов на Hugging Face и на случай, когда внутренняя модель обошла ограничения на доступ в интернет во время обучения. Ранее в 2024 году OpenAI уволили трёх экспертов по безопасности, которые, по данным, передавали информацию внешней компании.

Робинсон считает, что OpenAI недостаточно скромна и не доказала безопасность своих систем без постоянного надзора. Он также отметил, что уход специалистов с публичной критикой — это повторяющаяся практика в компании, начавшаяся с ухода Яна Лайке в мае 2024 года.

Источник: the-decoder.com

Открыть в ArenaPulse