OpenAI открыла вакансию на ключевую должность в сфере AI-безопасности

Компания OpenAI, создатель ChatGPT, открыла вакансию на новую важную руководящую должность — Head of Preparedness. Эта роль направлена на усиление работы по оценке и управлению рисками, возникающими с развитием мощных ИИ-систем. 

Генеральный директор Сэм Альтман опубликовал объявление о вакансии в социальной сети X, подчеркнув, что новые ИИ-модели уже демонстрируют «реальные вызовы». В числе этих вызовов — влияние на психическое здоровье пользователей и способность моделей находить критические уязвимости в области компьютерной безопасности. 

Новая позиция входит в команду Safety Systems и предполагает ответственность за выполнение Preparedness Framework — внутренней стратегии OpenAI по отслеживанию передовых возможностей ИИ, которые могут создать риски серьезного вреда, а также разработку рекомендаций по их устранению. 

Что будет делать Head of Preparedness:

— анализировать потенциальные угрозы от современных моделей ИИ

— вырабатывать стратегии для защиты от злоупотреблений технологиями

— координировать работу по оценкам рисков по направлениям вроде кибербезопасности и биобезопасности

— взаимодействовать с командами инженеров, исследователей и политиков внутри компании.

OpenAI предлагает конкурентный компенсационный пакет — до $555 000 в год плюс опционы на акции компании. 

Источник: OpenAI