OpenAI создала команду по безопасности детей при использовании ИИ

В новой вакансии на странице карьеры OpenAI упоминается о существовании команды по безопасности детей, которая сотрудничает с внутренними и внешними партнерами, чтобы управлять процессами, инцидентами и проверками, связанными с несовершеннолетними пользователями.

Команда ищет специалиста по обеспечению безопасности детей, ответственного за применение политик OpenAI в контексте контента, созданного с использованием ИИ, и работу с процессами обзора «чувствительного» (предположительно, связанного с детьми) контента.

С ростом популярности инструментов искусственного интеллекта среди детей и подростков возрастает и риск негативных последствий. Недавнее исследование Центра защиты демократии показало, что 29% детей использовали ChatGPT для решения проблем с тревожностью или психическими заболеваниями.