ООН предупредила о гендерной и культурной предвзятости у ИИ

Исследование, проведенное в рамках инициативы «Предвзятости по отношению к женщинам и девочкам в больших языковых моделях», включало анализ текстов, сгенерированных такими моделями, как GPT-3.5, GPT-2 и Llama 2.

Автоматическое создание текстов, особенно в открытых источниках, показало неравномерное распределение профессий между мужчинами и женщинами, присваивая более многообразные и высокооплачиваемые работы мужчинам, в то время как женщины часто связываются с традиционно занимаемыми роли с низкой оценкой.

Генерация таких контекстов вызывает обеспокоенность, так как они могут усиливать реальные социальные неравенства. ЮНЕСКО призывает правительства разрабатывать и внедрять ясные нормативные рамки для контроля и регулирования таких технологий, а частные компании должны проводить систематический мониторинг и оценку предвзятостей, в соответствии с рекомендациями по этике искусственного интеллекта, принятыми членами ЮНЕСКО в ноябре 2021 года.