Алгоритмы начали наказывать за расизм даже афроамериканцев

Об этом рассказали исследователи из США. Проще говоря, они обнаружили, что алгоритмы чаще маркируют как оскорбительные твиты темнокожих людей. Корень проблемы заключается в сленге, который используют афроамериканцы. Афроамериканский диалект, на котором часто говорят члены городских сообществ в США, наполнен жаргонными выражениями и оскорблениями. Например, афроамериканцы могут называть друг друга nigga, но если это сделает кто-то другой, то поступок сочтут оскорбительным.

Исследователи проанализировали 124 779 твитов, которые Perspective API классифицировал как оскорбительные. Этот API представляет собой специальный сервис, который позволяет оценить «токсичность» сообщений в сети. В итоге инструмент по ошибке посчитал оскорбительными 46% твитов на афроамериканском диалекте, которые на самом деле не имели цели кого-то обидеть. А вот для твитов на обычном английской языке вероятность ошибок составила лишь 6%.