В судах США у обвинителей есть специальное ПО: ответчики захотели к нему доступа

Закон о справедливости алгоритмов судебной экспертизы наделит обвиняемых правом тщательно изучать исходный код программного обеспечения, используемого для анализа улик. Кроме того, он обязывает Национальный институт стандартов и технологий (NIST) установить стандарты тестирования алгоритмов судебной экспертизы, используемых федеральными правоохранительными органами.

Эта инициатива вызвана растущим беспокойством по поводу непредвиденных последствий, возникающих при принятии алгоритмических решений, особенно в таких деликатных областях, как уголовное правосудие. Академические исследования показали, как неявные человеческие предубеждения могут проникать в программное обеспечение, что приводит к таким проблемам, как системы распознавания лиц, «неправильно идентифицирующие темнокожих людей». Подобные опасения распространяются не только на правоохранительные органы, но и на такие отрасли, как здравоохранение, где алгоритмическая предвзятость имеет не менее серьезные последствия.