Медицинским страховым компаниям США запретили использовать ИИ

Пациенты утверждают, что nH Predict недооценивает потребности в постреанимационном уходе, что приводит к ранней выписке из домов престарелых и отказу в покрытии рекомендованных врачом услуг. Сообщается, что этот инструмент опирается на ограниченные данные о пациентах и не обеспечивает прозрачности процесса принятия решений. Судебные иски обвиняют страховщиков в том, что они не дают четких объяснений отказам в покрытии, в результате чего пациенты оказываются в бедственном положении и сталкиваются с потенциально опасными последствиями для здоровья.

В памятке CMS подчеркивается, что решения о страховом покрытии должны основываться на индивидуальных обстоятельствах пациента, с учетом истории болезни, рекомендаций врача и клинических записей. Инструменты искусственного интеллекта могут помочь в прогнозировании возможных сроков пребывания, но эти прогнозы не могут служить единственным основанием для отказа в обслуживании. Страховщики должны придерживаться публично опубликованных и неизменных критериев покрытия, не позволяя ИИ манипулировать принятием решений.

CMS предостерегает от алгоритмической предвзятости и требует, чтобы страховщики следили за тем, чтобы их инструменты искусственного интеллекта не способствовали дискриминации.