Ученый разработал модель, объясняющую работу ИИ

Искусственный интеллект и машинное обучение используются в правительствах, здравоохранении, бизнесе и промышленности. Метод глубокого обучения (deep learning) позволяет диагностировать пациентов в здравоохранении намного быстрее, чем человек. Но как система искусственного интеллекта принимает решения и почему именно так? Эти вопросы могут быть сложными для понимания для широкой публики.

Фрэмлинг разработал метод CIU (Контекстуальный метод определения важности и полезности) и считает его более эффективным по сравнению с другими моделями. Он позволяет изучить и объяснить влияние изменения входных данных на результаты искусственного интеллекта.

Этот метод не создает «заменительную модель», а анализирует работу нейронной сети и позволяет создавать понятные объяснения для решений, принятых системой искусственного интеллекта.

Модель CIU реализована на языках программирования Python и R, ее исходный код доступен на Github. Эта модель может быть интегрирована практически с любой системой искусственного интеллекта и даже объяснять результаты классических систем ИИ.