Ученый разработал модель, объясняющую работу ИИ

Профессор Кари Фрэмлинг, один из пионеров в области «Объяснимого искусственного интеллекта», разработал передовую модель, объясняющую, как и почему работает искусственный интеллект (ИИ). Эта модель открывает «черный ящик» искусственного интеллекта и доступна для практически всех систем ИИ. Искусственный интеллект и машинное обучение используются в правительствах, здравоохранении, бизнесе и промышленности. Метод глубокого обучения (deep learning) позволяет диагностировать пациентов в здравоохранении намного быстрее, чем человек. Но как система искусственного интеллекта принимает решения и почему именно так? Эти вопросы могут быть сложными для понимания для широкой публики. Фрэмлинг разработал метод CIU (Контекстуальный метод определения важности и полезности) и считает его более эффективным по сравнению с другими моделями. Он позволяет изучить и объяснить влияние изменения входных данных на результаты искусственного интеллекта. Этот метод не создает «заменительную модель», а анализирует работу нейронной сети и позволяет создавать понятные объяснения для решений, принятых системой искусственного интеллекта. Модель CIU реализована на языках программирования Python и R, ее исходный код доступен на Github. Эта модель может быть интегрирована практически с любой системой искусственного интеллекта и даже объяснять результаты классических систем ИИ.