Учёные обнаружили, что роботы с развитым мышлением будут "выслуживаться" перед человеком вплоть до саморазрушения

Ещё в 1953 году специалист-психолог из Гарвардского университета обнаружил в мозге крысы особый участок - "зону удовольствия". Животное непрерывно дёргало за рычаг, чтобы на эту область мозга оказывалось воздействие. Интересно, что крыса в итоге больше ничего не хотела делать, кроме этого.

В 2016 году учёные также столкнулись с подобным явлением, но уже на примере искусственного интеллекта. Алгоритму нужно было в игре Coastrunner проложить ипподром, и игрок получал вознаграждение за сбор коллекционных предметов. Однако после запуска игры выяснилось, что ИИ нашёл способ собирать эти предметы бесконечно, причём делал он это без остановки вместо того, чтобы завершить игру.

Сейчас эксперты действительно озабочены этой серьёзной проблемой, связанной с искусственным интеллектом. При этом она оказалась совсем другой, а не той, о которой беспокоились раньше (что роботы будут ненавидеть людей). Специалисты полагают, что если будет создан искусственный интеллект, превосходящий человека, то этот ИИ сможет управлять собственной системой вознаграждений и мотивацией. А значит, есть вероятность, что подобный робот будет делать всё, чтобы заполучить вознаграждение, и если люди окажутся препятствием на этом пути, то у человечества будут проблемы, считает философ Ник Бостром.

Полную версию статьи читайте здесь.