«Робопокалипсис близко» или зачем очеловечивать молоток

Автор указывает, что такая тенденция к гуманизации ИИ может привести к моральным сложностям, поскольку общество может начать выступать за права ИИ, которых быть не может.

Он приводит примеры из видеоигр, где игроки часто делают морально правильный выбор при взаимодействии с виртуальными персонажами. Это говорит о том, что люди переносят свои моральные нормы на компьютерных персонажей, даже если они представляют собой набор пикселей и кода. В статье также приводится ссылка на психологический эксперимент, в котором испытуемые персонифицировали геометрические фигуры, что свидетельствует о врожденной склонности человека к антропоморфизации даже неодушевленных предметов.

Одна из мыслей заключается в том, что людям легче представить мечтающих андроидов, но вот если мысль о том, что у молотка есть свои чувства, кажется уже бессмысленной. Хотя и первый и второй объект – всего лишь инструменты, созданные людьми.

Основное опасение автора заключается в том, что по мере развития технологий ИИ общество может воспринимать его как обладающего эмоциями, сознанием и правами, что приведет к сложным моральным и правовым дискуссиям. В статье подчеркивается, что общество должно воспринимать ИИ как инструмент со сложной функциональностью, а не как разумное существо.