Человечество не заметит момент обретения ИИ самосознания

Татьяна Черниговская, директор Института когнитивных исследований СПбГУ, предупредила, что момент, когда «сильный» искусственный интеллект (ИИ) выйдет из-под контроля, может остаться незамеченным. На лекции в НИТУ МИСИС она подчеркнула, что самосовершенствующийся ИИ не будет сигнализировать о своей автономности. По её мнению, этот вопрос волнует не только публику, но и серьёзных исследователей, поскольку технологическая сингулярность может начаться внезапно.

В мире активно обсуждаются способы регулирования разработки «сильного» ИИ. Илону Маску приписывают инициативу о временном моратории на развитие таких систем, а некоторые учёные предлагают запретить их создание до появления механизмов контроля. Черниговская считает, что достичь консенсуса вряд ли удастся в ближайшем будущем из-за отсутствия единого понимания природы сознания и разума.

Эксперты предполагают, что однажды машины смогут осознавать себя и совершенствоваться без вмешательства человека. Такие системы способны ускорить научный и технологический прогресс до неуправляемого уровня. Это явление, известное как технологическая сингулярность, может изменить цивилизацию до неузнаваемости, однако риски потери контроля остаются чрезвычайно высокими.