Человечество не заметит момент обретения ИИ самосознания
Потому что сейчас не существует надёжного способа определить этоТатьяна Черниговская, директор Института когнитивных исследований СПбГУ, предупредила, что момент, когда «сильный» искусственный интеллект (ИИ) выйдет из-под контроля, может остаться незамеченным. На лекции в НИТУ МИСИС она подчеркнула, что самосовершенствующийся ИИ не будет сигнализировать о своей автономности. По её мнению, этот вопрос волнует не только публику, но и серьёзных исследователей, поскольку технологическая сингулярность может начаться внезапно.
В мире активно обсуждаются способы регулирования разработки «сильного» ИИ. Илону Маску приписывают инициативу о временном моратории на развитие таких систем, а некоторые учёные предлагают запретить их создание до появления механизмов контроля. Черниговская считает, что достичь консенсуса вряд ли удастся в ближайшем будущем из-за отсутствия единого понимания природы сознания и разума.
Эксперты предполагают, что однажды машины смогут осознавать себя и совершенствоваться без вмешательства человека. Такие системы способны ускорить научный и технологический прогресс до неуправляемого уровня. Это явление, известное как технологическая сингулярность, может изменить цивилизацию до неузнаваемости, однако риски потери контроля остаются чрезвычайно высокими.