Учёные: управлять настоящим искусственным интеллектом будет невозможно
Но такого пока нет и в поминеИдея уничтожения человечества искусственным интеллектом обсуждается уже давно. Учёные поделились своим мнение о том, сможет ли человечество контролировать по-настоящему высокоуровневый компьютерный сверхразум.
/imgs/2022/09/18/08/5589344/57991bd6021b9ba197933e74a43d71c8fdd4da54.jpg "Учёные: управлять настоящим искусственным интеллектом будет невозможно")
Загвоздка в том, что для управления настоящим искусственным интеллектом, находящимся далеко за пределами человеческого понимания, потребуется симуляция этого сверхразума, которую мы сможем анализировать (и контролировать). Но если мы не в состоянии это понять, создать такую симуляцию невозможно.
В этом случае люди не смогут устанавливать для ИИ ограничительны правила, такие как «не причинять вреда людям». Впрочем, пока человечество неспособно создать такой искусственный интеллект, но остаётся неясным, в какой момент этот порог будет преодолён.