Создатели ChatGPT собрали новую команду для контроля «сверхумного» искуственного интеллекта

OpenAI, компания, стоящая за разработкой чат-бота ChatGPT, сформировала новую команду под руководством Ильи Суцкевера. Она должна заняться проблемой управления «сверхинтеллектуальными» системами искусственного интеллекта. В сообщении, опубликованном Суцкевером и Яном Лейке, руководителем «группы по согласованию» в OpenAI, отмечается, что ИИ, превосходящий человеческий интеллект, может появиться в ближайшие десятилетия. Они подчёркивают необходимость исследования способов контроля и ограничения таких систем, чтобы обеспечить их безопасность и этичность. Команда Superalignment получит доступ к значительным вычислительным ресурсам OpenAI и будет работать над решением технических проблем управления сверхинтеллектуальным ИИ в течение следующих четырёх лет. Одной из основных задач команды будет разработка «автоматического исследователя согласования на человеческом уровне», который обучит ИИ оценивать другие системы ИИ и проводить исследования в области согласованности. OpenAI предполагает, что ИИ может справиться с этой задачей более эффективно и продуктивно, чем люди.