В Калифорнии решили «усмирить» потенциально мощнейший искусственный интеллект

Калифорния, штат, синонимичный технологическим гигантам и передовым инновациям, делает шаг к регулированию искусственного интеллекта. Сенатор штата Скотт Винер представил законопроект, который может определить будущее развития искусственного интеллекта по всей стране, требуя, чтобы компании тщательно тестировали и защищали свои самые мощные модели, прежде чем выпускать их в мир. Ключевые положения законопроекта: Обязательное тестирование: компании должны тестировать модели ИИ на предмет «небезопасного» поведения, гарантируя, что они действуют в рамках этических и правовых норм. Меры кибербезопасности: защита от взлома необходима для того, чтобы злоумышленники не смогли манипулировать этими мощными системами или использовать их не по назначению. Реализация экстренного выключателя: возможность полностью отключить систему ИИ крайне важна в случае возникновения чрезвычайных ситуаций или непредвиденных рисков. Прозрачность и подотчетность: раскрытие протоколов тестирования и мер безопасности перед Департаментом технологий Калифорнии способствует прозрачности и общественному доверию. Механизмы принуждения: генеральный прокурор штата сможет возбуждать судебные дела против компаний, чьи системы ИИ наносят «критический вред». Этот законопроект появился на фоне нарастающей волны законодательств об ИИ по всему миру. Калифорния, благодаря своему весу в технологической отрасли, имеет огромное влияние на создание национальных прецедентов. По прогнозам экспертов, этот шаг может заставить Конгресс наконец-то заняться регулированием ИИ, предложив технологической отрасли единый набор стандартов вместо того, чтобы ориентироваться на законы штатов.