В Калифорнии решили «усмирить» потенциально мощнейший искусственный интеллект

Ключевые положения законопроекта:

• Обязательное тестирование: компании должны тестировать модели ИИ на предмет «небезопасного» поведения, гарантируя, что они действуют в рамках этических и правовых норм.

• Меры кибербезопасности: защита от взлома необходима для того, чтобы злоумышленники не смогли манипулировать этими мощными системами или использовать их не по назначению.

• Реализация экстренного выключателя: возможность полностью отключить систему ИИ крайне важна в случае возникновения чрезвычайных ситуаций или непредвиденных рисков.

• Прозрачность и подотчетность: раскрытие протоколов тестирования и мер безопасности перед Департаментом технологий Калифорнии способствует прозрачности и общественному доверию.

• Механизмы принуждения: генеральный прокурор штата сможет возбуждать судебные дела против компаний, чьи системы ИИ наносят «критический вред».

Этот законопроект появился на фоне нарастающей волны законодательств об ИИ по всему миру. Калифорния, благодаря своему весу в технологической отрасли, имеет огромное влияние на создание национальных прецедентов. По прогнозам экспертов, этот шаг может заставить Конгресс наконец-то заняться регулированием ИИ, предложив технологической отрасли единый набор стандартов вместо того, чтобы ориентироваться на законы штатов.