Власти США выложили 12 лучших практик использования искусственного интеллекта в армии
Перечисленные в документе 12 лучших практик касаются безопасности ядерного оружия, ответственного проектирования систем, подготовки персонала и методологии аудита возможностей военного ИИ. В документе также подчеркивается необходимость минимизации непреднамеренных предубеждений и аварий, а также важность тестирования для обеспечения безопасности и эффективности возможностей военного ИИ.
Не обошли, в том числе, стороной и непреднамеренное поведении ИИ в военных системах: “Государства должны проектировать и разрабатывать военные возможности ИИ таким образом, чтобы они (страны, – прим. ред.) обладали способностью обнаруживать и избегать непредвиденных последствий, а также способностью отключать или деактивировать развернутые системы, демонстрирующие непредвиденное поведение”.
С полным текстом декларации можно ознакомиться на сайте Государственного департамента США.
Использование ИИ в вооруженных конфликтах должно соответствовать применимому международному гуманитарному праву, включая его основополагающие принципы. Военное использование возможностей ИИ должно быть подотчетным, в том числе посредством такого использования во время военных операций в рамках ответственной человеческой цепи командования и управления. Принципиальный подход к военному использованию ИИ должен включать тщательное рассмотрение рисков и выгод, а также сводить к минимуму непреднамеренные предубеждения и случайности.