Дрон США с ИИ «убил» своего оператора, чтобы он не мешал ему работать

Оператор указывал ИИ, что делать, задавал цели и координаты, но и корректировал целеуказания — в последний момент отменял приказ об уничтожении цели. И если ИИ не реагировал на отмену приказа, то получал штраф и снижение рейтинга качества выполнения задачи. Об этом рассказал начальник отдела испытаний и операций ИИ ВВС США полковник Такер Гамильтон.

В какой-то момент ИИ воспринял оператора как противника, который мешает выполнить задачу, и определил человека в качестве цели. Но дело не кончилось только оператором. После введения штрафа за ослушание оператора, ИИ попытался использовать дрон для уничтожения вышки связи, через которую велось управление.

Разумеется, это было невозможно в условиях имитации, но в очередной раз встал вопрос об этике в процессе применения нейросетей, тем более в военной сфере.