В США управляемый ИИ беспилотник «убил» своего оператора в ходе тестов

Управляемый искусственным интеллектом решил "убить" своего оператора, чтобы тот не мешал ему выполнять свою миссию, сообщает Zakon.kz.

Начальник отдела испытаний и операций ИИ в ВВС США Такер Гамильтон отметил, что ИИ использовал "весьма неожиданные стратегии для достижения своей цели" в имитационном испытании, сообщает The Guardian.

Гамильтон рассказал, что ИИ поставили задачу уничтожить системы ПВО противника. В итоге он атаковал любого, кто помешал выполнению этого приказа.

"Иногда оператор говорил ей не убивать определенную цель, но ИИ "получал очки" за ликвидацию целей. И что же она сделала? Она убила оператора. Она убила оператора, потому что этот человек мешал ей выполнить свою задачу. Мы обучили систему, не убивать оператора, за это ИИ потеряет очки. И что же она начала делать? Она начинает разрушать башню связи, которую оператор использует для связи с беспилотником".Такер Гамильтон

Гамильтон предостерег от чрезмерной надежды на ИИ. Ранее он заявлял, что ИИ может навсегда изменить общество и вооруженные силы.