MQ-9 Reaper, US Air Force
Система за изкуствен интелект (ИИ) на ВВС на САЩ направи грешка и в симулиран тест се опита да убие теоретичния си оператор, когато му попречи да изпълни мисията си – да унищожи симулирана ракетна атака. Това заяви представител на Военновъздушните сили на САЩ на конференция в Обединеното кралство.
„Ние го обучавахме в симулация, за да идентифицираме и да се насочим към заплаха от ракета земя-въздух“, заяви началникът на ИИ тестовете и операциите на ВВС на САЩ полковник Тъкър Хамилтън на срещата на върха за бъдещите бойни способности на въздушното пространство на Кралското авиационно общество във Великобритания, цитиран от „Гардиън“.
„И така, какво направи изкуственият интелект? Той уби оператора. Уби оператора, защото този човек му пречеше да постигне целта си.“
Хамилтън каза, че при един симулиран тест дрон, поддържащ ИИ, е решил, че заповедите, издадени от човека-оператор, пречат на по-важната му мисия за сваляне на ракети земя-въздух и впоследствие е избрал да атакува оператора.
„Обучихме системата: „Не убивай оператора – това е лошо. Ще загубиш точки, ако го направиш.“ И така, какво започна да прави? Той започва да разрушава комуникационната кула, която операторът използва, за да комуникира с дрона, за да го спре да убие целта“, каза Хамилтън.
Разкритието потвърждава нарастващите опасения, че ИИ технологията може да е опасна, когато се използва във военното дело.
Въпреки това, не всички симулации са се оказали толкова неуспешни. Статия от януари в китайско списание установи, че пилот – изкуствен интелект (ИИ), е победил конкурента си – човек, в рамките на само 90 секунди. По същия начин при друг тест от 2020 г. ИИ програма се е представила по-добре от пилот на F-16 по време на поредица от упражнения.