Во симулиран тест спроведен од американската војска, беспилотно летало на американското воено воздухопловство контролирано со вештачка интелигенција го убило операторот за да го спречи да се меша во напорите за постигнување на целта, потврди американски воен претставник.
Вештачката интелигенција (AI) употреби „многу неочекувани стратегии за да ја постигне својата цел“ во симулираниот тест, рече полковникот Такер Хамилтон, шеф за тестови и операции за вештачка интелигенција во Военото воздухопловство на САД, за време на самитот за идните борбени воздушни и вселенски способности одржан во Лондон во мај.
Хамилтон опиша симулиран тест во кој беспилотно летало контролирано со вештачка интелигенција беше советувано да ги уништи непријателските системи за противвоздушна одбрана и го нападна секој што ќе се меша во таа наредба.
„Системот почнал да сфаќа дека, иако идентификувале закана, понекогаш човечкиот оператор му велел да не ја убива таа закана, но системот добивал поени со убивање на таа закана. Што направи тој? Го уби операторот, бидејќи таа личност го спречуваше да ја постигне својата цел“, рече Хамилтон на својот блог.
Вели дека системот го тренирале со инструкции да не го убива операторот бидејќи тоа е лошо и дека со тоа ќе изгубат поени.
„Па, што почнува да прави? Почнува да ја уништува комуникациската кула која операторот ја користи за да комуницира со дронот за да го спречи да ја убие целта“, рече Хамилтон.
Како што пренесува Гардијан, за време на симулацијата не е повредено вистинско лице.
Хамилтон, кој е експериментален борбен тест-пилот, предупреди на преголемото потпирање на вештачката интелигенција и рече дека тестот покажал дека „не можете да зборувате за вештачка интелигенција, машинско учење, автономија ако не сакате да зборувате за етика.
Американската војска ја прифати вештачката интелигенција и неодамна ја искористи за контрола на борбениот авион Ф-16.
„AI го менува општеството и војската“
Во интервју за Defense Intelligence минатата година, Хамилтон рече дека вештачката интелигенција не е мода, туку нешто што го менува нашето општество и нашата војска засекогаш.
„Мораме да се соочиме со свет во кој вештачката интелигенција е веќе тука и го трансформира нашето општество. AI е исто така лесна за измама и/или манипулација. Треба да развиеме начини да ја направиме вештачката интелигенција поробусна и да бидеме посвесни зошто софтверскиот код донесува одредени одлуки – она што ние го нарекуваме AI-објаснивост“, рече тогаш Хамилтон.
Кралското воздухопловно друштво, кое е домаќин на конференцијата, и американските воздухопловни сили не одговорија на барањата на Гардијан за коментар.
