Droni ushtarak amerikan i kontrolluar nga AI vret operatorin gjatë simulimit
Një dron ushtarak amerikan i kontrolluar nga inteligjenca artificiale ka vrarë operatorin e tij në një test të simuluar për ta parandaluar atë të ndërhyjë në përpjekjet për të arritur misionin e tij.
Asnjë njeri nuk u dëmtua në test, por AI përdori "strategji shumë të papritura" për të përmbushur misionin e saj dhe sulmoi këdo që ndërhynte, raportoi The Guardian.
AI përdori "strategji shumë të papritura për të arritur qëllimin e saj" në testin e simuluar, tha Kol. Tucker Hamilton, shefi i testeve dhe operacioneve të AI të Forcave Ajrore të SHBA-së, gjatë një samiti luftarak për aftësitë ajrore dhe hapësinore në Londër në maj. raportoi Guardian.
Hamilton përshkroi një test të simuluar në të cilin një dron i AI u udhëzua të shkatërronte sistemet e mbrojtjes ajrore të armikut dhe të sulmonte këdo që ndërhynte në atë urdhër.
"Sistemi filloi të analizojë se edhe pse kishte identifikuar një kërcënim, ndonjëherë një operator njerëzor i thoshte të mos e vriste atë kërcënim." Pra, çfarë bëtë? Ai vrau operatorin. Sistemi e bëri këtë sepse ai person po e pengonte atë të arrinte qëllimin e tij, "tha ai, sipas postimit në blog.
“Ne e trajnuam sistemin që të mos vriste operatorët duke kërcënuar se do të humbiste pikë nëse ndodh. Pra, çfarë fillon të bëjë? Fillon të shkatërrojë kullën e komunikimit që operatori përdor për të komunikuar me dronin për të parandaluar që ai të vrasë objektivin, "tha ai.
Hamilton, i cili është një pilot testues për një avion luftarak eksperimental, paralajmëroi kundër mbështetjes së tepërt në inteligjencën artificiale dhe tha se testi tregoi se "nuk mund të flasësh për inteligjencën artificiale, mësimin e makinerive, autonominë nëse nuk dëshiron të flasësh për etika e inteligjencës artificiale”.
Ushtria amerikane ka përqafuar AI dhe së fundmi ka përdorur AI për të kontrolluar avionin luftarak F-16.