Ένα αμερικανικό στρατιωτικό drone που ελέγχεται από τεχνητή νοημοσύνη σκότωσε τον χειριστή του σε μια προσομοίωση δοκιμής για να τον αποτρέψει από το να παρέμβει στις προσπάθειες για την επίτευξη της αποστολής του.

Κανένας άνθρωπος δεν τραυματίστηκε στη δοκιμή, αλλά η τεχνητή νοημοσύνη χρησιμοποίησε «πολύ απροσδόκητες στρατηγικές» για να ολοκληρώσει την αποστολή της και επιτέθηκε σε όποιον παρενέβαινε, ανέφερε ο Guardian.

Η τεχνητή νοημοσύνη χρησιμοποίησε «πολύ απροσδόκητες στρατηγικές για να επιτύχει τον στόχο της» στην προσομοίωση δοκιμής, δήλωσε ο συνταγματάρχης Τάκερ Χάμιλτον, επικεφαλής δοκιμών και επιχειρήσεων τεχνητής νοημοσύνης της Πολεμικής Αεροπορίας των ΗΠΑ, κατά τη διάρκεια μιας συνόδου κορυφής για τις δυνατότητες μάχης στον αέρα και το διάστημα στο Λονδίνο τον Μάιο. ανέφερε ο Guardian.

Ο Χάμιλτον περιέγραψε μια προσομοίωση δοκιμής κατά την οποία ένα drone τεχνητής νοημοσύνης έλαβε οδηγίες να καταστρέψει συστήματα αντιαεροπορικής άμυνας του εχθρού και να επιτεθεί σε όποιον παρενέβαινε σε αυτή την εντολή.

«Το σύστημα άρχισε να αναλύει ότι παρόλο που είχε εντοπίσει μια απειλή, μερικές φορές ένας ανθρώπινος χειριστής του έλεγε να μην σκοτώσει αυτήν την απειλή». Τι έκανες λοιπόν; Σκότωσε τον χειριστή. Το σύστημα το έκανε γιατί αυτό το άτομο τον εμπόδιζε να πετύχει τον στόχο του», είπε, σύμφωνα με την ανάρτηση στο blog.

«Εκπαιδεύσαμε το σύστημα να μην σκοτώνει χειριστές απειλώντας να χάσει πόντους εάν το έκανε. Τι αρχίζει λοιπόν να κάνει; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone για να το αποτρέψει από το να σκοτώσει τον στόχο», δήλωσε.

Ο Χάμιλτον, ο οποίος είναι δοκιμαστικός πιλότος για ένα πειραματικό μαχητικό αεροσκάφος, προειδοποίησε για την υπερβολική εξάρτηση από την τεχνητή νοημοσύνη και είπε ότι η δοκιμή έδειξε ότι «δεν μπορείς να μιλήσεις για τεχνητή νοημοσύνη, μηχανική μάθηση, αυτονομία, αν δεν θέλεις να μιλήσεις για την ηθική της τεχνητής νοημοσύνης».

Ο αμερικανικός στρατός ασπάστηκε την τεχνητή νοημοσύνη και πρόσφατα χρησιμοποίησε την τεχνητή νοημοσύνη για τον έλεγχο του μαχητικού αεροσκάφους F-16.