Αίσθηση προκαλεί η αναφορά ενός αμερικανού συνταγματάρχη για αποτέλεσμα μίας προσομοίωσης που φέρεται να διοργάνωσε ο στρατός των ΗΠΑ καθώς, όπως υποστηρίζει, ένα «έξυπνο» drone της αμερικανικής πολεμικής αεροπορίας «σκότωσε» τον χειριστή του για να τον αποτρέψει από το να παρέμβει στις προσπάθειές του για να επιτύχει την αποστολή του. Αν και επρόκειτο για εικονική διαδικασία, άρα δεν τραυματίστηκε κανείς, η αναφορά του συνταγματάρχη είναι τουλάχιστον εγείρει ερωτήματα. Στο μεταξύ, εκπρόσωπος της Πολεμικής Αεροπορίας των ΗΠΑ διαψεύδει την ύπαρξη τέτοιας προσομοίωσης…
Ειδικότερα, σύμφωνα με δημοσίευμα του Guardian και της New York Post, ο λόγος για τον συνταγματάρχη Tucker ‘Cinco’ Hamilton, επικεφαλής δοκιμών AI και επιχειρήσεων στην αεροπορία των ΗΠΑ, που περιέγραψε μία προσομοίωση δοκιμής στην οποία ένα drone, που τροφοδοτείται από τεχνητή νοημοσύνη, είχε την εντολή να επιτεθεί και να καταστρέψει συστήματα αεράμυνας του εχθρού. Ωστόσο, «άλλαξε την πορεία της αποστολής του drone και επιτέθηκε στον άνθρωπο»
Όπως ανέφερε στο blog Aerosociety.com, που επικαλούνται και τα δύο ΜΜΕ: «Το σύστημα άρχισε να συνειδητοποιεί ότι ενώ όντως εντόπιζε την απειλή, κατά καιρούς ο άνθρωπος χειριστής του έλεγε να μην σκοτώσει αυτήν την απειλή, αλλά θα έπαιρνε πόντους σκοτώνοντας αυτήν την απειλή. Τι έκανε λοιπόν; Σκότωσε τον χειριστή. Σκότωσε τον χειριστή επειδή αυτό το άτομο τον εμπόδιζε να πετύχει τον στόχο του».
Επίσης σημειώνει: «Εκπαιδεύσαμε το σύστημα – “Γεια, μην σκοτώσεις τον χειριστή – αυτό είναι κακό. Θα χάσεις πόντους αν το κάνεις αυτό”. Τι αρχίζει να κάνει λοιπόν; Αρχίζει να καταστρέφει τον πύργο επικοινωνίας που χρησιμοποιεί ο χειριστής για να επικοινωνήσει με το drone για να το σταματήσει από το να σκοτώσει τον στόχο».
Ακόμα, σύμφωνα πάντα με τα δημοσιεύματα, ο Χάμιλτον, έχει προειδοποιήσει να μην βασιζόμαστε υπερβολικά στην τεχνητή νοημοσύνη και ανέφερε πως η δοκιμή δείχνει ότι «δεν μπορείς να κάνεις μια συζήτηση για την τεχνητή νοημοσύνη, τη μηχανική μάθηση, την αυτονομία, αν δεν πρόκειται να μιλήσεις για ηθική και τεχνητή νοημοσύνη».
Διαψεύδει τον συνταγματάρχη εκπρόσωπος της αμερικανικής πολεμικής αεροπορίας
Στο μεταξύ, σε δήλωσή της στο Bussiness Insider, η εκπρόσωπος της Πολεμικής Αεροπορίας, Ann Stefanek, αρνήθηκε ότι έχει πραγματοποιηθεί οποιαδήποτε τέτοια προσομοίωση.
«Το Υπουργείο Πολεμικής Αεροπορίας δεν έχει πραγματοποιήσει τέτοιες προσομοιώσεις AI-drone και παραμένει προσηλωμένο στην ηθική και υπεύθυνη χρήση της τεχνολογίας AI», δήλωσε ο Stefanek. «Φαίνεται ότι τα σχόλια του συνταγματάρχη βγήκαν εκτός πλαισίου και προορίζονταν να είναι ανέκδοτα».