Μια αναφορά πληροφοριών που κυκλοφόρησε την άνοιξη στις αμερικανικές Ένοπλες Δυνάμεις, εν μέσω του πολέμου με το Ιράν, προκάλεσε άμεσο συναγερμό: κινεζικό πλοίο που βρισκόταν στη Μέση Ανατολή φερόταν να μεταφέρει εξαρτήματα για πρόγραμμα πυρηνικών όπλων. Όπως μεταδίδει το CNN, o αμερικανικός στρατός τέθηκε αμέσως σε κινητοποίηση και άρχισε να καταρτίζει σχέδια για την αναχαίτιση του πλοίου, σύμφωνα με τέσσερις πηγές που γνωρίζουν το περιστατικό. Το newsletter του iEidiseis καθημερινά στο inbox σου. Κάνε εγγραφή εδώ. Κατά δύο από αυτές, ένοπλα στελέχη των αμερικανικών Ενόπλων Δυνάμεων προετοιμάζονταν ακόμη και να επιβιβαστούν στο σκάφος, ενώ στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί. Μόνο λίγο πριν από την προγραμματισμένη επιχείρηση, αξιωματούχοι εξέτασαν πιο προσεκτικά την αναφορά, η οποία είχε συνταχθεί από αναλυτή διοίκησης ειδικών επιχειρήσεων, και διαπίστωσαν ότι είχε παραχθεί με τη βοήθεια τεχνητής νοημοσύνης. ► Αποκάλυψη Washington Post: Αποκρύπτει τις απώλειες στο Ιράν το Πεντάγωνο – Περισσότεροι οι νεκροί στρατιώτες των ΗΠΑ Τότε αποκαλύφθηκε ότι το chatbot που είχε χρησιμοποιήσει ο αναλυτής είχε ταυτοποιήσει λανθασμένα το φορτίο που μετέφερε το κινεζικό πλοίο. Το CNN δεν κατάφερε να εξακριβώσει τι ακριβώς ήταν το φορτίο που είχε παρερμηνευθεί. Σύμφωνα με μία από τις πηγές, η αναφορά ήταν «εντελώς ψευδής». Ωστόσο, όπως χαρακτηριστικά ανέφερε η ίδια πηγή, «παραλίγο να ξεκινήσει έναν πόλεμο». Οποιαδήποτε αμερικανική επιχείρηση εναντίον κινεζικού πλοίου θα μπορούσε να προκαλέσει μια επικίνδυνη κλιμάκωση και ενδεχομένως να οδηγήσει σε ένοπλη σύγκρουση μεταξύ των δύο χωρών. Η AI μπαίνει όλο και βαθύτερα στον στρατό Στις αμερικανικές Ένοπλες Δυνάμεις και στις υπηρεσίες πληροφοριών βρίσκεται σε εξέλιξη μια ευρεία προσπάθεια ενσωμάτωσης της τεχνητής νοημοσύνης σχεδόν σε κάθε πτυχή της λειτουργίας τους. Η AI χρησιμοποιείται από την επεξεργασία τεράστιων όγκων ακατέργαστων πληροφοριών και την επιλογή στόχων για στρατιωτικά πλήγματα μέχρι πιο καθημερινές εφαρμογές, όπως η διαχείριση προϋπολογισμών, logistics και εφοδιαστικών αλυσίδων. Το συγκεκριμένο περιστατικό, ωστόσο, αναδεικνύει τους σοβαρούς κινδύνους που συνεπάγεται η χρήση μιας ισχυρής, νέας και ακόμη σχετικά ανεπαρκώς κατανοητής τεχνολογίας για την επιλογή στρατιωτικών στόχων εν μέσω πολεμικών επιχειρήσεων. Εδώ και χρόνια αναλυτές προειδοποιούν ότι η AI θα μπορούσε να οδηγήσει σε καταστροφικούς λανθασμένους υπολογισμούς, ιδιαίτερα εάν κυβερνήσεις βασίζονται σε ανακριβή ή αλλοιωμένα δεδομένα. Ένα τέτοιο σφάλμα θα μπορούσε, για παράδειγμα, να οδηγήσει τις Ηνωμένες Πολιτείες στο να ανοίξουν πυρ κατά κινεζικού πλοίου βασιζόμενες σε εσφαλμένες πληροφορίες. Πώς έγινε το λάθος Στη συγκεκριμένη περίπτωση, ο αναλυτής υπέβαλε ερώτημα σε chatbot σχετικά με πληροφορίες για το δηλωμένο φορτίο του πλοίου, οι οποίες προέρχονταν από τη Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό, με έδρα τη Χαβάη. Δεν έχει διευκρινιστεί εάν το chatbot ήταν κάποιο εμπορικά διαθέσιμο εργαλείο ή σύστημα που είχε αναπτυχθεί ειδικά για την αμερικανική κυβέρνηση. «Τα εσωτερικά εργαλεία είναι ως επί το πλείστον αντίγραφα των εμπορικών συστημάτων με λίγο… κραγιόν», ανέφερε πρώην υψηλόβαθμος Αμερικανός αξιωματούχος, ο οποίος γνωρίζει τα συστήματα AI που χρησιμοποιούν αναλυτές του στρατού και των υπηρεσιών πληροφοριών. Το σύστημα συνδύασε πληροφορίες από ανοιχτές πηγές με απόρρητες πληροφορίες σημάτων που υπήρχαν στα κυβερνητικά αρχεία και κατέληξε στο κρίσιμο —και λανθασμένο— συμπέρασμα για το φορτίο του πλοίου. Στη συνέχεια, ο αναλυτής χρησιμοποίησε και πάλι τεχνητή νοημοσύνη για να μετατρέψει τα ευρήματα σε τυποποιημένη αναφορά πληροφοριών, δηλαδή σε έναν τύπο εγγράφου που θεωρείται αξιόπιστος από στρατιωτικούς αξιωματούχους, και στη συνέχεια τη διένειμε. Η Διοίκηση Ειδικών Επιχειρήσεων των ΗΠΑ στον Ειρηνικό και το Πεντάγωνο δεν απάντησαν σε αιτήματα για σχολιασμό. Γιατί οι ΗΠΑ επιταχύνουν τη χρήση AI Το βασικό επιχείρημα υπέρ της ταχείας υιοθέτησης της τεχνητής νοημοσύνης είναι ότι μπορεί να βοηθήσει τον στρατό να λαμβάνει ταχύτερα αποφάσεις στο πεδίο της μάχης, όπως ποιους στόχους θα πλήξει ή πού πρέπει να μετακινηθούν στρατιωτικές δυνάμεις και μέσα. Αμερικανοί αξιωματούχοι υποστηρίζουν ότι οι ΗΠΑ δεν έχουν την πολυτέλεια να μείνουν πίσω στην ενσωμάτωση της AI, ιδιαίτερα σε περίπτωση που στο μέλλον χρειαστεί να αντιμετωπίσουν την Κίνα ή άλλον αντίπαλο που θα μπορούσε να αποκτήσει επιχειρησιακό πλεονέκτημα. Τον Ιανουάριο, ο υπουργός Άμυνας Πιτ Χέγκσεθ παρουσίασε τη «Στρατηγική Επιτάχυνσης της Τεχνητής Νοημοσύνης» του υπουργείου, με στόχο την ταχύτερη υιοθέτηση της τεχνολογίας από τις Ένοπλες Δυνάμεις. «Θα απελευθερώσουμε τον πειραματισμό, θα εξαλείψουμε τα γραφειοκρατικά εμπόδια, θα εστιάσουμε τις επενδύσεις μας και θα δείξουμε τον τρόπο εκτέλεσης που απαιτείται ώστε να διασφαλίσουμε ότι θα ηγηθούμε στη στρατιωτική AI», είχε δηλώσει ο Χέγκσεθ. Η στρατηγική προβλέπει ευρεία χρήση της AI σε ολόκληρο το υπουργείο Άμυνας, με στόχο, όπως αναφέρεται σε σχετικό υπόμνημα, τα κορυφαία αμερικανικά μοντέλα τεχνητής νοημοσύνης να τεθούν «απευθείας στα χέρια» περίπου τριών εκατομμυρίων πολιτικών και στρατιωτικών υπαλλήλων, σε όλα τα επίπεδα διαβάθμισης. Χωρίς ενιαία πρότυπα ελέγχου Ωστόσο, η προσπάθεια παραμένει σε μεγάλο βαθμό αποκεντρωμένη, σύμφωνα με πολλούς Αμερικανούς αξιωματούχους. Διαφορετικοί φορείς της κυβέρνησης χρησιμοποιούν διαφορετικά εργαλεία, βάσει διαφορετικών οδηγιών και προτύπων ασφαλείας, ενώ δεν υπάρχει ένα ενιαίο σύστημα επαλήθευσης των πληροφοριών που παράγονται από αυτά. Το αποτέλεσμα είναι ότι η αξιοπιστία και οι δυνατότητες των διαφορετικών συστημάτων AI που χρησιμοποιούνται σε επιμέρους τμήματα των Ενόπλων Δυνάμεων και των υπηρεσιών πληροφοριών παρουσιάζουν μεγάλες αποκλίσεις. Τις τελευταίες εβδομάδες, στην Ουάσιγκτον έχει ανοίξει έντονη συζήτηση γύρω από τους κινδύνους της AI, έπειτα από μια σειρά προειδοποιήσεων μηχανικών της Silicon Valley και επικεφαλής τεχνολογικών εταιρειών για το ενδεχόμενο προηγμένα συστήματα να ξεφύγουν από τους ανθρώπινους περιορισμούς, με δυνητικά καταστροφικές συνέπειες. Το περιστατικό με το κινεζικό πλοίο, όμως, αναδεικνύει έναν διαφορετικό και πολύ πιο άμεσο κίνδυνο: άνθρωποι να λαμβάνουν καταστροφικές αποφάσεις επειδή εμπιστεύθηκαν ανακριβείς ή παραπλανητικές πληροφορίες που παρήγαγε ένα σύστημα τεχνητής νοημοσύνης. AI και επιλογή στρατιωτικών στόχων Πηγές ανέφεραν ότι ο αμερικανικός στρατός στρέφεται με ταχύτητα στην AI και για την επιλογή στόχων, έναν τομέα στον οποίο ένα λάθος θα μπορούσε να έχει θανατηφόρες συνέπειες. «Η χρήση της AI στην επιλογή στόχων αυξάνεται ξεκάθαρα και δεν υπάρχει πραγματική καθοδήγηση για το πώς η παρουσία ανθρώπου στη διαδικασία θα αποτρέψει απώλειες αμάχων ή φίλια πυρά», ανέφερε πηγή που γνωρίζει τις τρέχουσες πολιτικές του στρατού. Οι λεγόμενες «παραισθήσεις» των συστημάτων AI —η παραγωγή δηλαδή ψευδών ή ανύπαρκτων πληροφοριών με πειστικό τρόπο— όπως αυτή που σημειώθηκε στη συγκεκριμένη περίπτωση, δεν αποτελούν μεμονωμένο περιστατικό στις αμερικανικές υπηρεσίες πληροφοριών, σύμφωνα με μία από τις πηγές. Για ορισμένα παλαιότερα στελέχη των υπηρεσιών πληροφοριών, ακόμη και για εκείνα που γενικά υποστηρίζουν τη χρήση της AI στον στρατό, η τεχνολογία έχει αυξήσει την πίεση προς τους αναλυτές να παράγουν και να διακινούν πληροφορίες ταχύτερα, αυξάνοντας παράλληλα και τον κίνδυνο σφαλμάτων. Οι νεότεροι αναλυτές, σύμφωνα με αρκετές πηγές, είναι περισσότερο εξοικειωμένοι με τα συγκεκριμένα εργαλεία και συνεπώς πιθανότερο να τα εμπιστευθούν χωρίς επαρκή έλεγχο. Όπως το έθεσε χαρακτηριστικά μία από τις πηγές: «Η AI σού επιτρέπει να φτάσεις γρηγορότερα σε μια κακή ιδέα».
