Μια λανθασμένη πληροφορία που δημιουργήθηκε με τη βοήθεια τεχνητής νοημοσύνης έφτασε μια ανάσα από ένα ρεσάλτο ένοπλων Αμερικανών σε κινεζικό πλοίο στη Μέση Ανατολή, την στιγμή που στρατιωτικά αεροσκάφη είχαν ήδη απογειωθεί και ήταν σε ετοιμότητα.
Το περιστατικό συνέβη την άνοιξη του 2026, εν μέσω του πολέμου με το Ιράν, και αποκαλύφθηκε από το CNN, το οποίο επικαλείται τέσσερις πηγές. Μια αναφορά πληροφοριών που κυκλοφόρησε στις αμερικανικές ένοπλες δυνάμεις υποστήριζε ότι κινεζικό πλοίο που βρισκόταν στη Μέση Ανατολή μετέφερε εξαρτήματα που συνδέονταν με πρόγραμμα πυρηνικών όπλων.
Η πληροφορία ήταν αρκετά σοβαρή ώστε να κινητοποιηθεί ο αμερικανικός στρατός και σύμφωνα με δύο από τις πηγές του CNN, ένοπλοι στρατιώτες προετοιμαζόταν να ανέβουν στο πλοίο, ενώ άλλες πηγές ανέφεραν ότι στρατιωτικά αεροσκάφη βρίσκονταν ήδη στον αέρα.
Το λάθος που αποκαλύφθηκε την τελευταία στιγμή
Λίγο πριν προχωρήσει η επιχείρηση, Αμερικανοί αξιωματούχοι εξέτασαν πιο προσεκτικά την αναφορά και ανακάλυψαν το πρόβλημα. Αναλυτής που εργαζόταν σε διοίκηση ειδικών επιχειρήσεων είχε χρησιμοποιήσει σύστημα τεχνητής νοημοσύνης για να επεξεργαστεί πληροφορίες σχετικά με το δηλωμένο φορτίο του κινεζικού πλοίου.
Το σύστημα συνδύασε πληροφορίες από ανοικτές πηγές με απόρρητες πληροφορίες σημάτων που διέθεταν οι αμερικανικές υπηρεσίες και αναγνώρισε λανθασμένα το υλικό που μετέφερε το πλοίο. Το CNN σημειώνει ότι δεν μπόρεσε να εξακριβώσει ποιο ήταν στην πραγματικότητα το συγκεκριμένο φορτίο.
Το πρόβλημα όμως δεν σταμάτησε εκεί αφού ο αναλυτής χρησιμοποίησε ξανά τεχνητή νοημοσύνη για να μετατρέψει τα ευρήματα σε τυποποιημένη αναφορά πληροφοριών, η οποία στη συνέχεια διανεμήθηκε μέσω των στρατιωτικών δικτύων και αντιμετωπίστηκε ως κανονικό επιχειρησιακό έγγραφο.
Μία από τις πηγές που μίλησαν στο CNN χαρακτήρισε την αναφορά «εντελώς λανθασμένη», προσθέτοντας ότι το περιστατικό παραλίγο να οδηγήσει σε ένα πολύ σοβαρό περιστατικό. Πρόκειται για εκτίμηση της συγκεκριμένης πηγής και όχι για επίσημη θέση του αμερικανικού Πενταγώνου.
Όταν η τεχνητή νοημοσύνη μπαίνει στην αλυσίδα των αποφάσεων
Η υπόθεση αποκτά ιδιαίτερη βαρύτητα επειδή δεν αφορά ένα απλό λανθασμένο κείμενο που δημιουργήθηκε από τεχνητή νοημοσύνη. Η πληροφορία πέρασε στην πραγματική στρατιωτική αλυσίδα και οδήγησε σε προετοιμασία επιχείρησης εναντίον πλοίου άλλης μεγάλης δύναμης.
Σύμφωνα με το CNN, διαφορετικά τμήματα του αμερικανικού στρατού και των υπηρεσιών πληροφοριών χρησιμοποιούν διαφορετικά εργαλεία τεχνητής νοημοσύνης, χωρίς να υπάρχει ακόμη ένα ενιαίο σύνολο κανόνων για τον τρόπο με τον οποίο πρέπει να επαληθεύονται οι πληροφορίες που παράγουν αυτά τα συστήματα.
Στην εποχή της υψηλής τεχνολογίας και της τεχνητής νοημοσύνης, ένα λάθος στην αναγνώριση του φορτίου ενός εμπορικού πλοίου δεν έμεινε μόνο στην οθόνη ενός αναλυτή αλλά μετατράπηκε σε πληροφορία στρατιωτικού ενδιαφέροντος, κινητοποίησε προσωπικό και αεροσκάφη και έφτασε ένα βήμα πριν την επιβίβαση στο πλοίο.
Η επιχείρηση σταμάτησε την τελευταία στιγμή, μόνο και μόνο επειδή έγινε ένας ανθρώπινος επανέλεγχος, κάτι το οποίο στην προκειμένη περίπτωση ήταν αρκετό για να αποτραπεί ένα περιστατικό που, λόγω της εμπλοκής κινεζικού πλοίου και αμερικανικών ενόπλων δυνάμεων, θα μπορούσε να αποκτήσει πολύ μεγαλύτερες διαστάσεις.
