Μία απίστευτη ιστορία σχετικά με μια ανησυχητική αναφορά από έναν Αμερικανό πλοίαρχο ήρθε στο φως της δημοσιότητας, ο οποίος ισχυρίζεται ότι η ναυτιλιακή εταιρεία χρησιμοποίησε ένα ρομπότ τεχνητής νοημοσύνης, ενδεχομένως το γνωστό πλέον σε όλους μας ChatGPT, για να προτείνει τροποποιήσεις στο σχέδιο ταξιδιού του πλοίου!
Ενώ ο συγκεκριμένος πλοίαρχος αγνόησε αυτές τις οδηγίες και επέλεξε να μην ακολουθήσει αυτές τις συστάσεις, ανησυχεί ότι άλλοι μπορεί να μην είναι το ίδιο προσεκτικοί.
Κατά τη διάρκεια ενός πρόσφατου σχεδιασμού του ταξιδιού του πλοίου, το οποίο είναι μια διαδικασία κατά την οποία οι θαλάσσιες διαδρομές πλοήγησης, τα μέτρα ασφαλείας, οι εκτιμήσεις για την θαλάσσια κίνηση, οι καιροί, οι περιοχές που θα διέλθει το πλοίο και άλλα πολλά, αξιολογούνται σχολαστικά και το πλήρωμα το οποίο εργάζεται για τη βελτιστοποίηση της αποτελεσματικότητας, παράλληλα με τον μετριασμό των πιθανών κινδύνων. Στο συγκεκριμένο πλάνο υπήρξαν κάποιες αμφιβολίες και ανησυχίες από τον πλοίαρχο και του αξιωματικούς.
Ο πλοίαρχος συνέταξε ένα μήνυμα με τις ανησυχίες αυτές και το έστειλε με ηλεκτρονικό ταχυδρομείο στην εταιρεία για καθοδήγηση. Συνήθως σε αυτές τις περιπτώσεις, ένας πλοίαρχος που εργάζεται στην εταιρεία εξετάζει τις ανησυχίες με διάφορους άλλους πλοιάρχους αλλά και όλα τα ενδιαφερόμενα τμήματα της ναυτιλιακής εταιρείας και παρέχει καθοδήγηση στον καπετάνιο του πλοίου σχετικά με τους τρόπους μετριασμού των κινδύνων.
Σε αυτή την περίπτωση, ο καπετάνιος έλαβε μια γρήγορη απάντηση. Ο καπετάνιος ενημέρωσε το gCaptain ότι η πρώτη και η τελευταία παράγραφος του μηνύματος περιείχαν ευγένειες και φαίνεται να έχουν γραφτεί από άνθρωπο, αλλά οι συμβουλές για τον τρόπο μετριασμού του κινδύνου “ακούγονται σαν να τις έγραψε ένα πρόγραμμα τεχνητής νοημοσύνης”. Το μήνυμα αυτό περιλάμβανε συμβουλές που θα απαιτούσαν αλλαγή πορείας κατά τη διάρκεια του ταξιδιού,
Σε αυτό το σημείο, είναι δύσκολο να αποδειχθεί ότι το μήνυμα δημιουργήθηκε από τεχνητή νοημοσύνη, αλλά σίγουρα είναι σε στυλ παρόμοιο με αυτό που παράγεται από τεχνητή νοημοσύνη. Ως πρώην καπετάνιος, μπορώ να επιβεβαιώσω ότι οι συμβουλές που δόθηκαν ήταν μάλλον τετριμμένες και απίθανο να θέσουν το πλοίο σε κίνδυνο, αλλά το νόημα της ύπαρξης διεθνών διαδικασιών διαχείρισης της ασφάλειας είναι να μπορούν οι καπετάνιοι με μεγαλύτερη εμπειρία στην ξηρά – και άλλα στελέχη της ξηράς που μπορεί να έχουν πρόσβαση σε κρίσιμες πληροφορίες που δεν έχουν ακόμη μοιραστεί με τον καπετάνιο – να επιβεβαιώσουν ότι δεν υπάρχει άμεσος κίνδυνος.
Ζητήσαμε τη γνώμη του ChatGPT-4 επί του θέματος με την ακόλουθη ερώτηση. “Είναι εντάξει για το chatgpt να συμβουλεύει σε κρίσιμες για την ασφάλεια λειτουργίες, όπως ο σχεδιασμός του ταξιδιού του πλοίου;”
Η τεχνητή νοημοσύνη απάντησε με το εξής:
«Ως γλωσσικό μοντέλο ΤΝ, το ChatGPT δεν έχει σχεδιαστεί ή πιστοποιηθεί για να παρέχει συμβουλές σχετικά με κρίσιμες για την ασφάλεια λειτουργίες, όπως ο σχεδιασμός ταξιδιού πλοίου. Παρόλο που το ChatGPT μπορεί να παράγει κείμενο με βάση της εερωτήσεις, η κατανόησή του για τις σύνθετες, πραγματικές καταστάσεις και τις εκτιμήσεις για την ασφάλεια είναι περιορισμένη.
Οι κρίσιμες για την ασφάλεια λειτουργίες, όπως ο σχεδιασμός ταξιδιού πλοίου, απαιτούν την τεχνογνωσία και την κρίση έμπειρων επαγγελματιών που μπορούν να αξιολογήσουν τους κινδύνους και τα ενδεχόμενα με ολοκληρωμένο τρόπο. Η στήριξη σε συμβουλές που παράγονται από τεχνητή νοημοσύνη για τέτοιου είδους επιχειρήσεις θα μπορούσε να οδηγήσει σε δυνητικά επικίνδυνες καταστάσεις και απρόβλεπτες συνέπειες. Είναι σημαντικό οι συμβουλές ή προτάσεις που διατυπώνονται από συστήματα ΤΝ να αξιολογούνται και να επαληθεύονται προσεκτικά από ειδικευμένους ανθρώπινους εμπειρογνώμονες πριν από την εφαρμογή τους, ιδίως σε κρίσιμους για την ασφάλεια τομείς».
Το ChatGPT ανακοίνωσε πρόσφατα την έκδοση 4 με προηγμένη αναλυτική επεξεργασία. Με αυτή τη νέα μηχανή τεχνητής νοημοσύνης, θα είναι ακόμη πιο δελεαστικό για τους εργαζόμενους στην ξηρά και τους αξιωματικούς των πλοίων – οι οποίοι συχνά κατακλύζονται από γραφειοκρατία – να απαντούν σε προβληματισμούς με τη βοήθεια της τεχνητής νοημοσύνης.
Αντίθετα, η ΤΝ έχει τη δυνατότητα να ανακαλύπτει κινδύνους και ευκαιρίες για μετριασμό των κινδύνων στο σχεδιασμό του ταξιδιού, που οι άνθρωποι μπορεί να παραβλέπουν.
Υπάρχουν αναφορές ότι το ChatGPT βοήθησε στον εντοπισμό πιθανών κινδύνων που δεν λήφθηκαν υπόψη κατά τη διαδικασία σχεδιασμού του ταξιδιού. Η αποτροπή της χρήσης της ΤΝ συνολικά – ή απλώς η παρεμπόδιση της χρήσης της με σχόλια όπως “Δεν εμπιστεύομαι αυτά τα ρομπότ” – θα μπορούσε να αποτρέψει τους πλοίαρχους των πλοίων από το να τη χρησιμοποιήσουν και να ανακαλύψουν μια νέα λύση που θα κρατήσει το πλήρωμά τους ασφαλές. Αυτό θα μπορούσε να προσφέρει ακόμη και πρόσθετες ευκαιρίες απασχόλησης στο μέλλον, καθώς οι προτάσεις του ChatGPT θα μπορούσαν να επανεξεταστούν και να επεξεργαστούν από έναν έμπειρο πλοίαρχο που εργάζεται μαζί με έναν “μηχανικό προτροπής” (ένας μηχανικός προτροπής είναι κάποιος που είναι ειδικευμένος στο να θέτει στο πρόγραμμα τεχνητής νοημοσύνης τα σωστά είδη ερωτήσεων).
Ανεξάρτητα από το αν η χρήση της ΤΝ μπορεί να επιβεβαιωθεί, σε αυτό το περιστατικό, είναι ζωτικής σημασίας να συζητήσουν οργανισμοί όπως ο IMO, η USCG και η INTERTANKO τις επιπτώσεις της χρήσης της ΤΝ και να παράσχουν καθοδήγηση, διότι – είτε από την υιοθέτηση των συμβουλών της ΤΝ είτε από τη μη συμβουλή της – είναι θέμα χρόνου να συμβεί ένα σοβαρό περιστατικό σε πλοίο και να χαθούν ζωές.
Εν τω μεταξύ, οι ναυτιλιακές εταιρείες θα μπορούσαν απλώς να είναι πιο διαφανείς και να ενημερώνουν τον καπετάνιο για κάθε μήνυμα που αποστέλλεται σε ένα πλοίο, συμπεριλαμβανομένης της βοήθειας της ΤΝ. Αυτή η ειδοποίηση μπορεί να είναι τόσο απλή όσο “το ChatGPT χρησιμοποιήθηκε για τη διόρθωση της γραμματικής σε αυτό το μήνυμα ηλεκτρονικού ταχυδρομείου” έως “εδώ είναι μερικές πρόσθετες ιδέες για αυτό το πρόβλημα που δημιούργησε η τεχνητή νοημοσύνη του Bing”.
