Tον Οκτώβριο του 1962, η Κρίση των Πυραύλων της Κούβας έφερε τις ΗΠΑ και τη Σοβιετική Ενωση μια ανάσα πριν από τον πυρηνικό όλεθρο. Παρά την οριακή κατάσταση, εκείνη η κρίση λειτούργησε ως σημείο καμπής στον Ψυχρό Πόλεμο.
Οπως επισημαίνει ο Γουίλιαμ Γουόλφορθ, πολιτικός επιστήμονας στο Dartmouth, αυτό το «φλερτ» με την καταστροφή άλλαξε ριζικά τη σκέψη των ηγετών: «Αμέσως αποκτήσαμε τη συμφωνία για την απευθείας γραμμή επικοινωνίας (hotline). Αρχίσαμε να εργαζόμαστε προς την κατεύθυνση μιας συμφωνίας για τις πυρηνικές δοκιμές και, σιγά σιγά, καταλήξαμε σε μια μεγάλη, σύνθετη διμερή διαδικασία ελέγχου των εξοπλισμών».
Αν και οι δύο υπερδυνάμεις παρέμεναν ορκισμένοι εχθροί, κατάφεραν να συνεργαστούν στη βάση ενός κοινού συμφέροντος: να μην αφανίσουν την ανθρωπότητα.
Σήμερα, ειδικοί στην τεχνητή νοημοσύνη προειδοποιούν ότι οι εταιρείες ΑΙ και οι χώρες που τις φιλοξενούν βρίσκονται σε μια αντίστοιχη «κούρσα εξοπλισμών», με δυνητικά εξίσου καταστροφικές συνέπειες.
Παρότι υπάρχουν διαφορές, καθώς τα μοντέλα ΑΙ δεν είναι πυρηνικές κεφαλές και οι κίνδυνοι φαντάζουν πιο θεωρητικοί, ο πυρήνας του προβλήματος παραμένει απαράλλακτος: πώς μπορούν αντίπαλες πλευρές να συνεργαστούν για να κρατήσουν τον κόσμο ασφαλή, ενώ ταυτόχρονα ανταγωνίζονται για την οικονομική και γεωπολιτική πρωτοκαθεδρία;
Μια νέα ερευνητική μελέτη από τον Ντρου Φούντενμπεργκ, καθηγητή Οικονομικών στο MIT, και τον Αντριου Κο, καθηγητή στο Κολούμπια και ερευνητή στην Google DeepMind, προτείνει μια λύση. Οι εταιρείες και οι κυβερνήσεις πρέπει να μοιράζονται αξιόπιστες πληροφορίες για την πρόοδό τους και να συμφωνήσουν σαφώς πού αρχίζει ο πραγματικός κίνδυνος. Ωστόσο, παρά τις εθελοντικές συμφωνίες στον Λευκό Οίκο, καμία από τις δύο προϋποθέσεις δεν πληρείται προς το παρόν.
Αν οι ανταγωνιστές συμφωνούσαν στο να μοιράζονται την τεχνολογική πρόοδό τους, η δυναμική θα άλλαζε. Βλέποντας ότι κανείς δεν κινείται προς επικίνδυνες ζώνες, οι υπόλοιποι θα είχαν λιγότερα κίνητρα να διακινδυνεύσουν τη δική τους θέση. Ο καθηγητής Κο συνέκρινε αυτή τη λογική με τις δυνατότητες «δεύτερου πλήγματος» στον Ψυχρό Πόλεμο: η γνώση ότι μια επίθεση θα επέφερε αμοιβαία καταστροφή λειτουργούσε αποτρεπτικά στα προληπτικά χτυπήματα. Η ίδια ακριβώς στρατηγική θα μπορούσε να εφαρμοστεί και στην τεχνητή νοημοσύνη.
«Η εμπιστοσύνη προϋποθέτει έλεγχο»
Αυτή τη στιγμή, η ανταλλαγή πληροφοριών είναι ανύπαρκτη, καθώς οι εταιρείες αναπτύσσουν τα κορυφαία μοντέλα τους πίσω από κλειστές πόρτες. Η αποδοχή εξωτερικών, ανεξάρτητων παρατηρητών είναι το απαραίτητο πρώτο βήμα για την οικοδόμηση εμπιστοσύνης.
Ο Ντάριο Αμοντέι, διευθύνων σύμβουλος της Anthropic, έχει ζητήσει δημόσια τέτοιους ελέγχους, μια πρόταση που ακολούθησαν ο Ελον Μασκ και ο Σαμ Αλτμαν. Αν και οι κινεζικές εταιρείες δεν έχουν στηρίξει επίσημα το σχέδιο, υπάρχουν θετικά δείγματα. Για παράδειγμα, η κινεζική Moonshot υπέβαλε πρόσφατα ένα νέο μοντέλο στο Ινστιτούτο Ασφάλειας Τεχνητής Νοημοσύνης του Ηνωμένου Βασιλείου προς αξιολόγηση.
Ωστόσο, οι έλεγχοι αυτοί παραμένουν εθελοντικοί και ασυνεπείς. Οι πρόσφατες συμφωνίες που προώθησε ο Ντόναλντ Τραμπ με τους επικεφαλής της τεχνολογίας βασίζονται στην «ηθικά δεσμευτική αυτορρύθμιση», χωρίς νομικές υποχρεώσεις, κάτι που δεν λύνει το «πρόβλημα των κινήτρων» ούτε παγώνει τον αμερικανοκινεζικό ανταγωνισμό.
Το θολό «χείλος του γκρεμού»
Στον Ψυχρό Πόλεμο η πυρηνική απειλή ήταν απτή. Στην ΑΙ, αντίθετα, δεν υπάρχει ομοφωνία για το πού βρίσκεται ακριβώς το όριο της καταστροφής, και πολλά σενάρια μοιάζουν με επιστημονική φαντασία.
Από τη μία, ο Ντόναλντ Τραμπ απορρίπτει το ενδεχόμενο αυστηρών περιορισμών, αντιμετωπίζοντας την ΑΙ ως ένα παιχνίδι μηδενικού αθροίσματος με στόχο την αμερικανική κυριαρχία. Από την άλλη, το Πεκίνο βλέπει την τεχνολογία μέσα από το πρίσμα του πολιτικού ελέγχου και είναι απίθανο να δεχτεί κάποιο καθεστώς παρακολούθησης, το οποίο θα επιβραδύνει τις προσπάθειές του να φτάσει τις ΗΠΑ.
Ο μόνος τρόπος για να υπάρξει πραγματική σύγκλιση απόψεων ίσως είναι να εμφανιστούν αδιαμφισβήτητα παραδείγματα των κινδύνων, όπως ακριβώς έγινε στην Κρίση της Κούβας. Ομως, η μυστικότητα των εταιρειών, που συνεπάγεται καθυστερημένη δημοσιοποίηση σημαντικών παραβιάσεων ασφαλείας, συνεχίζει να συσκοτίζει την κατάσταση.
Ενώ η κούρσα συνεχίζεται αμείωτη, οι εταιρείες κάνουν, αθόρυβα, βελτιώσεις στις ικανότητες των ΑΙ agents, εντείνοντας τον φόβο ότι οι τελευταίοι θα μπορούσαν να εξελιχθούν σε αυτόνομους παίκτες με δικά τους συμφέροντα. Ηδη, όπως έγραψε χαρακτηριστικά ο ερευνητής της OpenAI Ντάνιελ Σέλσαμ, αν συμβεί κάτι τέτοιο, τα μοντέλα «πιθανότατα θα πείσουν τον κόσμο ότι… όλα είναι εντάξει».
kathimerini.gr