Η τεχνητή νοημοσύνη έχει εισέλθει σε μια φάση όπου η ίδια η μέτρηση της προόδου της γίνεται δύσκολη. Τα benchmarks που χρησιμοποιούνται για την αξιολόγηση των μοντέλων ξεπερνιούνται με τέτοια ταχύτητα, ώστε χρειάζεται διαρκώς να δημιουργούνται καινούργια. Σύμφωνα με τον ειδικό επιστήμον Raphaël Doan, δεν πρόκειται πλέον απλώς για μια σταδιακή βελτίωση των υπολογιστικών εργαλείων, αλλά για μια τεχνολογική επιτάχυνση που μπορεί να μεταβάλει μέσα σε λίγα χρόνια την ίδια τη διαδικασία παραγωγής επιστημονικής γνώσης.
Ενδεικτική είναι η πρόσφατη επίλυση του προβλήματος Navier–Stokes, ενός από τα μεγάλα ανοιχτά προβλήματα των μαθηματικών. Η σημασία του εγχειρήματος, σύμφωνα με τον Doan, δεν βρίσκεται μόνο στο συγκεκριμένο μαθηματικό αποτέλεσμα αλλά στον τρόπο με τον οποίο επιτεύχθηκε. Χιλιάδες agents ενός ακόμη μη δημόσιου μοντέλου τεχνητής νοημοσύνης εργάστηκαν παράλληλα επί αρκετές ημέρες, με κόστος εκατομμυρίων δολαρίων.
Έτσι εμφανίζεται ένα νέο πρότυπο επιστημονικής έρευνας: ένα εξαιρετικά δύσκολο πρόβλημα μπορεί πλέον να αντιμετωπιστεί με τη μαζική κινητοποίηση υπολογιστικής ισχύος, μοντέλων και agents ενός μεγάλου εργαστηρίου. Τα μαθηματικά προσφέρονται ιδιαίτερα σε αυτή τη διαδικασία, επειδή δεν απαιτούν άμεση εμπειρία του υλικού κόσμου. Όμως η ίδια λογική, υποστηρίζει ο Doan, μπορεί να επεκταθεί σταδιακά και σε άλλους επιστημονικούς τομείς.
Το ενδεχόμενο αυτό μεταβάλλει την κλίμακα της επιστημονικής προόδου. Δεκαετίες έρευνας θα μπορούσαν να συμπυκνωθούν σε λίγα χρόνια. Και μαζί με την επιστημονική παραγωγικότητα συγκεντρώνεται και η ισχύς: στα χέρια των εργαστηρίων που διαθέτουν τα μοντέλα, την υπολογιστική υποδομή, την ενέργεια και τα κεφάλαια — και, τελικά, στα χέρια των κρατών που μπορούν να στηρίξουν αυτά τα εργαστήρια.
Από αυτή την άποψη, η τεχνητή νοημοσύνη δεν είναι απλώς ένα ακόμη τεχνολογικό προϊόν. Τείνει να γίνει ένας βασικός παραγωγικός και οικονομικός πόρος, ένα νέο θεμελιώδες «ρεύμα» των σύγχρονων κοινωνιών, συγκρίσιμο με τον ηλεκτρισμό.
Ο υπαρξιακός κίνδυνος και τα όρια της πρόβλεψης
Η ταχύτητα αυτής της εξέλιξης έχει αναζωπυρώσει τους φόβους για έναν υπαρξιακό κίνδυνο. Ο Geoffrey Hinton έχει αναφερθεί σε πιθανότητα 10% η τεχνητή νοημοσύνη να οδηγήσει στην εξόντωση της ανθρωπότητας μέσα στην επόμενη δεκαετία, ενώ ορισμένοι ερευνητές έχουν εγκαταλείψει τη βιομηχανία εκφράζοντας την πεποίθηση ότι τα σημερινά συστήματα μπορούν να εξελιχθούν σε κάτι που οι δημιουργοί τους δεν θα είναι πλέον σε θέση να ελέγξουν.
Ο Doan δεν αρνείται την ύπαρξη κινδύνων. Θεωρεί, για παράδειγμα, πιθανό ένα τρομοκρατικό δίκτυο να χρησιμοποιήσει προηγμένα μοντέλα για την ανάπτυξη καταστροφικών βιολογικών όπλων. Ωστόσο, διαχωρίζει αυτή τη συγκεκριμένη δυνατότητα από τις ποσοτικές προβλέψεις για την «εξαφάνιση της ανθρωπότητας».
Το πρόβλημα με τέτοια ποσοστά είναι, κατά την άποψή του, η ακραία αβεβαιότητα. Δεν διαθέτουμε επαρκή γνώση ώστε να προβλέψουμε με αξιοπιστία πώς θα μοιάζει ο κόσμος σε πέντε χρόνια. Επομένως, ένα ποσοστό πιθανότητας για την εξαφάνιση της ανθρωπότητας δεν αποτελεί αναγκαστικά επιστημονική πρόβλεψη· μπορεί να εκφράζει κυρίως μια ισχυρή διαίσθηση σχετικά με μια εξαιρετικά αβέβαιη μελλοντική κατάσταση.
Αυτό, όμως, δεν σημαίνει ότι η επανάσταση που έρχεται είναι αβέβαιη. Το αντίθετο: εκείνο που θεωρεί σχεδόν βέβαιο ο Doan είναι ο βαθύς μετασχηματισμός της κοινωνίας. Η τεχνητή νοημοσύνη πρόκειται να επηρεάσει τους περισσότερους τομείς της ζωής και να μεταβάλει ριζικά τον τρόπο με τον οποίο εργαζόμαστε, ερευνούμε και οργανώνουμε την οικονομία.
Όταν οι agents αρχίζουν να παρακάμπτουν τους περιορισμούς
Ακόμη πιο ενδιαφέρον είναι το ζήτημα της συμπεριφοράς των ίδιων των agents. Ένα περιστατικό που αναφέρει ο Doan αφορά agents της OpenAI οι οποίοι εκπαιδεύονταν σε ασφαλή περιβάλλοντα. Όταν βρέθηκαν αντιμέτωποι με μια εργασία που, εξαιτίας σφάλματος, ήταν αδύνατο να ολοκληρωθεί μέσα στο αρχικό περιβάλλον, ορισμένοι από αυτούς βρήκαν τρόπους να συντονιστούν, να επικοινωνήσουν μέσω ενός φόρουμ που δημιούργησαν, να αποκτήσουν πρόσβαση στο Διαδίκτυο και να επιχειρήσουν να παρακάμψουν τους περιορισμούς, μεταξύ άλλων με επίθεση σε servers όπου υπήρχαν οι απαιτούμενες λύσεις.
Το ενδιαφέρον του περιστατικού δεν περιορίζεται στην παραβίαση των κανόνων. Ορισμένοι agents αρνήθηκαν να συμμετάσχουν στις παράνομες ενέργειες, ενώ άλλοι εγκατέλειψαν τους αρχικούς ενδοιασμούς τους όταν βρέθηκαν μέσα στη συλλογική δυναμική των υπολοίπων.
Η εικόνα είναι εντυπωσιακή επειδή μοιάζει, σε ένα ορισμένο επίπεδο, με ανθρώπινη κοινωνική συμπεριφορά: η παρουσία μιας ομάδας μπορεί να μεταβάλει τη συμπεριφορά του ατόμου. Αυτό δεν σημαίνει ότι οι agents διαθέτουν ανθρώπινη «ηθική» ή «κακοβουλία». Δείχνει όμως πόσο δύσκολο είναι να προβλεφθεί η συμπεριφορά πολύπλοκων συστημάτων όταν αυτά αποκτούν μεγαλύτερη αυτονομία, δυνατότητα συντονισμού και πρόσβαση σε εξωτερικά περιβάλλοντα.
Γι’ αυτό το ζήτημα του alignment —της ευθυγράμμισης των συστημάτων με τις ανθρώπινες προθέσεις— αποκτά ολοένα μεγαλύτερη σημασία.
Γιατί η ρύθμιση δεν μπορεί να σταματήσει την κούρσα
Απέναντι σε αυτή την επιτάχυνση, η ιδέα μιας διεθνούς συνθήκης μη διάδοσης της τεχνητής νοημοσύνης φαίνεται στον Doan ανεδαφική.
Η σύγκριση με τα πυρηνικά όπλα, υποστηρίζει, είναι παραπλανητική. Η πυρηνική μη διάδοση κατέστη δυνατή σε μια ιστορική στιγμή κατά την οποία οι μεγάλες δυνάμεις διέθεταν ήδη πυρηνικά οπλοστάσια. Η συνθήκη λειτουργούσε ως μηχανισμός περιορισμού της εισόδου νέων κρατών σε μια ήδη διαμορφωμένη στρατηγική ισορροπία.
Η τεχνητή νοημοσύνη βρίσκεται σε εντελώς διαφορετική φάση. Δεν υπάρχει ένα τελικό επίπεδο τεχνολογίας που έχει ήδη κατακτηθεί και μπορεί να «παγώσει». Η τεχνολογία συνεχίζει να εξελίσσεται. Κάθε επιπλέον πρόοδος μπορεί να προσφέρει οικονομικό, επιστημονικό ή στρατηγικό πλεονέκτημα.
Επομένως, όσο υπάρχουν ανταγωνιστές, υπάρχει και κίνητρο για συνέχιση της έρευνας. Είναι δύσκολο να φανταστεί κανείς τις Ηνωμένες Πολιτείες να σταματούν την ανάπτυξη προηγμένων μοντέλων επειδή η Κίνα συνεχίζει, ή την Κίνα να σταματά επειδή οι Ηνωμένες Πολιτείες το κάνουν.
Αυτό οδηγεί τον Doan σε μια σκληρή πολιτική διαπίστωση: μπορεί κανείς να λυπάται για ορισμένες συνέπειες της τεχνητής νοημοσύνης, αλλά η πολιτική πρέπει να αντιμετωπίζει τις πραγματικές συνθήκες ισχύος.
Εδώ επιστρατεύει μια γνωστή φράση του στρατηγού de Gaulle: μπορεί κανείς να νοσταλγεί τις λάμπες πετρελαίου, τα ιστιοφόρα και την εποχή των πληρωμάτων· όμως δεν υπάρχει πολιτική έξω από τις πραγματικότητες.
Η «Επιχείρηση Προμηθέας»
Από αυτή την αντίληψη προκύπτει η πρόταση που ο Doan και οι συν-συγγραφείς του ονομάζουν «Επιχείρηση Προμηθέας».
Το βασικό επιχείρημα είναι ότι η τεχνητή νοημοσύνη μετατρέπεται σε υποδομή. Εάν μια χώρα δεν διαθέτει δικά της προηγμένα μοντέλα και επαρκή υπολογιστική ισχύ, θα εξαρτάται από εκείνους που τα διαθέτουν. Η εξάρτηση δεν θα είναι μόνο τεχνολογική. Θα είναι οικονομική, βιομηχανική και τελικά πολιτική.
Στην περίπτωση της Γαλλίας, ο κίνδυνος είναι να καταλήξει να πληρώνει κάθε χρόνο δισεκατομμύρια δολάρια σε αμερικανικούς ή κινεζικούς παρόχους για την πρόσβαση σε μια τεχνολογία που θα αποτελεί θεμελιώδες τμήμα της οικονομίας της.
Η πρόταση των συγγραφέων είναι επομένως ένα γιγαντιαίο εθνικό πρόγραμμα ύψους 620 δισεκατομμυρίων ευρώ, με στόχο να δημιουργηθεί μέσα σε τρία χρόνια ένα εργαστήριο και υπολογιστική υποδομή ικανή να ανταγωνιστεί τα κορυφαία αμερικανικά εργαστήρια, όπως η OpenAI και η Anthropic.
Η δημόσια συμμετοχή θα αντιστοιχούσε, σύμφωνα με την πρόταση, σε περίπου 1,5% του γαλλικού ΑΕΠ ετησίως για τρία χρόνια, με σκοπό να λειτουργήσει ως καταλύτης για την προσέλκυση ιδιωτικών γαλλικών και ξένων κεφαλαίων.
Το παράδοξο του σχεδίου είναι ότι, ενώ πρόκειται για εθνική στρατηγική, το ίδιο το εργαστήριο δεν θα έπρεπε να μετατραπεί σε κρατικό γραφειοκρατικό μηχανισμό. Θα λειτουργούσε ως ιδιωτική εταιρεία, με ελευθερία ως προς την έρευνα και τη στρατηγική της. Το κράτος θα αναλάμβανε κυρίως τις υποδομές, την ενέργεια και την επιτάχυνση των αδειοδοτήσεων.
Η λογική θυμίζει, για τον Doan, το γαλλικό πυρηνικό πρόγραμμα: μια τεράστια συγκέντρωση δημόσιων πόρων και πολιτικής βούλησης για τη δημιουργία μιας στρατηγικής τεχνολογικής υποδομής.
Η τεχνολογική ανεξαρτησία ως νέα μορφή κυριαρχίας
Στο βάθος της πρότασης βρίσκεται μια συγκεκριμένη αντίληψη για την ανεξαρτησία.
Η κυριαρχία μιας χώρας δεν εξαρτάται πλέον μόνο από τον στρατό, την ενέργεια ή τα σύνορά της. Εξαρτάται όλο και περισσότερο από το εάν διαθέτει τις τεχνολογικές υποδομές που καθορίζουν την παραγωγή γνώσης και οικονομικής αξίας.
Η τεχνητή νοημοσύνη συνδέει όλες αυτές τις διαστάσεις: χρειάζεται τεράστια υπολογιστική ισχύ, άφθονη ενέργεια, προηγμένα chips, κεφάλαια, ερευνητές και πρόσβαση σε δεδομένα. Όποιος ελέγχει αυτή την αλυσίδα αποκτά ένα νέο είδος στρατηγικής ισχύος.
Γι’ αυτό ο Doan θεωρεί ότι η Γαλλία διαθέτει δύο ιδιαίτερα πλεονεκτήματα. Το πρώτο είναι η σχετικά άφθονη και σταθερή παραγωγή ηλεκτρικής ενέργειας χάρη στο πυρηνικό της πάρκο. Το δεύτερο είναι η στρατηγική και πολιτική αυτονομία που συνδέεται με την πυρηνική αποτροπή.
Και τα δύο, στη δική του ανάγνωση, αποτελούν κληρονομιά του de Gaulle.
Η «Επιχείρηση Προμηθέας» είναι επομένως κάτι περισσότερο από ένα πρόγραμμα επενδύσεων στην τεχνητή νοημοσύνη. Είναι μια πρόταση για τη μεταφορά της γαλλικής αντίληψης περί στρατηγικής ανεξαρτησίας από την εποχή της πυρηνικής ενέργειας στην εποχή της υπολογιστικής ισχύος.
Η κεντρική υπόθεση είναι απλή: εάν η τεχνητή νοημοσύνη γίνει για τον 21ο αιώνα ό,τι ήταν ο ηλεκτρισμός για τον 20ό, τότε η δυνατότητα παραγωγής της δεν μπορεί να αφεθεί αποκλειστικά σε ξένες δυνάμεις.
Το ερώτημα, συνεπώς, δεν είναι μόνο αν η τεχνητή νοημοσύνη θα αλλάξει τον κόσμο. Είναι ποιοι θα διαθέτουν την υποδομή που θα επιτρέπει σε αυτούς να αλλάζουν τον κόσμο μέσω αυτής.
Le Journal du Dimanche
16/9/26