Υπάρχουν πολλά πράγματα που μπορεί να διαβάσει κανείς για την τεχνητή νοημοσύνη. Βιβλία, άρθρα, απόψεις, δυστοπικά σενάρια, υπεραισιόδοξες ονειρώξεις, φιλοσοφικές προσεγγίσεις και τρομολαγνεία. Αλλά, αν κάποια ή κάποιος ήθελε να διαβάσει μόνο ένα πράγμα, ποιο θα ήταν αυτό; Κατά τη γνώμη μου, σήμερα, στα μέσα του 2025, το βιβλίο του Μουσταφά Σουλεϊμάν “The Coming Wave” (κυκλοφορεί και στα ελληνικά ως “Το Επερχόμενο Κύμα” από τις εκδόσεις Key Books) είναι ό,τι πρέπει.
Πρώτα απ’ όλα, να πούμε το εξής. Το βιβλίο αυτό δεν το γράφει ένας ανεξάρτητος ερευνητής ή κάποιος απλός κινδυνολόγος. Ο Μουσταφά Σουλεϊμάν είναι εκ των συνιδρυτών της Deep Mind (που έφτιαξε όλα εκείνα τα θαυματουργά ΑΙ εργαλεία που κέρδισαν στο Go και που βρίσκουν πώς αναδιπλώνονται οι πρωτεΐνες) και σήμερα είναι διευθύνων σύμβουλος του τμήματος ΑΙ της Microsoft. Δεν ξέρει απλά ακριβώς πώς λειτουργεί η τεχνολογία αυτή, αλλά καταλαβαίνει καλύτερα από οποιονδήποτε άλλον το οικονομικό και επιχειρηματικό περιβάλλον μέσα στο οποίο αναπτύσσονται τα νέα εργαλεία ΑΙ σήμερα. Είναι μέσα σε όλη αυτή την επανάσταση που συντελείται -πιο μέσα δεν γίνεται. Αυτό δεν είναι απαραίτητα καλό, βεβαίως. Οι περισσότεροι συνάδελφοί του μας λιβανίζουν για όλα τα θαύματα που θα μας φέρουν τα εργαλεία που κατασκευάζουν οι επιχειρήσεις τους. Στην αρχή νόμιζα ότι κι αυτό το βιβλίο τέτοια θα λέει.
Είναι γραμμένο με το ψύχραιμο λεξιλόγιο που θα αναγνωρίσετε από όλα τα κείμενα για θέματα τεχνολογίας που γράφονται τα τελευταία 20 χρόνια. Είναι οι ίδιες εκφράσεις που χρησιμοποιούσαμε δημοσιογράφοι και τεχνολάγνοι όταν, με την αφέλεια και την παράλογη αισιοδοξία της άγνοιας, περιγράφαμε ένα συναρπαστικό μέλλον στο οποίο τεχνολογικές λύσεις από τις μεγάλες εταιρείες τεχνολογίας που είχαν πρόσφατα γεννηθεί σε κάποια γκαράζ, θα “άλλαζαν τον κόσμο”. Αλλά ο τόνος εδώ είναι εντελώς διαφορετικός. Ο Σουλεϊμάν, που το έγραψε μαζί με τον έμπειρο συγγραφέα και δημοσιογράφο Μάικλ Μπάσκαρ (έχουμε ξαναγράψει γι’ αυτόν) δεν καταφεύγει ποτέ σε υστερίες και κραυγές, χρησιμοποιεί το γαλήνιο λεξιλόγιο της τεχνο-ουτοπίας, αλλά παρ’ όλα αυτά το συναίσθημα που βγάζει το βιβλίο είναι ξεκάθαρος, ψύχραιμος αλλά ανόθευτος πανικός.
Πανικός.
Ο Σουλεϊμάν λέει ότι η ανθρώπινη ιστορία κινητοποιείται από αλλεπάλληλα τεχνολογικά «κύματα», κομβικά ιστορικά σημεία όπου τεχνολογικές ανακαλύψεις αλλάζουν τον τρόπο με τον οποίο ζει το είδος μας στον πλανήτη και κάνουν την ανθρώπινη ζωή αγνώριστη σε σχέση με πριν. Η φωτιά ήταν ένα τέτοιο «κύμα», η αγροτική επανάσταση ένα άλλο, η βιομηχανική επανάσταση στις αρχές του 19ου αιώνα ένα τρίτο. Και τώρα, λέει, μας έρχεται ένα άλλο.
Ο Σουλεϊμάν περιγράφει ως «επερχόμενο κύμα» την υλοποίηση νέων τεχνολογικών λύσεων και στον τομέα της τεχνητής νοημοσύνης, που γνωρίζει πολύ καλά, όσο και στον τομέα της βιοτεχνολογίας (που γνωρίζει λιγότερο), με την ανάπτυξη νέων εργαλείων που θα χαρίζουν στο είδος μας πρωτοφανείς δυνατότητες επέμβασης σε υπάρχοντα βιολογικά συστήματα, ή στη διαμόρφωση και τη δημιουργία νέων. Ο συγγραφέας, βεβαίως, δεν παραλείπει να τονίσει τα μεγάλα οφέλη που προβλέπει ότι θα προκύψουν από την ανάπτυξη τέτοιων εργαλείων σε διάφορους τομείς, από την ιατρική, την επιστημονική έρευνα σε διάφορα πεδία, και μέχρι την παραγωγή «καθαρής» ενέργειας και την αντιμετώπιση της κλιματικής αλλαγής. Αλλά το θέμα του βιβλίου είναι, κυρίως, οι κίνδυνοι, που είναι τόσο μεγάλοι, που δεν απειλούν απλά να εξαφανίσουν αυτά τα οφέλη -απειλούν να εξαφανίσουν το ανθρώπινο είδος. «Αυτό το τεχνολογικό κύμα», γράφει ο Σουλεϊμάν, «οδηγεί την ανθρώπινη Ιστορία σε ένα σημείο καμπής. Αν ο έλεγχός του αποδειχτεί ανέφικτος, οι συνέπειες για το είδος μας θα είναι δραματικές. Αυτά είναι πράγματα που εδώ και μια δεκαετία διατυπώνω συχνά πίσω από κλειστές πόρτες. Είναι καιρός να τα πω και δημόσια».
Το βιβλίο καλύπτει διάφορες χρήσιμες πτυχές του φαινομένου. Πρώτα απ’ όλα, είμαι σχεδόν σίγουρος ότι δεν έχετε βρει μια καλή, ολιγοσέλιδη και απλή εξήγηση του τι είναι τα μεγάλα γλωσσικά μοντέλα (LLMs) και ακριβώς πώς λειτουργούν τα εργαλεία ΑΙ που χρησιμοποιούμε σήμερα -κάτι που πάρα πολύς κόσμος δεν έχει καταλάβει καθόλου. Το περιγράφει καλά στο κεφάλαιο 4. Εξηγεί αποτελεσματικά, δε, το ποιος ακριβώς είναι ο κίνδυνος. Γιατί, φαινομενικά, όταν χρησιμοποιούμε το ChatGPT ή το Claude δεν φανταζόμαστε ότι αυτά τα πράγματα είναι και τόσο επικίνδυνα. Τα σύγχρονα εργαλεία που έχουν φτιάξει οι διάφορες εταιρείες, βεβαίως, δεν αρκούνται στο να συμπληρώνουν κείμενα. Μπορούν να απαντούν σε πολύπλοκα ερωτήματα που απαιτούν πολλαπλά στάδια και, πλέον, να εκτελούν εντολές πραγματοποιώντας δράσεις στον ψηφιακό κόσμο, όπως το να διεξάγουν αναζητήσεις στο ίντερνετ ή να γράφουν κώδικα με οδηγίες για υπολογιστικά συστήματα. «Δεν πρόκειται απλά για ένα εργαλείο ή μια πλατφόρμα», γράφει ο Σουλεϊμάν, «αλλά για μια μεταμορφωτική μετα-τεχνολογία, μια τεχνολογία πίσω από την τεχνολογία, ικανή να δημιουργεί η ίδια εργαλεία και πλατφόρμες. Οχι απλά ένα σύστημα, αλλά ένας δημιουργός συστημάτων κάθε είδους».
Προς το παρόν, αυτό μεταφράζεται σε εργαλεία τα οποία χρησιμοποιούνται ήδη στις εφοδιαστικές αλυσίδες, σε δικηγορικά γραφεία, σε εργαλεία διοίκησης επιχειρήσεων και σε πολλούς άλλους τομείς. Δεν είναι μια κενή νοήματος τεχνοφούσκα όπως το “blockchain” ή το “metaverse” με τα οποία μας ζάλιζαν τα προηγούμενα χρόνια. Βεβαίως, τα ΑΙ εργαλεία που λειτουργούν σήμερα δεν μπορούν ούτε κατά διάνοια να δημιουργήσουν πλούτο αντίστοιχο των ιλιγγιωδών επενδύσεων που γίνονται στον τομέα -προς το παρόν, όλες οι μεγάλες εταιρείες του κλάδου (με την εξαίρεση εταιρειών που φτιάχνουν τα τσιπάκια ή χτίζουν τα data centers) χάνουν λεφτά. Αλλά αυτό σχεδόν σίγουρα δεν θα κρατήσει για πολύ. Οι προβλέψεις για τη συνεισφορά αυτών των τεχνολογιών στο ΑΕΠ του πλανήτη στο κοντινό μέλλον είναι γεμάτες με μηδενικά. Αλλά ο συγγραφέας εξηγεί το πώς ολοένα και πιο εξελιγμένα τέτοια εργαλεία θα μπορούν να αποδειχτούν και πολύ, πολύ επικίνδυνα, με πολλούς, πολύ διαφορετικούς τρόπους.
Το κομμάτι της βιοτεχνολογίας, με τους εκτυπωτές DNA και το CRISPR ο συγγραφέας το ξέρει λιγότερο. Μολονότι το κατατάσσει στο ίδιο επίπεδο δυνατοτήτων και πιθανών κινδύνων με την τεχνητή νοημοσύνη, παραγνωρίζει ελαφρώς τις μεγάλες διαφορές στον τρόπο και την ταχύτητα με τον οποίο αυτές οι «φυσικές», offline τεχνολογίες αναπτύσσονται, σε σχέση με τις εξολοκλήρου ψηφιακές. Αλλά από την άλλη, πλέον όντως πλησιάζουμε σε έναν κόσμο όπου είναι τόσο εύκολο να φτιάξει κάποιος έναν τεχνητό παθογόνο οργανισμό, που δεν χρειάζεται ένα ατύχημα σε μεγάλο εργαστήριο που κάνει gain of function πειράματα ή μια απλή γενετική ατυχία για να ξεσπάσει η επόμενη πανδημία. Ο συγγραφέας περιγράφει, δε, κι άλλες τεχνολογικές εξελίξεις οι οποίες κουμπώνουν στις δύο «μεγάλες», και θα φέρουν και παράπλευρες συνέπειες, όπως τη ρομποτική, και τους κβαντικούς υπολογιστές. Αλλά η ουσία του βιβλίου είναι στο θέμα της τεχνητής νοημοσύνης. Και εκεί οι κίνδυνοι είναι όντως πολύ μεγάλοι.
Το Ιούνιο του 2017, ένας ιός ονόματι NotPetya γονάτισε τα πληροφοριακά συστήματα της Ουκρανίας. Συστήματα παρακολούθησης των επιπέδων ραδιενέργειας στο Τσερνομπιλ τέθηκαν εκτός λειτουργίας. Τα ΑΤΜ σταμάτησαν να βγάζουν λεφτά. Τα δίκτυα κινητής τηλεφωνίας έπεσαν. Το 10% των υπολογιστών της χώρας «μολύνθηκε». Το τραπεζικό σύστημα αντιμετώπισε δυσκολίες, υπήρξαν διακοπές ρεύματος. Ποιοι είχαν εξαπολύσει την επίθεση; Οι Ρώσοι φυσικά. Πρώτο παράδειγμα.
Αλλο ιστορικό παράδειγμα: Η Αούμ Σινρικίο ήταν μια ιαπωνική θρησκευτική αίρεση που σε μια εποχή χωρίς σόσιαλ μίντια είχε καταφέρει να συγκεντρώσει δεκάδες χιλιάδες πιστούς και να στήσει έναν ολόκληρο μηχανισμό παραγωγής βιολογικών και χημικών όπλων με σκοπό να προκαλέσει τον Γ’ Παγκόσμιο Πόλεμο και την καταστροφή της ανθρωπότητας. Αυτοί οι φανατικοί και στρατευμένοι άνθρωποι κατόρθωσαν να διεξάγουν δύο μεγάλες τρομοκρατικές επιθέσεις με τα μέσα που είχαν διαθέσιμα, προκαλώντας θανάτους και χιλιάδες δηλητηριασμένα θύματα στα νοσοκομεία.
Φανταστείτε τώρα, λέει, μια ομάδα σαν την Αούμ Σινρικίο ή άλλες περίεργες τρομοκρατικές οργανώσεις με πρόσβαση στα νέα εργαλεία καταστροφής που έρχονται. Φανταστείτε κυβερνοεπιθέσεις Ρώσων ή άλλων με πολύ πιο εξελιγμένα και ευέλικτα εργαλεία, σε ακόμα μεγαλύτερη κλίμακα.
Σήμερα έχουμε σμήνη από αυτόνομα drones που εξαπολύουν επιθέσεις στο Ιράν, στη Γάζα και αλλού. Εχουμε deepfake βίντεο πολιτικών που χρησιμοποιούνται κακόβουλα από αντιπάλους τους σε προεκλογικές καμπάνιες. Στρατιές αυτόνομων bots που σπέρνουν παραπληροφόρηση στα social media. Διαρροές παθογόνων οργανισμών από εργαστήρια. Και, βέβαια, από τα συστήματα ηλεκτρονικής παρακολούθησης τόσο από ιδιωτικές επιχειρήσεις, όσο και από κράτη όπως η Κίνα (και, οσονούπω, οι ΗΠΑ). Φανταστείτε, λέει στο κεφάλαιο 12, στρατιές από drones με software αναγνώρισης προσώπων, παρόμοια με τα drones που εξαπέλυσαν οι Ουκρανοί στη Σιβηρία τις προάλλες, ας πούμε. Φανταστείτε τα στο κέντρο μιας πόλης με οδηγίες να πυροβολούν μόνο όσους έχουν καφέ δέρμα. Η φανταστείτε drones που φέρουν παθογόνους οργανισμούς, να εξαπολύονται σε μια συναυλία. Η μια ΑΙ που φτιάχνει ένα πλαστό βίντεο μιας δολοφονίας, και το διαχέει στα social media για να πυροδοτήσει το μίσος μιας κοινωνικής ομάδας εναντίον ενός φανταστικού εχθρού. «Εφόσον το κύμα εξελιχθεί ανεξέλεγκτα», γράφει ο Σουλεϊμάν, «το μόνο ερώτημα είναι το πότε θα συμβεί το κακό».
Επαναλαμβάνω: όλα αυτά τα γράφει με ψύχραιμο και ζυγισμένο τόνο, λες και μιλάει σε TED. Μερικές φορές το κείμενο σου δίνει την αίσθηση ότι ο συγγραφέας μετά βίας κρατιέται για να μην εγκαταλείψει τον κομ ιλ φο λόγο, να πεταχτεί απάνω και να φωνάξει «τι κάνετε μωρέ; Σταματήστε το ΑΙ. Οχι άλλο ΑΙ!»
Και το εύλογο ερώτημα που τίθεται είναι: ΟΚ, αυτές οι τραγικές συνέπειες, που θα έρθουν ενώ παράλληλα θα απολαμβάνουμε και τις ευεργεσίες αυτών των τεχνολογιών, πώς αποφεύγονται; Πώς κρατάμε τα καλά κι απαγορεύουμε τα κακά; Μήπως για να μην υποφέρουμε τα τραγικά κακά, να θυσιάσουμε τα καλά με μια οριζόντια, πλήρη απαγόρευση; Τα αντιμετωπίζει όλα αυτά τα ερωτήματα, πάντα κρατώντας μετά βίας την ψυχραιμία του.
Την επαύριο της κυκλοφορίας του GPT-4 χιλιάδες επιστήμονες συνυπέγραψαν μια ανοιχτή επιστολή που καλούσε σε μια εξάμηνη παύση της ανάπτυξης νέων ΑΙ εργαλείων, ένα μορατόριουμ μέχρι να αναπτυχθούν οι μηχανισμοί και το θεσμικό πλαίσιο για να γίνεται αυτή η ανάπτυξη με ελεγχόμενο και ασφαλή τρόπο. Αυτό, λέει ο Σουλεϊμάν, δεν μπορεί να λειτουργήσει. Το κίνητρο των ωφελειών από τέτοια εργαλεία είναι τόσο μεγάλο, που πάντα θα υπάρχουν κράτη που θα αγνοούν ή θα παρακάμπτουν περιορισμούς για να μην σταματήσουν να τις απολαμβάνουν. Και τα υπόλοιπα, για να μην μείνουν πίσω, θα ακολουθούν. Ο Σουλεϊμάν αναφέρει μια σειρά από παραδείγματα τεχνολογικών επαναστάσεων που σε κάποια σημεία περιορίστηκαν ή και απαγορεύτηκαν πρόσκαιρα -η Οθωμανική Αυτοκρατορία, λέει, απέκτησε το πρώτο της τυπογραφείο μόλις το 1757. Αλλά σε όλες τις περιπτώσεις ακόμα και τα μέρη που ήταν πιο διστακτικά να υιοθετήσουν τις νέες τεχνολογίες, τελικά υπέκυπταν. Η τεχνολογική εξέλιξη περιγράφεται λίγο-πολύ ως δύναμη της φύσης, ως ένα αναπόδραστο ιστορικό τσουνάμι. «Φαντάζει σαν ένας πελώριος γλοιώδης όγκος», γράφει ο Σουλεϊμάν, «που τσουλά σταδιακά προς ένα αναπόδραστο μέλλον, με δισεκατομμύρια μικροσκοπικές συνεισφορές να προστίθενται από τον κάθε επιμέρους ακαδημαϊκό ή επιχειρηματία, χωρίς κανέναν συντονισμό ή ικανότητα αντίστασης. Τον όγκο αυτό τον έλκουν ισχυρές δυνάμεις. Κι αν κάπου ξεπροβάλλουν εμπόδια, σε άλλα σημεία εμφανίζονται ανοίγματα, κι έτσι ο όγκος συνεχίζει την πορεία του». Εκείνο το κείμενο που υπέγραφαν οι ειδικοί περί μορατόριουμ, φυσικά αγνοήθηκε καθολικά.
Υπάρχουν όμως, και εξαιρέσεις. Ενα παράδειγμα μιας τεχνολογίας που εισήχθη, υιοθετήθηκε και μετά μπήκαν αυστηροί περιορισμοί στη χρήση της, είναι τα πυρηνικά όπλα. Ο κόσμος τα γνώρισε στα μέσα της δεκαετίας του ’40, αλλά έκτοτε χρησιμοποιήθηκαν μόνο δύο φορές. Μόνο εννέα χώρες του κόσμου έχουν τέτοια όπλα. Αυτές, μαζί και με τις υπόλοιπες, έχουν υπογράψει διάφορες συμφωνίες για τον περιορισμό των δοκιμών αυτών των όπλων, αλλά και για τον αυτοπεριορισμό της ανάπτυξης περισσότερων τέτοιων. Πώς έγινε αυτό; Ενας παράγοντας είναι η κινητοποίηση κυβερνήσεων και υπερεθνικών οργανισμών, σε μια εποχή που, μολονότι γεωπολιτικά τα πράγματα ήταν ακραία (κυριολεκτικά ψυχροπολεμική κατάσταση), εντούτοις δεν υπήρχαν social media και ο διάλογος γι’ αυτά τα θέματα γινόταν με νηφαλιότητα και κατά κανόνα πίσω από κλειστές πόρτες. Αλλά αυτό είναι μόνο ένα μέρος της εξίσωσης. Ισως το σημαντικότερο είναι το πόσο δύσκολο είναι να αναπτύξει κανείς τέτοια όπλα. Είναι πάρα πολύ δύσκολη, χρονοβόρα και εξαιρετικά κοστοβόρα διαδικασία. Πάντως, και σε άλλες περιπτώσεις τα κράτη του κόσμου έχουν σπεύσει να περιορίσουν τις αρνητικές συνέπειες άλλων τεχνολογικών εξελίξεων, από ουσίες με βλαβερές παρενέργειες στο περιβάλλον ή στους ανθρώπους (όπως τα CFCs, το DDT, ο μόλυβδος στη βενζίνη ή ο αμίαντος). Αλλά στις περισσότερες περιπτώσεις είναι πάρα πολύ δύσκολο.
Και, εξ άλλου, οι περιορισμοί και οι απαγορεύσεις των τεχνολογικών εξελίξεων εν γένει ενδέχεται να προκαλέσουν προβλήματα -η ανθρωπότητα αντιμετωπίζει ήδη τεράστιους κινδύνους. Το δημογραφικό, η κλιματική αλλαγή, προδιαγράφουν ένα μέλλον πολύ δύσκολο για το είδος μας, ακόμα και στις αμέσως επόμενες γενιές. Χωρίς νέες τεχνολογικές λύσεις αυτά τα προβλήματα δεν λύνονται. Οπότε ένα «πάγωμα», ένα τεχνολογικό μορατόριουμ, θεωρητικά θα εμπόδιζε και τη λύση μεγάλων και αναπόφευκτων προβλημάτων. Είναι μια δύσκολη εξισορρόπηση. «Η τεχνολογία», γράφει ο Σουλεϊμάν, «είναι ό,τι καλύτερο και ό,τι χειρότερο έχουμε φτιάξει».
Ο κόσμος, επισημαίνει, δεν είναι έτοιμος να αντιμετωπίσει τέτοιου μεγέθους και κλίμακας προκλήσεις. Δεν είναι μόνο το ότι είναι μεγάλες ή πολύ δύσκολες -ο κόσμος μας δεν έχει καν τις απαραίτητες δομές για να αντιμετωπίζει τέτοια προβλήματα. Ούτε οι υπερεθνικοί οργανισμοί είναι ενδυναμωμένοι με αρμοδιότητες και μέσα, ούτε τα κράτη έχουν από μόνα τους δομές και πόρους για να τα αντιμετωπίσουν ξεχωριστά. Φέρνει για παράδειγμα την πανδημία -υποτίθεται ότι τα καλύτερα εξοπλισμένα και προετοιμασμένα κράτη του κόσμου για να αντιμετωπίσουν μια παγκόσμια πανδημία μολυσματικής ασθένειας ήταν οι ΗΠΑ και το Ηνωμένο Βασίλειο. Οταν έσκασε μια παγκόσμια πανδημία μολυσματικής ασθένειας, αυτές οι δύο ήταν από τις χώρες που τα έκαναν περισσότερο θάλασσα (σε ένα συμβάν στην αντιμετώπιση του οποίου το είδος μας γενικότερα τα έκανε θάλασσα). Ετσι που τα έχουμε κάνει, πώς θα αντιμετωπίσουμε το «επερχόμενο κύμα»;
Το ευρωπαϊκό AI Act, λέει, είναι μια αρχή. Δίκαια δέχεται κριτική (και από τις δύο πλευρές ταυτόχρονα, και ως υπερβολικά παρεμβατικό, και ως ανεπαρκώς ισχυρό) αλλά είναι μια απόπειρα προς τη σωστή κατεύθυνση και, κυρίως, πυροδοτεί μια συζήτηση για το πώς και πόσο θα μπουν όρια και περιορισμοί. Αλλά δεν φτάνει. Είναι μια μεσοβέζικη λύση στο πρόβλημα της διαχείρισης αντίρροπων συμφερόντων. Τα κράτη θέλουν να προστατεύσουν τους πολίτες τους, αλλά ταυτόχρονα δεν θέλουν να περιορίσουν την καινοτομία και την επιχειρηματικότητα. Η Κίνα βάζει αυστηρούς περιορισμούς στη χρήση της τεχνολογίας από τους πολίτες, αλλά απολύτως κανένα όριο στη χρήση της για θέματα εθνικής ασφάλειας από το κράτος.
Οπότε τι πρέπει να κάνουμε; Στο τελευταίο μέρος του βιβλίου ο Σουλεϊμάν καταγράφει μερικές από τις προτεινόμενες λύσεις που, κατά τη γνώμη του, θα έχουν αποτέλεσμα. Είναι όλες πάρα πολύ δύσκολες.
Προτείνει διεθνείς συμφωνίες για τον περιορισμό και τη χρήση των εργαλείων ΑΙ, παρόμοιες με συμφωνίες που έχουν υπογραφεί για τα πυρηνικά όπλα ή τα βιολογικά όπλα. Από το στήσιμο οργανισμών με χιλιάδες εργαζόμενους για την έρευνα πάνω σε θέματα τεχνικής ασφάλειας και ελέγχου των ΑΙ, μέχρι τη θέσπιση ανεξάρτητων οργανισμών εποπτείας των εταιρειών και των φορέων που αναπτύσσουν τεχνολογίες και εργαλεία. Από την αύξηση της φορολογίας στην εργασία των μηχανών (ώστε να μην ανταγωνίζονται άνισα το κόστος της εργασίας των ανθρώπων) μέχρι τη θέσπιση αυστηρών κρατικών πιστοποιήσεων για εταιρείες και οργανισμούς που μπορούν να παράγουν τέτοια εργαλεία. Ναι, προτείνει και αυτό. Τα κράτη να έχουν αυστηρές προδιαγραφές και όρους, να δίνουν άδειες στις εταιρείες ΑΙ. «Ακριβώς όπως στις ΗΠΑ είναι αδύνατο για μια εταιρεία σήμερα να εκτοξεύσει έναν πύραυλο χωρίς την άδεια της κυβέρνησης», γράφει, «έτσι αύριο δεν θα έπρεπε να επιτρέπεται να λανσάρει ένα εξελιγμένο μοντέλο τεχνητής νοημοσύνης».
