Η Κάρεν Χάο, από τις πιο διεισδυτικές φωνές στη δημοσιογραφία της τεχνολογίας, στο βιβλίο «Empire of AI» χαρτογραφεί την πορεία της OpenAI και του Σαμ Αλτμαν ως την ιστορία μιας νέας αυτοκρατορίας: με δεδομένα, υποδομές και παγκόσμια αλυσίδα εργασίας που τροφοδοτούν την παραγωγική τεχνητή νοημοσύνη. Στο βιβλίο, που κυκλοφόρησε σε ΗΠΑ και Βρετανία τον περασμένο Μάιο και έγινε bestseller στους New York Times, αφηγείται πώς η κούρσα της AI συγκεντρώνει ισχύ, κεφάλαιο και δεδομένα. Βασίζεται σε εκατοντάδες συνεντεύξεις και έρευνα σε πέντε ηπείρους. Με την Κάρεν Χάο μιλήσαμε μέσω zoom ενόσω εκείνη βρισκόταν στο Χονγκ Κονγκ.
– Να ξεκινήσουμε από τον τίτλο του βιβλίου σας. Αποκαλείτε την AI μια νέα μορφή ιμπεριαλισμού. Πρόκειται για λέξη με φορτισμένες ιστορικές συνδηλώσεις. Είναι η AI μια νέα αυτοκρατορία και αν ναι, ποιοι είναι οι υποτελείς;
– Ναι, πιστεύω απολύτως ότι η AI είναι η νέα αυτοκρατορία. Συγκεκριμένα, η αντίληψη της Σίλικον Βάλεϊ για την AI και ο τρόπος που προσεγγίζουν την ανάπτυξή της. Ο λόγος που κάνω αυτόν τον παραλληλισμό είναι γιατί όλοι οι τρόποι με τους οποίους λειτουργούν οι εταιρείες της Σίλικον Βάλεϊ καθρεφτίζουν τον τρόπο που λειτουργούσαν οι παλιές αυτοκρατορίες. Οικειοποιούνται πόρους που δεν τους ανήκουν. Αυτό περιλαμβάνει τα δεδομένα δισεκατομμυρίων ανθρώπων σε όλο τον κόσμο, την πνευματική ιδιοκτησία συγγραφέων, καλλιτεχνών και δημιουργών. Εκμεταλλεύονται τεράστιο όγκο εργασίας, πληρώνοντας ελάχιστα σε εργαζομένους που συμβάλλουν στην ανάπτυξη των τεχνολογιών τους, ενώ ταυτόχρονα προωθούν την αυτοματοποίηση μέσω της χρήσης τους. Μονοπωλούν την παραγωγή γνώσης. Τα τελευταία δέκα χρόνια έχουν αποκτήσει σχεδόν όλους τους ερευνητές AI στον κόσμο, γεγονός που έχει οδηγήσει σε θεμελιώδη διαστρέβλωση της δημόσιας κατανόησης για τις δυνατότητες και τους περιορισμούς της AI. Κάθε φορά που οι ερευνητές εντοπίζουν κάτι, λογοκρίνονται και δεν τους επιτρέπεται να δημοσιεύσουν. Και οι εταιρείες αυτές χρησιμοποιούν ρητορική που θυμίζει την κούρσα εξοπλισμών των αυτοκρατοριών. Η Βρετανική Αυτοκρατορία έλεγε ότι είναι καλύτερη από την ολλανδική, η γαλλική ότι είναι καλύτερη από τη βρετανική, για να δικαιολογήσουν γιατί έπρεπε να συνεχίσουν να είναι ισχυρές. Και έλεγαν ότι έφεραν πρόοδο και ωριμότητα στον υπόλοιπο κόσμο. Ακριβώς έτσι μιλούν σήμερα η OpenAI, η Google και οι άλλες εταιρείες: ότι φτιάχνουν μια τεχνολογία που θα «εκπολιτίσει» τον κόσμο, θα ωφελήσει όλη την ανθρωπότητα. Και γι’ αυτό χρειάζονται ανεμπόδιστη πρόσβαση σε πόρους και εργασία.
Οικειοποιούνται πόρους που δεν τους ανήκουν. Αυτό περιλαμβάνει τα δεδομένα δισεκατομμυρίων ανθρώπων σε όλο τον κόσμο, την πνευματική ιδιοκτησία συγγραφέων, καλλιτεχνών και δημιουργών.
– Πάμε στην OpenAI, στην οποία επικεντρώνεστε στο βιβλίο σας. Από μη κερδοσκοπική μετατράπηκε σε «capped-profit» οντότητα. Πρόκειται –ας το πούμε έτσι– για συνειδητή προδοσία ή ήταν ο μόνος τρόπος για να επιβιώσει στη Σίλικον Βάλεϊ;
– Δεν πιστεύω ότι ήταν συνειδητή προδοσία, υπό την έννοια ότι όταν ιδρύθηκε η OpenAI θα μπορούσε κανείς να πει ότι ήδη δεν ήταν καθαρά αλτρουιστική. Ηταν ένα σχέδιο που γεννήθηκε από το «εγώ», επειδή ο Ελον Μασκ και ο Σαμ Αλτμαν δημιούργησαν την εταιρεία ή το μη κερδοσκοπικό σχήμα για να είναι καλύτεροι από την Google. Υπήρχε η ιδέα πως «η Google δεν πρέπει να είναι αυτή που θα διαμορφώσει μια τεχνολογία τόσο καθοριστική για τον κόσμο· πρέπει να είμαστε εμείς, οι καλοί». Δεν ήταν ποτέ ένα αγνό ιδεαλιστικό όραμα – από την αρχή.
– Υπάρχει δηλαδή μια μανιχαϊστική αντίληψη, μια διάκριση καλών και κακών;
– Ακριβώς. Υπήρχε ένας μεσσιανικός μύθος γύρω από αυτό. Και θα μπορούσε να πει κανείς ότι ήταν αναπόφευκτο να κάνουν ό,τι χρειαστεί για να παραμείνουν «Νο 1». Και στη Σίλικον Βάλεϊ το «ό,τι χρειαστεί» σημαίνει να εξασφαλίσεις όσο το δυνατόν περισσότερα χρήματα, να αναπτυχθείς όσο πιο γρήγορα γίνεται και να αναπτύξεις τις τεχνολογίες σου όσο πιο επιθετικά μπορείς. Δεν ήταν προδοσία· ήταν αποδοχή της αρχικής λογικής τους.
– Πώς νιώσατε βλέποντας τη σκηνή στον Λευκό Οίκο, με όλους τους ισχυρούς της τεχνολογίας γύρω από τον πρόεδρο Τραμπ;
– Απογοήτευση, αλλά ταυτόχρονα και ελπίδα, γιατί κατέστη απολύτως σαφές για ακόμη μία φορά ότι αυτές οι εταιρείες δεν ενεργούν προς το δημόσιο συμφέρον, αλλά προς το δικό τους. Συμμαχούν με μια διοίκηση που καταστρέφει τα θεμέλια της δημοκρατίας στην Αμερική αυτή τη στιγμή. Oλη η ρητορική τους για το πως δήθεν ενισχύουν τη δημοκρατία, πως κάνουν τη ζωή των ανθρώπων ευκολότερη, πως υποτίθεται ότι ωφελούν τους πάντες, δεν είναι τίποτε άλλο παρά ένα προπέτασμα καπνού.
– Κάνατε έρευνα σε πέντε ηπείρους, με εκατοντάδες συνεντεύξεις. Συναντήσατε εργάτες δεδομένων στην Κένυα, μελετήσατε τα ζητήματα με το νερό στη Χιλή. Αν όλοι αυτοί είναι τα πραγματικά θύματα της ΑΙ, γιατί οι φωνές αυτές απουσιάζουν από τη συζήτηση;
– Νομίζω ότι τα πραγματικά θύματα είμαστε όλοι μας. Γι’ αυτό ταξιδεύω σε διάφορα μέρη για να δω πώς η ΑΙ επηρεάζει τους πιο ευάλωτους ανθρώπους στον κόσμο, ανθρώπους που ζουν στις φτωχότερες κοινότητες, στις φτωχότερες χώρες. Διότι μέσα από την κάλυψη της τεχνολογίας και της AI τα τελευταία επτά χρόνια συνειδητοποίησα ότι μόνον όταν δεις την κατάρρευση αυτών των ανθρώπων, μπορείς να καταλάβεις τι έρχεται για όλους.
Συμμαχούν με μια διοίκηση που καταστρέφει τα θεμέλια της δημοκρατίας στην Αμερική. Oλη η ρητορική τους για το πως δήθεν ενισχύουν τη δημοκρατία, πως υποτίθεται ότι ωφελούν τους πάντες, δεν είναι τίποτε άλλο παρά ένα προπέτασμα καπνού.
– Μπορείτε να μας δώσετε μερικά παραδείγματα;
– Στην Κένυα, βρήκα εργαζομένους που είχαν προσληφθεί από την OpenAI για να βοηθήσουν στην ανάπτυξη των τεχνολογιών της και που στη συνέχεια υπέστησαν βαθύ τραύμα – βίωσαν σοβαρή εκμετάλλευση, πληρώθηκαν ελάχιστα και καταστράφηκε η ψυχική υγεία τους. Oλα αυτά στο πλαίσιο μιας δουλειάς που ουσιαστικά ισοδυναμούσε με έλεγχο περιεχομένου για το μοντέλο που θα γινόταν το ChatGPT. Στη Χιλή και στην Ουρουγουάη, βρήκα κοινότητες που αγωνίζονταν με κάθε τρόπο ώστε να αποτρέψουν την ανάπτυξη κέντρων δεδομένων για την εκπαίδευση και τη λειτουργία των μοντέλων AI, καθώς αυτά απειλούσαν να δεσμεύσουν τα αποθέματα γλυκού νερού – πόροι ήδη εξαιρετικά σπάνιοι λόγω της ιστορικής ξηρασίας στις δύο χώρες. Και τα δύο αυτά φαινόμενα τα βλέπουμε σήμερα να επαναλαμβάνονται σε κοινότητες σε όλο τον κόσμο, όχι μόνο στις πιο ευάλωτες. Κέντρα δεδομένων χτίζονται σε κάθε ήπειρο, εκτός ίσως από την Ανταρκτική. Πρόσφατη έρευνα του Bloomberg έδειξε ότι τα δύο τρίτα από αυτά κατασκευάζονται σε περιοχές που στερούνται επαρκών αποθεμάτων γλυκού νερού. Αυτό συμβαίνει στις ΗΠΑ, στο Ηνωμένο Βασίλειο, στην Ελλάδα, σε όλη την Ευρώπη.
– Η εκπαίδευση των μεγάλων μοντέλων AI απαιτεί νερό και ενέργεια, σε τεράστιες ποσότητες. Θα μπορούσαμε να αντιμετωπίσουμε την AI όπως το πετρέλαιο – να τη φορολογούμε, να τη ρυθμίζουμε, να τη μετριάζουμε;
– Δεν έχω μια απολύτως τεκμηριωμένη απάντηση για αυτό το μοντέλο ρύθμισης, αλλά σίγουρα χρειαζόμαστε κανονισμούς. Το πιο κρίσιμο είναι η διαφάνεια: να υποχρεωθούν οι εταιρείες να αποκαλύπτουν πόση ενέργεια, πόσο νερό, πόση εργασία χρησιμοποιούν. Σήμερα δεν το ξέρουμε. Χωρίς αυτό, δεν μπορεί να υπάρξει υπεύθυνη AI.
– Μπορούμε να φτάσουμε σε υπεύθυνη AI;
– Ισως δεν ξέρουμε την ακριβή διαδρομή, αλλά ξέρουμε τα βασικά συστατικά. Πρώτα η διαφάνεια. Eπειτα η δημοκρατική αμφισβήτηση: οι πολίτες να έχουν τη δυνατότητα να αντιστέκονται. Το βλέπουμε ήδη με καλλιτέχνες και συγγραφείς που κάνουν αγωγές, με μαθητές και δασκάλους που συζητούν εάν πρέπει να μπει η AI στα σχολεία. Αυτή η πίεση είναι κρίσιμη.
– Μπορούν οι δημοκρατίες να αντεπεξέλθουν στην ταχύτητα της AI;
– Ναι. Ακόμη και αν οι κυβερνήσεις υστερούν, οι πολίτες μπορούν να αντιδράσουν από τα κάτω. Αυτή η «bottom-up» διακυβέρνηση είναι πιο γρήγορη από τις αργές διαδικασίες των νόμων και των κανονισμών. Και μόνο οι δημοκρατικές χώρες έχουν αυτήν τη δυνατότητα.
– Αν μπορούσατε να θεσπίσετε έναν παγκόσμιο κανόνα για την AI, ποιος θα ήταν;
– Διαφάνεια. Να γνωρίζουμε ακριβώς τι μπαίνει στα μοντέλα: δεδομένα, ενέργεια, νερό, εργασία. Κάποιοι έχουν προτείνει κάτι σαν «διατροφική ετικέτα» για κάθε AI. Αυτό θα ήθελα να δω.
– Υπάρχει μεγάλη κούρσα ανάμεσα στις εταιρείες για την τεχνητή γενική νοημοσύνη; Και πόσο κοντά είμαστε;
– Ναι, υπάρχει ανταγωνισμός. Αλλά το πόσο κοντά είμαστε δεν μπορούμε να το πούμε. Δεν υπάρχει κοινός ορισμός ούτε της AGI ούτε καν της ανθρώπινης νοημοσύνης. Αν δεν ξέρουμε τι είναι, πώς θα ξέρουμε αν φτάσαμε εκεί;
– Μήπως πρέπει να επιστρέψουμε στην αρχαία ελληνική φιλοσοφία για να διερμηνεύσουμε αυτό το πεδίο;
– Πάντα πρέπει να επιστρέφουμε στην αρχαία ελληνική φιλοσοφία.
– Ποιοι είναι οι πραγματικοί ρυθμιστές ισχύος της AI; Οι CEO, οι κυβερνήσεις, οι «αόρατοι» εργάτες;
– Σήμερα, οι εταιρείες. Καμία κυβέρνηση, ούτε καν στις ΗΠΑ, δεν είναι ισχυρότερη από αυτές. Αλλά ποιοι θα έπρεπε να είναι; Οι πολίτες. Ο καθένας πρέπει να έχει δικαίωμα να καθορίζει πώς η AI επηρεάζει το μέλλον του.
– Κλείνοντας, θα χρησιμοποιήσω μία ελληνική λέξη, τη «δυστοπία», καθώς πολλά απ’ όσα συζητήσαμε μας υποδεικνύουν ένα δυστοπικό μέλλον. Μετά το βιβλίο σας, είστε πιο αισιόδοξη ή πιο δύσπιστη απέναντι στις εξελίξεις;
– Είμαι πολύ αισιόδοξη ότι θα βρούμε έναν τρόπο ώστε να περιορίσουμε την «Αυτοκρατορία της AI». Γιατί, προκειμένου να το γράψω, χρειάστηκε να κάνω εκτεταμένο ρεπορτάζ για τους διαφορετικούς τρόπους με τους οποίους οι άνθρωποι αντιστέκονται σε αυτή την αυτοκρατορία. Και από τότε που ξεκίνησα την περιοδεία για το βιβλίο και γνώρισα ανθρώπους, ήρθα σε επαφή με πάρα πολλούς που συμμετέχουν σε αυτό το είδος αντίστασης και στη δημοκρατική αντιπαράθεση. Αυτό με έκανε πολύ αισιόδοξη, διότι η ενέργεια, η δυναμική και η καθαρότητα που έχουν γύρω από την ανάγκη αυτής της αντίδρασης είναι κάτι που δεν έχω ξαναδεί. Και νομίζω πως αυτό είναι που θα μας οδηγήσει σε ένα καλύτερο μέλλον.
