ΓΙΟΥΒΑΛ ΝΟΑ ΧΑΡΑΡΙ
Nexus, μια σύντομη ιστορία των δικτύων πληροφοριών από την Eποχή του Λίθου μέχρι την εποχή της Τεχνητής Νοημοσύνης
μτφρ.: Μιχάλης Λαλιώτης
εκδ. Αλεξάνδρεια, σελ. 457
Είναι ίσως ένας απ’ τους πλέον προβεβλημένους διανοουμένους του καιρού μας. Στο νέο του βιβλίο με τίτλο «Nexus» ο Γιουβάλ Νόα Χαράρι κάνει μια ωραιότατη επισκόπηση της ιστορίας των ανθρώπινων δικτύων πληροφοριών και διατείνεται ότι το πρόβλημα της ανθρωπότητας είναι ένα πρόβλημα δικτύων, κατ’ ουσίαν ένα πρόβλημα πληροφοριών. Μ’ αυτή την έννοια η ανθρωπότητα κινείται σ’ ένα πολιτικό εκκρεμές μεταξύ δύο αντίθετων δικτύων πληροφοριών, της δημοκρατίας και της δικτατορίας. Ενώ το πρώτο δίκτυο διαθέτει αυτοδιορθωτικούς μηχανισμούς, το δεύτερο πορεύεται σαν να είναι αλάθητο. Σαν αποτέλεσμα, οι δημοκρατίες κατορθώνουν να επιβιώνουν παρά τα προβλήματα, ενώ οι δικτατορίες καταρρέουν με κρότο. Οταν οι πληροφορίες δεν κυκλοφορούν ελεύθερα, αρκεί να πληγεί το κέντρο της διαχείρισής τους για να επέλθει η κατάρρευσή τους.
Η ιστορική έρευνα του Χαράρι είναι πειστική. Το μειλίχιο ύφος, το χιούμορ και οι ευφυείς αναγνώσεις ολόκληρων ιστορικών περιόδων που κάνει βοηθούν τον αναγνώστη να γυρίσει τη σελίδα. «Η δημοκρατία σε κλίμακα εκατομμυρίων έγινε εφικτή μόνο στη σύγχρονη εποχή, όταν τα μέσα μαζικής ενημέρωσης άλλαξαν τη φύση των δικτύων πληροφοριών μεγάλης κλίμακας», σημειώνει. Ο Ισραηλινός συγγραφέας αποφαίνεται ότι οι σύγχρονες τεχνολογίες επικοινωνίας έκαναν μεν εφικτή τη σύγχρονη φιλελεύθερη δημοκρατία, αλλά έκαναν εφικτό και τον σύγχρονο ολοκληρωτισμό, για τον οποίο έχει πολλά να πει. Χωρίς το ραδιόφωνο, για παράδειγμα, ο ναζισμός δεν θα ήταν δυνατός.
Πολλοί εξακολουθούν να πιστεύουν ότι υπάρχει μια νομοτέλεια στις νέες τεχνολογίες, αλλά διαψεύδονται διαρκώς. Οπότε ο Χαράρι μάλλον έχει δίκιο εδώ. «Η τεχνολογία δημιουργεί απλώς νέες ευκαιρίες· σε εμάς εναπόκειται να αποφασίσουμε ποιες θα αξιοποιήσουμε», γράφει. Ο συγγραφέας υπερασπίζεται ανοιχτά τη φιλελεύθερη δημοκρατία ως το μόνο σύστημα που μπορεί να εξασφαλίσει ευημερία στον πλανήτη και γι’ αυτό η πίστη του στους αυτοδιορθωτικούς μηχανισμούς είναι αδιαπραγμάτευτη. Ποιες όμως είναι κατ’ αυτόν οι μεγαλύτερες απειλές για τη φιλελεύθερη δημοκρατία; Ο λαϊκισμός, η κλιματική αλλαγή και… οι μηχανές.
Η παγίδα
Ο ιστορικός διαβάζει έξοχα το παρελθόν, αλλά όταν επιχειρεί να μιλήσει για το μέλλον της συμβίωσής μας με τις μηχανές πέφτει σε μια παγίδα. Παρασύρεται απ’ τη μυθολογία γύρω απ’ την τεχνητή νοημοσύνη, καθώς κι από κάποια παραδείγματα ανεπιθύμητων παρενεργειών της και μας πληροφορεί ότι οι μηχανές έχουν γίνει αυτόνομες, κι ότι είναι ήδη σε θέση να παίρνουν μόνες τους αποφάσεις. Αυτό όμως δεν προκύπτει από καμία επιστημονική ή εμπειρική έρευνα.
Ο Γιουβάλ Νόα Χαράρι μας πληροφορεί ότι έχουν γίνει αυτόνομες κι ότι είναι σε θέση να παίρνουν μόνες τους αποφάσεις, το οποίο δεν προκύπτει από καμιά έρευνα.
Κανένα απ’ τα παραδείγματα που επικαλείται ο σπουδαίος, κατά τ’ άλλα, Χαράρι δεν αποδεικνύει την ύπαρξη μιας αυτόνομης οντότητας, τουλάχιστον προς το παρόν. Τόσο οι αλγόριθμοι του Facebook όσο και το GPT, είναι κώδικες που γράφτηκαν από μηχανικούς λογισμικού. Οι αποφάσεις αυτών των συστημάτων είναι αποτέλεσμα ανθρώπινου προγραμματισμού κι αν μοιάζει ότι παίρνουν μόνα τους αποφάσεις αυτό οφείλεται στην αβλεψία, στην αδαημοσύνη ή τις επιθυμίες των προγραμματιστών. Σύμφωνοι, μπορούν τα στατιστικά μοντέλα να μας εκπλήσσουν με τις δυνατότητές τους, αλλά δεν είναι παρά μαθηματικά. Παίρνουν αποφάσεις, προβλέπουν αποτελέσματα, δημιουργούν έργα, αλλά όλα αυτά δεν τα κάνουν μόνα τους. Οπως παραδέχεται κι ο ίδιος ο Χαράρι, εμείς έχουμε τον έλεγχό τους.
Η βασική του υπόθεση, ότι οι μηχανές έχουν ήδη αυτονομηθεί, δεν ευσταθεί σε κανένα άλλο πλαίσιο εκτός της μυθοπλασίας. Ο συγγραφέας υποστηρίζει ότι δεν είναι απαραίτητο η μηχανή να αποκτήσει συνείδηση για να μας καθυποτάξει και να μας καταστρέψει. Αρκεί να έχει νοημοσύνη και να πετυχαίνει στόχους, όπως κάνει σήμερα. Αν δεν πάρουμε μέτρα αμέσως τώρα ρισκάρουμε την ίδια την ύπαρξη του πολιτισμού μας, ισχυρίζεται. Την ίδια ώρα, η επιστημονική κοινότητα της ΑΙ είναι διχασμένη, γιατί κανείς δεν γνωρίζει στην πραγματικότητα αν και πότε μπορεί η ΑΙ να αποκτήσει συνείδηση κι αυτοσυνείδηση. Ο Χαράρι παίρνει ξεκάθαρα θέση υπέρ όσων προβλέπουν ότι μπορεί η ΑΙ μια μέρα να ξεφύγει απ’ τον έλεγχό μας.
«Στις επόμενες δεκαετίες μπορεί να αρχίσουμε να ζούμε μέσα στα όνειρα μιας αλλότριας νοημοσύνης», γράφει χαρακτηριστικά. Αν το βιβλίο του περιέγραφε απλά ένα νοητικό πείραμα, δύσκολα θα έβρισκε μεγάλη απήχηση. Σε μια εποχή, ωστόσο, που οι Κασσάνδρες αφθονούν, το να σπείρεις τον πανικό για μια απειλή που μπορεί να μην πραγματοποιηθεί ποτέ, δεν είναι κάτι αξιοκατάκριτο, γιατί μόνο έτσι εξασφαλίζεις ότι θα σε ακούσουν. Αυτό που λείπει σήμερα είναι η ψυχραιμία, η καθαρή και αμερόληπτη ματιά. Είναι αξιοσημείωτο ότι μέσα στις 400 και πλέον σελίδες του βιβλίου του για τους κινδύνους της ΑΙ ο Χαράρι δεν έχει ούτε έναν καλό λόγο να πει για τον πρωτοποριακό νόμο της Ευρωπαϊκής Ενωσης για την ΑΙ. Αν η επιχειρηματολογία του ήταν πιο κοντά στην πραγματικότητα, η συζήτηση θα στρεφόταν στους υπαρκτούς βραχυπρόθεσμους και μεσοπρόθεσμους κινδύνους και θα κάναμε μια πολύ διαφορετική συζήτηση τώρα.
