Το μακρινό 2009, στο βραχύβιο έντυπο Post-Media δημοσίευσα ένα άρθρο με τίτλο: «Θεός 2.0. Μια παραβολή για τη θρησκεία δεύτερης γενιάς, τους θεούς και τους ευαγγελιστές της». Τότε το Facebook ήταν μόλις πέντε ετών και ελάχιστοι ασκούσαν κριτική στα social media. Στα 15 χρόνια της ραγδαίας τεχνολογικής επιτάχυνσης που έχουν μεσολαβήσει, η ιδέα ότι η τεχνολογία έχει μετατραπεί σε μια νέα ισχυρή θρησκεία, δεν απέκτησε την παραμικρή δημοφιλία. Οι περισσότεροι μαγευτήκαμε απ’ τα αστραφτερά νέα εργαλεία και τα μεσσιανικά αφηγήματα που τα συνόδευαν, και δεν είχαμε χρόνο να θέσουμε βαθύτερα ερωτήματα.
Τα τελευταία χρόνια, ωστόσο, η ιδέα αρχίζει να κερδίζει ξανά έδαφος, ακόμη και στο κέντρο των εξελίξεων, στις ΗΠΑ. Ο άνθρωπος που έσπευσε να πάρει την πιο καθαρή και σαφή θέση ονομάζεται Γκρεγκ Eπσταϊν κι εργάζεται ως εφημέριος για τους άθεους και αγνωστικιστές φοιτητές, στο Χάρβαρντ και στο ΜΙΤ. Το 2024 κυκλοφόρησε το βιβλίο του «Tech agnostic, How technology became the world’s most powerful religion, and why it desperately needs a reformation», το οποίο προκάλεσε αρκετές συζητήσεις, τουλάχιστον στους παροικούντες την τεχνολογική Ιερουσαλήμ. Στο ογκώδες βιβλίο του ο Eπσταϊν παρουσιάζει μια συνεκτική επιχειρηματολογία, που έχει στόχο να πείσει τον αναγνώστη ότι η τεχνολογία είναι η πιο ισχυρή θρησκεία των καιρών μας. Σε μεγάλο βαθμό, το καταφέρνει.
Την ίδια χρονιά, κυκλοφόρησε το βιβλίο «Animals, Robots, Gods. Adventures in the moral imagination», του καθηγητή Ανθρωπολογίας στο Πανεπιστήμιο του Μίσιγκαν και συγγραφέα Γουέμπ Κιν. Στο ευσύνοπτο δοκίμιό του, ο πιο μετριοπαθής και προσεκτικός Αμερικανός υποστηρίζει ότι η τεχνολογία, και πιο συγκεκριμένα η τεχνητή νοημοσύνη, έχει μεν τη δυνατότητα να αντιμετωπιστεί ως θρησκεία, αλλά επαφίεται πάντα στους ανθρώπους η χρήση της. Aλλωστε, δεν είναι η πρώτη φορά που αποδίδουμε θεϊκές ιδιότητες σε μη ανθρώπινες, μισο-ανθρώπινες ή υπεράνθρωπες οντότητες. Το κάναμε πάντα. Η τεχνητή νοημοσύνη μπορεί για κάποιους να είναι ένας θεός, μια Πυθία, ένα μέντιουμ, αλλά δεν πρέπει ποτέ να ξεχνάμε ότι πίσω της βρίσκεται μια τεράστια βιομηχανία με τα ιδιοτελή συμφέροντά της.
Τα social media έχουν αντικαταστήσειτον ρόλο των ναών
Η ψηφιοποίηση του ανήκειν και της αναζήτησης νοήματος. Τα σύμβολα, η υπόσχεση λύτρωσης και ο θεολογικός λόγος των «προφητών» της νέας μορφής πίστης
Γκρεγκ Επσταϊν, εφημέριος στο Χάρβαρντ και στο ΜΙΤ
– Στο βιβλίο σας υποστηρίζετε ότι η τεχνολογία έχει μετατραπεί σε μια νέα παγκόσμια θρησκεία. Πώς οδηγηθήκατε σε αυτό το συμπέρασμα;
– Για 14 χρόνια ήμουν εφημέριος για αθέους και αγνωστικιστές στο Πανεπιστήμιο Χάρβαρντ – θέση που συνεχίζω να κατέχω έως σήμερα. Το 2018 μου ζητήθηκε να αναλάβω αντίστοιχο ρόλο και στο ΜΙΤ. Εκεί συνειδητοποίησα κάτι θεμελιώδες: το «Τ» του ΜΙΤ, δηλαδή η Τεχνολογία, είχε αρχίσει για πολλούς να λειτουργεί όπως οι παραδοσιακές θρησκείες. Οι φοιτητές δεν πήγαιναν στην εκκλησία ή στη συναγωγή τους για να βρουν νόημα και αίσθηση της κοινότητας – προτιμούσαν για τους ίδιους λόγους να πηγαίνουν στο Facebook, στο Instagram, στο Twitter. Και η ρητορική των ηγετών της τεχνολογίας, όπως ο Μαρκ Ζούκερμπεργκ, άρχισε να μοιάζει όλο και περισσότερο με εκείνη που θα άκουγε κανείς σε ένα μάθημα Θεολογίας στο Χάρβαρντ. Με βάση την πολυετή μελέτη μου στο πεδίο των θρησκειών, άρχισα να καταγράφω τις αναλογίες και δεν σταμάτησα ούτε όταν ολοκλήρωσα το βιβλίο.
– Τι είδους αναλογίες εντοπίσατε;
– Κατ’ αρχήν, η τεχνολογία έχει μια θεολογία, και όπως όλες οι θρησκείες έχει μια μεγάλη αφήγηση. Eπειτα έχει σύμβολα. Oπως ο Χριστιανισμός έχει τον σταυρό, ο Ιουδαϊσμός τη μενορά ή το αστέρι του Δαυίδ και το Ισλάμ την ημισέληνο, έτσι και η τεχνολογία έχει το γράφημα που μοιάζει με μπαστούνι του χόκεϊ, το οποίο συμβολίζει την ιδέα ότι αν εφαρμόσουμε επαρκείς τεχνολογίες σε κάτι, τα κέρδη θα αυξηθούν σχεδόν απεριόριστα. Επειτα, η τεχνολογία έχει δόγματα, έχει συγκεκριμένες ιεραρχίες και τελετουργίες. Και πάνω από όλα προσφέρει μια υπόσχεση λύτρωσης: αρκεί να εμπιστευθείς την τεχνολογία και θα ζήσεις σε μια μελλοντική ουτοπία. Οπως και στις παλιές θρησκείες, η τεχνολογία έχει και την απειλή: αν δεν την εμπιστευθείς, θα σε τιμωρήσει, αυτή τη φορά με τη μορφή μιας ανεξέλεγκτης Τ.Ν. που θα καταστρέψει την ανθρωπότητα.
– Πιστεύετε ότι η τεχνολογία έγινε θρησκεία κατόπιν σχεδιασμού ή τυχαία;
– Η μελέτη όλων των μεγάλων θρησκειών μας διδάσκει ότι ισχύουν και τα δύο. Πολλοί τεχνολογικοί ηγέτες χρησιμοποιούν, χωρίς να το καταλαβαίνουν, λόγο σχεδόν θεολογικό. Aλλοι, όμως, εφαρμόζουν συνειδητά παλιές, δοκιμασμένες τεχνικές πειθούς που γνωρίζουμε από τη θρησκευτική ιστορία. Υπόσχονται έναν «παράδεισο» που θα έρθει μόνο αν τους ακολουθήσουμε – και ταυτόχρονα διατηρούν την απειλή μιας «κόλασης» για όσους δεν πεισθούν. Αυτή η μέθοδος, όσο παλιά κι αν είναι, λειτουργεί ακόμη.
Οπως και στις παλιές θρησκείες, η τεχνολογία έχει και την απειλή: αν δεν την εμπιστευθείς, θα σε τιμωρήσει, αυτή τη φορά με τη μορφή μιας ανεξέλεγκτης Τ.Ν. που θα καταστρέψει την ανθρωπότητα.
– Διαβλέπετε κάποια έξοδο από αυτή τη δυσοίωνη κατάσταση;
– Θα ήταν ανόητο, υπό τις παρούσες συνθήκες, να δηλώνουμε αισιόδοξοι για την τροπή των πραγμάτων. Είναι δύσκολο να φανταστούμε τη ζωή χωρίς την τεχνολογία, και αυτό είναι το πιο θρησκευτικό στοιχείο της: έχει γίνει τόσο απαραίτητη που δεν μπορούμε να ζήσουμε χωρίς αυτήν. Παρ’ όλα αυτά εξακολουθώ να θαυμάζω τους αιρετικούς, τους αποστάτες και τους ανθρωπιστές της τεχνολογίας. Αυτούς που αμφισβητούν, που προσπαθούν να φέρουν πίσω την ανθρώπινη επαφή. Στον διάσημο μύθο του ο Καμύ έλεγε ότι πρέπει να φανταστούμε τον Σίσυφο ευτυχισμένο. Μα όπως είπε ένας φοιτητής μου στο ΜΙΤ, αν ο Σίσυφος είναι μόνος του, δεν μπορεί να είναι πραγματικά ευτυχισμένος. Η τεχνολογική κουλτούρα που έχουμε δημιουργήσει, ειδικά εδώ στις Ηνωμένες Πολιτείες, αλλά ίσως και εκεί, είναι πολύ ατομικιστική και μας ενθαρρύνει να περνάμε όλο και περισσότερο χρόνο μόνοι μας, κοιτάζοντας μια οθόνη, χωρίς να ασχολούμαστε πραγματικά με άλλους ανθρώπους και να μαθαίνουμε πώς να συνδεόμαστε μαζί τους. Αν ακολουθήσουμε αυτή την τάση για πολύ ακόμη, πραγματικά δεν θα μας βγει σε καλό. Πρέπει επειγόντως να μάθουμε πώς να επανασυνδεόμαστε σε μια ανθρώπινη κοινότητα πρόσωπο με πρόσωπο.
Η τεχνολογική κουλτούρα είναι πολύ ατομικιστική και μας ενθαρρύνει να περνάμε όλο και περισσότερο χρόνο μόνοι μας, κοιτάζοντας μια οθόνη, χωρίς να ασχολούμαστε πραγματικά με άλλους ανθρώπους και να μαθαίνουμε πώς να συνδεόμαστε μαζί τους.
– Μπορείτε να μας εξηγήσετε την έννοια του τεχνολογικού αγνωστικισμού;
– Αγνωστικιστής είναι εκείνος που παραδέχεται ότι δεν γνωρίζει – και θυμάται πως ούτε οι άλλοι γνωρίζουν. Μπορεί εγώ να μην ξέρω, αλλά ούτε κι εσείς ξέρετε. Από αυτή τη θέση ξεκινούν ο διάλογος και η αναζήτηση: με τις καλύτερες εικασίες που μπορούμε να κάνουμε. Γι’ αυτό και χρειάζεται σκεπτικισμός – όχι επιθετικός, αλλά νηφάλιος. Σκεπτικισμός απέναντι σε υποσχέσεις που δεν μπορούμε να διαψεύσουμε εντελώς, αλλά που μέσα μας ξέρουμε ότι είναι σχεδόν απίθανες. Οπως, για παράδειγμα, η υπόσχεση μιας ουτοπίας μέσω της Τ.Ν. Δεν μπορούμε να αποδείξουμε ότι είναι λάθος, αλλά μπορούμε να σκεφθούμε ποιος έχει συμφέρον να την πιστέψουμε ως αληθή. Oταν ένας δισεκατομμυριούχος μάς υπόσχεται έναν τεχνολογικό παράδεισο, αξίζει να θυμόμαστε ότι αν τον πιστέψουμε θα γίνει ακόμη πλουσιότερος. Θα ζήσει όντως σε έναν επίγειο παράδεισο – με την προϋπόθεση ότι θα τον έχουμε ακολουθήσει όλοι. Γι’ αυτό και πρέπει να αναρωτηθούμε: τι είναι πιο πιθανό; Να έχουν τελικά δίκιο αυτοί οι άνθρωποι, που φαίνεται συχνά να βλάπτουν τους εαυτούς τους, τις σχέσεις τους και τον πλανήτη μας; Ή να έχουμε εξελιχθεί μέσα σε χιλιάδες –ίσως και εκατομμύρια– χρόνια, ως κοινωνικά όντα, για να νοιαζόμαστε, να σχετιζόμαστε και να συνδεόμαστε στο εδώ και τώρα; Ο τεχνολογικός αγνωστικισμός είναι ακριβώς αυτή η στάση: να αντιμετωπίζουμε κριτικά κάθε ουτοπική υπόσχεση. Να αρνούμαστε τεχνολογίες που μας απομονώνουν, που μας αποσπούν από τον άλλον άνθρωπο, που μας διχάζουν αντί να μας συνδέουν. Είναι μια στάση που δεν προσφέρει εύκολες βεβαιότητες, αλλά κρατάει ζωντανή την κοινή ανθρωπιά μας.
– Πόσο καθοριστική είναι η παρούσα συγκυρία;
– Με έναν παράδοξο τρόπο, οι Πίτερ Τιλ αυτού του κόσμου, οι οποίοι διακηρύσσουν ότι βρισκόμαστε στο κατώφλι μιας νέας πραγματικότητας, φαίνεται πως έχουν δίκιο. Oντως κάνουν ό,τι περνάει από το χέρι τους για να την επιβάλουν. Και φυσικά είναι μια πραγματικότητα κομμένη και ραμμένη στα μέτρα τους – όπου οι ίδιοι θα είναι πιο πλούσιοι και ισχυροί από ποτέ. Ομως εμείς δεν μπορούμε να αποσυρθούμε. Δεν μπορούμε να τους αφήσουμε να διαμορφώσουν το μέλλον χωρίς αντίλογο. Στο Ταλμούδ υπάρχει μια ωραία φράση: «Δεν είσαι υποχρεωμένος να τελειώσεις το έργο, αλλά ούτε είσαι ελεύθερος να το εγκαταλείψεις». Αυτή είναι, πιστεύω, η στάση που μας αναλογεί. Δεν είναι απαραίτητο –ούτε ρεαλιστικό– να νικήσουμε μόνοι μας τον Ελον Μασκ, τον Ντόναλντ Τραμπ ή τον Μαρκ Ζούκερμπεργκ. Αλλά ούτε και μας επιτρέπεται να τους χαρίσουμε σιωπηρά το πεδίο. Πρέπει να συνεχίσουμε. Να προσπαθούμε καθημερινά να διαμορφώνουμε έναν πιο ανθρώπινο κόσμο – όχι γιατί είμαστε βέβαιοι ότι θα τα καταφέρουμε, αλλά γιατί αξίζει να το επιχειρούμε. Γιατί υπάρχει χαρά σε αυτή την προσπάθεια. Και ίσως αυτή η χαρά, αυτή η συνεχής επιδίωξη να είναι το μόνο πράγμα που μπορεί στ’ αλήθεια να αλλάξει το μέλλον.
Η τεχνητή νοημοσύνη δεν είναι θεός
Η παρανόηση όταν μια μηχανή μοιάζει να γνωρίζει τα πάντα. Οι κίνδυνοι που κρύβονται στη φετιχοποίηση και στον ανθρωπομορφισμό
Γουέμπ Κιν, καθηγητής Ανθρωπολογίας στο Πανεπιστήμιο του Μίσιγκαν
– Στο βιβλίο σας θέτετε το ερώτημα αν η τεχνητή νοημοσύνη είναι ένας θεός. Τι θα λέγατε να επεκτείνουμε το ερώτημα; Είναι η τεχνολογία μια θρησκεία;
– Νομίζω ότι αυτό που μπορούμε να πούμε είναι ότι η τεχνολογία έχει τη δυνατότητα να χρησιμοποιηθεί για θρησκευτικούς σκοπούς. Και θα έλεγα επίσης ότι η τεχνητή νοημοσύνη δεν είναι θεός. Η ΑΙ προσκαλεί τους ανθρώπους να την αντιμετωπίσουν ως θεό, αλλά πρέπει να αποδεχθούν αυτή την πρόσκληση. Oι άνθρωποι έχουν την τάση να βλέπουν θεϊκές πτυχές στην ΑΙ, αλλά φυσικά μπορούν να τις αρνηθούν ή και να τις αγνοήσουν. Η ΑΙ δεν πρόκειται να αναγκάσει κανέναν να την αντιμετωπίσει ως θεό. Αλλά νομίζω ότι πολλοί άνθρωποι αισθάνονται την πρόσκληση και ανταποκρίνονται σε αυτήν, αν μπορώ να το θέσω έτσι. Και πάλι, όμως, η ΑΙ δεν είναι θρησκεία. Η ΑΙ είναι απλά μια τεχνολογία, μια συσκευή, ένας αλγόριθμος, ένα σύστημα εκπαίδευσης. Εχει ιδιότητες που μοιάζουν με κάποιες από τις ιδιότητες που έχουν οι θρησκευτικές πρακτικές, όμως επαφίεται στους ανθρώπους. Η λέξη που χρησιμοποιώ στο προηγούμενο βιβλίο μου είναι η «δυνατότητα». Ας πούμε ότι έχω μια καρέκλα σχεδιασμένη με έναν συγκεκριμένο τρόπο που μου επιτρέπει να καθίσω σε αυτήν αν θέλω να καθίσω. Δεν πρόκειται να με αναγκάσει να το κάνω. Πρέπει να αναγνωρίσω ότι είναι ακριβώς η κατάλληλη για μένα να καθίσω. Οπότε, ο σχεδιασμός της καρέκλας, η επιφάνεια και το ύψος της είναι μια δυνατότητα. Μου παρέχει τη δυνατότητα να καθίσω, αλλά θα μπορούσα να την αγνοήσω. Αν χρειαζόταν να αλλάξω μια λάμπα στο ταβάνι θα μπορούσα να πατήσω πάνω της. Δεν σχεδιάστηκε γι’ αυτό, αλλά είναι μια δυνατότητα που μπορώ να εκμεταλλευθώ. Το ίδιο πράγμα συμβαίνει με την ΑΙ. Το ChatGPT έχει σχεδιαστεί για άλλους σκοπούς, αλλά επειδή φαίνεται να γνωρίζει τα πάντα, μοιάζει με θεό. Κάποιοι άνθρωποι λοιπόν θα τη δουν και μ’ αυτόν τον τρόπο.
– Βρήκα πολύ ενδιαφέρουσα τη σύνδεση που κάνετε στο βιβλίο σας ανάμεσα στην έννοια του φετιχισμού και της ΑΙ.
– Προφανώς δεν εφηύρα εγώ την έννοια. Ο Καρλ Μαρξ την πήρε από τον Φόιερμπαχ, μετά την πήρε ο Φρόιντ και πάει λέγοντας. Η βασική ιδέα εδώ είναι ο ανθρωπομορφισμός, που σημαίνει ότι αποδίδουμε ανθρώπινα χαρακτηριστικά, για παράδειγμα, στη γάτα μας. Της μιλάμε και νιώθουμε ότι μας μιλάει κι αυτή. Οι άνθρωποι το κάνουμε συνέχεια αυτό. Ο φετιχισμός είναι κάτι πιο συγκεκριμένο. Φετιχοποιούμε όταν παίρνουμε κάτι που το δημιουργήσαμε εμείς και στη συνέχεια το ανθρωπομορφοποιούμε. Το αντιμετωπίζουμε σαν να έχει δική του ζωή. Μέχρι στιγμής αυτό δεν αποτελεί πρόβλημα. Το πρόβλημα ξεκινάει όταν ξεχνάμε ότι εμείς είμαστε αυτοί που το φτιάξαμε, όταν ξεχνάμε ότι η πράξη που βλέπω στο ρομπότ μου ή στο αυτοκίνητό μου ή σε οτιδήποτε άλλο, δεν είναι δική του, όταν ξεχνάμε ότι ο λόγος που μπορεί να το κάνει αυτό είναι επειδή εμείς το φτιάξαμε κατ’ αυτόν τον τρόπο. Ο κίνδυνος του φετιχισμού είναι ότι βλάπτει την αυτογνωσία μου. Λέγοντας ότι η μηχανή έχει αυτενέργεια, συσκοτίζω τη δική μου αυτενέργεια. Ετσι χάνω κάτι. Σε αυτό αντιδρούσε ο Μαρξ όταν έλεγε ότι ο εργάτης δεν βλέπει ότι αυτός έφτιαξε το εμπόρευμα, και κατ’ επέκταση δεν αντιλαμβάνεται τη θέση του ως δρώντος μέσα στον κόσμο. Αυτή είναι μια μορφή παρανόησης του εαυτού μας. Η ΑΙ λειτουργεί έτσι, επειδή έχει εκπαιδευτεί με βάση τους ανθρώπινους πόρους. Και αν έχει εξουσία, είναι γιατί εμείς της τη δώσαμε.
– Ο Μαρξ έλεγε ότι η θρησκεία είναι το όπιο του λαού, μήπως είναι σήμερα η τεχνολογία το όπιο των μαζών;
– Eχει αυτή τη δυνατότητα, αλλά δεν συμφωνώ με τον Μαρξ. Δεν νομίζω ότι η θρησκεία ήταν το όπιο των μαζών. Αλλά, όταν η τεχνολογία γίνεται αντιπερισπασμός, μπορεί να μας αποσπάσει την προσοχή από τον πραγματικό κόσμο, όπως ακριβώς μπορεί να το κάνει και η διασκέδαση. Η διασκέδαση είναι καλή όσο διατηρούμε την αίσθηση της πραγματικότητας. Η τεχνολογία είναι σπουδαία όταν γνωρίζουμε τι είναι. Νομίζω ότι γίνεται επικίνδυνη όταν της δίνουμε περισσότερη εξουσία από όση της αξίζει. Ο άλλος κίνδυνος είναι ότι οι άνθρωποι ξεχνούν πολύ εύκολα ότι εφαρμογές σαν το ChatGPT δεν σχεδιάστηκαν γι’ αυτούς, αλλά προς όφελος της εταιρείας που τις κατασκεύασε, με βάση τα δικά της συμφέροντα. Οταν τις βλέπουμε σαν μια αυτόνομη οντότητα, είναι εύκολο να ξεχάσουμε ότι υπάρχει κάποιος πίσω από αυτές στη Σίλικον Βάλεϊ.
Οι άνθρωποι ξεχνούν ότι εφαρμογές σαν το ChatGPT δεν σχεδιάστηκαν γι’ αυτούς, αλλά προς όφελος της εταιρείας που τις κατασκεύασε. Οταν τις βλέπουμε σαν μια αυτόνομη οντότητα, είναι εύκολο να ξεχάσουμε ότι υπάρχει κάποιος πίσω από αυτές.
– Απ’ όσο καταλαβαίνω, λέτε ότι έχουμε ξαναβρεθεί εδώ, ότι δεν είναι η πρώτη φορά που αποδίδουμε εξουσία σε μη ανθρώπινα στοιχεία. Δεν υπάρχει τίποτα καινούργιο εδώ. Υπάρχει κάτι διαφορετικό τώρα που σας ανησυχεί;
– Ναι, υπάρχουν σίγουρα πράγματα που είναι καινούργια, αλλά υπάρχουν επίσης πράγματα που ενώ φαίνονται καινούργια, στην πραγματικότητα είναι γνωστά. Αυτή είναι η διαφορά. Δεν είναι ότι δεν υπάρχει τίποτα καινούργιο, αλλά δεν είναι όλα καινούργια. Οπως καταλαβαίνετε, με ανησυχούν πολλά. Δεν ξέρω καν από πού να αρχίσω. Θα ξεκινήσω, πάλι, με την πιο εύκολη απάντηση. Είμαι καθηγητής. Διδάσκω φοιτητές. Ανησυχώ πολύ βλέποντας ότι οι φοιτητές αναθέτουν στην τεχνητή νοημοσύνη τις εργασίες τους. Δεν τις γράφουν οι ίδιοι. Ο Πλάτωνας είπε ότι η γραφή θα καταστρέψει τη μνήμη μας. Είχε δίκιο. Εκανα την πρώτη μου επιτόπια έρευνα με ανθρώπους που δεν είχαν μάθει ανάγνωση και γραφή και είχαν πολύ πολύ καλύτερη μνήμη από εμένα. Οπότε ο Πλάτωνας είχε δίκιο. Αλλά αυτό σημαίνει ότι η γραφή δεν ήταν καλό πράγμα; Οχι. Πρέπει να καταλάβουμε ποια είναι τα οφέλη. Η κύρια ανησυχία μου είναι ότι μάλλον οι άνθρωποι θα δώσουν πολύ μεγάλη εξουσία σε αυτές τις συσκευές, οπότε θα τις εμπιστευθούν υπερβολικά. Νομίζω ότι πρέπει να χρησιμοποιείτε τις συσκευές για ό,τι είναι καλές και να αναγνωρίζετε τα όριά τους. Πιστεύω ότι οι άνθρωποι συχνά βιάζονται να τους δώσουν περισσότερη δύναμη από όση έχουν στην πραγματικότητα. Το αυτοκίνητό μου μπορεί να φτάσει τα 180 χλμ., αλλά αυτό δεν σημαίνει ότι πρέπει να το οδηγήσω έως αυτό το όριο. Νομίζω λοιπόν ότι πρέπει να αναγνωρίσουμε δύο πράγματα: πρέπει να ξέρουμε ποιες αποφάσεις δεν πρέπει να επιτρέψουμε στην ΑΙ να πάρει. Ενα καλό παράδειγμα είναι ο πόλεμος. Δεν πρέπει να επιτρέψουμε στην ΑΙ να λαμβάνει αποφάσεις για τη δολοφονία ανθρώπων. Δεύτερον, πρέπει να αναγνωρίσουμε πότε πρέπει να είμαστε εμείς υπεύθυνοι. Θα πρέπει να θυμόμαστε ότι τα πράγματα που προέρχονται από την ΑΙ προέρχονται τελικά από ανθρώπινες πηγές. Αυτή τη στιγμή το ChatGPT εκπαιδεύεται σε τεράστιες ποσότητες ανθρώπινης παραγωγής. Δεν τα επινόησε αυτά τα πράγματα. Απλώς, κάνει συναρμολογήσεις πραγμάτων που εμείς τοποθετήσαμε εκεί. Είναι πολύ σημαντικό να διατηρήσουμε μια ισχυρή αίσθηση της ευθύνης μας σε ό,τι κάνει η τεχνητή νοημοσύνη. Πρέπει να είμαστε εμείς στο τιμόνι.
Δεν συμφωνώ με τον Μαρξ. Δεν νομίζω ότι η θρησκεία ήταν το όπιο των μαζών. Αλλά όταν η τεχνολογία γίνεται αντιπερισπασμός, μπορεί να μας αποσπάσει την προσοχή από τον πραγματικό κόσμο.
– Διάβασα ένα άρθρο που δημοσιεύσατε το 2023 στο περιοδικό Spectator, με τον τίτλο «Από μηχανής θεός: ο κίνδυνος των θεϊκών μποτς ΑΙ». Γράφετε χαρακτηριστικά ότι δεν πρέπει να δώσουμε στην ΑΙ θεϊκή εξουσία να απαντάει στα ανθρώπινα διλήμματα.
– Αυτή τη στιγμή το ChatGPT έχει σχεδιαστεί για να σας δώσει μια απάντηση. Αυτό πρόκειται να αλλάξει. Στην πραγματικότητα, νομίζω ότι η DeepSeek από την Κίνα εργάζεται ήδη διαφορετικά. Αλλά δημιουργεί την ψευδαίσθηση ότι υπάρχει μια σωστή απάντηση σε κάθε ερώτηση. Και πρέπει να πω ότι οι πιο σημαντικές ερωτήσεις δεν έχουν μια σωστή απάντηση. Ενα από τα πράγματα σχετικά με τα ηθικά διλήμματα είναι ότι πρέπει να μιλάμε με άλλους ανθρώπους και να ακούμε πολλές διαφορετικές απόψεις και διαφορετικές γνώμες και να επεξεργαζόμαστε τα πράγματα. Το να πηγαίνουμε μόνο σε ένα πράγμα που θα μας πει ότι υπάρχει μια σωστή απάντηση είναι τρομερό λάθος. Αυτό με φέρνει λοιπόν σε μια τελευταία ανησυχία, η οποία είναι ότι όταν υπάρχουν νέες τεχνολογίες, οι άνθρωποι μερικές φορές τις χρησιμοποιούν ως μοντέλα για τη δική τους αυτογνωσία. Συμφωνώ απόλυτα με αυτό που διατύπωσε στο πρώιμο έργο της η Σέριλ Τερκλ, μία από τις πρώτες κοινωνιολόγους που μελέτησαν τις αλληλεπιδράσεις των ανθρώπων με τους υπολογιστές, ότι δηλαδή οι πρώτοι χρήστες άρχισαν να σκέφτονται το δικό τους μυαλό σαν να είναι υπολογιστής. Με άλλα λόγια, προβάλλουμε τη δική μας αντίληψη για το τι είναι ο άνθρωπος με βάση το τι νομίζουμε ότι είναι η μηχανή. Πιστεύω ότι αυτός είναι ένας ακόμη κίνδυνος και με την ΑΙ. Αυτοί οι τύποι στη Σίλικον Βάλεϊ είναι πολύ καλοί στα μαθηματικά και πολύ καλοί στο σκάκι. Πιστεύουν ότι βάσει αυτών των πεδίων μπορείς να μετρήσεις τις ικανότητες ενός ανθρώπου. Οι άνθρωποι που είναι καλοί στα μαθηματικά είναι πιο έξυπνοι από εκείνους που δεν είναι. Πρώτα απ’ όλα, αυτό είναι μια παρεξήγηση της νοημοσύνης, ένας πολύ στενός ορισμός της. Δεύτερον, χρησιμοποιούν τη νοημοσύνη ως μέτρο της ανθρώπινης ποιότητας. Οπότε υπάρχουν δύο πλάνες εκεί. Η μία είναι μια παρανόηση της νοημοσύνης και η δεύτερη είναι μια παρανόηση των ανθρωπίνων ιδιοτήτων. Και ο κίνδυνος είναι ότι σχεδιάζουν συσκευές που ενισχύουν αυτή την πολύ στενή άποψη για το τι είναι ο άνθρωπος, έτσι ώστε να υπάρχει πραγματικός κίνδυνος να αρχίσουμε να σκεφτόμαστε τους εαυτούς μας να μετράμε και να τους κρίνουμε χρησιμοποιώντας αυτά τα κριτήρια. Αυτός είναι ένας πραγματικός κίνδυνος.
