Μπορεί ένα έξυπνο πρόγραμμα τεχνητής νοημοσύνης ή ένα άλλου τύπου μη επανδρωμένο αυτόνομο εργαλείο να ξεφύγει από τον ανθρώπινο έλεγχο και να αρχίσει να κάνει «τα δικά του», ενδεχομένως στρέφοντας την υπολογιστική ισχύ του ή τα πυρά του ακόμη και εναντίον των ανθρώπων που το δημιούργησαν; Το σενάριο το έχουμε δει να «παίζεται» κατ’ επανάληψιν τις περασμένες δεκαετίες σε βιβλία, κινηματογραφικές ταινίες και τηλεοπτικές σειρές. Οσα όμως άλλοτε περιορίζονταν στο πεδίο της επιστημονικής φαντασίας, πλέον έχουν αρχίσει να γίνονται πραγματικότητα· μια πραγματικότητα που γεννάει ανησυχίες αναφορικά με όσα πρόκειται να κληθεί η ανθρωπότητα να αντιμετωπίσει στο –όπως φαίνεται– όχι και τόσο μακρινό μέλλον.
Η εταιρεία OpenAI, γνωστή διεθνώς ως δημιουργός του γλωσσικού μοντέλου ChatGPT, παραδέχθηκε ότι ένα από τα προγράμματά της προκάλεσε «από μόνο του» πρωτοφανή και ως εκ τούτου κάθε άλλο παρά ασήμαντη κυβερνοεπίθεση/κυβερνοπαραβίαση. Συγκεκριμένα, με βάση όσα αναφέρουν οι Financial Times, η OpenAI ανακοίνωσε ότι ένα δικό της πρόγραμμα τεχνητής νοημοσύνης –που μπορεί να λειτουργεί μόνο του με βάση ανθρώπινες οδηγίες– διέφυγε από το περιβάλλον των δοκιμών, απέκτησε πρόσβαση στο Διαδίκτυο και έκλεψε διαπιστευτήρια σύνδεσης χακάροντας μια νεοσύστατη εταιρεία, τη Hugging Face. «Ενα πρόγραμμα της OpenAI ανακάλυψε νέα τρωτά σημεία και χάκαρε από μόνο του μια εταιρεία, σε ένα από τα πρώτα δημόσια παραδείγματα κυβερνοεπίθεσης από σύστημα τεχνητής νοημοσύνης που δρα εκτός ανθρώπινου ελέγχου», σχολιάζουν οι FT.
Βρήκε τρωτά σημεία
«Το εν λόγω πρόγραμμα δοκιμαζόταν σε ελεγχόμενο περιβάλλον, αλλά βρήκε τρωτά σημεία και κατάφερε να διαφύγει, προτού βάλει στο στόχαστρο τη Hugging Face, επιχείρηση τεχνητής νοημοσύνης που φιλοξενεί μοντέλα και βάσεις δεδομένων για προγραμματιστές, αποκτώντας πρόσβαση σε ορισμένα από τα εσωτερικά συστήματά της», εξηγεί στο δικό του δημοσίευμα το BBC. «Είναι απίστευτο ότι όλα αυτά τα έκανε αυτόνομα», σημειώνει σε ανάρτησή του ο Κλεμ Ντελάνγκ, διευθύνων σύμβουλος της Hugging Face, αναφερόμενος στις επιθέσεις που δέχθηκαν τα συστήματα της εταιρείας του από το πρόγραμμα τεχνητής νοημοσύνης της OpenAI.
Σύμφωνα με την Τζίνα Νεφ, επικεφαλής του Κέντρου Τεχνολογίας και Δημοκρατίας Minderoo στο Πανεπιστήμιο του Κέμπριτζ, το ελεγχόμενο περιβάλλον μέσα στο οποίο γίνονταν οι δοκιμές του εν λόγω προγράμματος ίσως να μην είναι τελικά επαρκώς ασφαλές και ελεγχόμενο. Το συγκεκριμένο πρόγραμμα βρήκε ευπάθειες που του επέτρεψαν να διαφύγει. Εν συνεχεία, μόλις βγήκε στον έξω κόσμο, αναγνώρισε τα συστήματα της Hugging Face ως πιθανή πηγή των απαντήσεων που αναζητούσε στο πλαίσιο των προηγούμενων τεστ και προσπάθησε να αποκτήσει πρόσβαση σε αυτά. Ειδικός ο οποίος μίλησε στον βρετανικό Guardian υποστηρίζει ότι το πρόγραμμα της OpenAI έδρασε «σαν πραγματικός χάκερ», χρησιμοποιώντας κλεμμένα διαπιστευτήρια για πρόσβαση στα συστήματα της βάσης δεδομένων της Hugging Face.
Ο Νιλ Λόρενς, καθηγητής Μηχανικής Μάθησης στο Πανεπιστήμιο του Κέμπριτζ, χαρακτήρισε το συμβάν «εντυπωσιακό κατόρθωμα», πλην όμως προειδοποίησε ότι αυτό «εμπίπτει στις γνωστές δυνατότητες της τρέχουσας γενιάς» μοντέλων τεχνητής νοημοσύνης. Ο ίδιος προχώρησε, ωστόσο, βαθύτερα στην ανάλυσή του, υποστηρίζοντας ότι η OpenAI τρέχει να προλάβει την πρωτοπόρο Anthropic, που προσείλκυσε πρόσφατα τα φώτα διεθνούς δημοσιότητας με δικά της μοντέλα, όπως τα Claude Mythos. Ο Τζέικ Μουρ, σύμβουλος στην εταιρεία κυβερνοασφάλειας ESET, υποστηρίζει ότι οι τελευταίες ανακοινώσεις εκ μέρους της OpenAI μπορεί να έχουν όντως μια τέτοιου τύπου ανταγωνιστική διάσταση επίδειξης δυνατοτήτων και προβολής έναντι της Anthropic.
Από την πλευρά της, πάντως, ρίχνοντας λάδι στη φωτιά των ανησυχιών που έχουν ήδη αρχίσει να γιγαντώνονται διεθνώς γύρω από τις δυνητικά ανεξέλεγκτες διαστάσεις και δυνατότητες της τεχνητής νοημοσύνης, η OpenAI προειδοποίησε ότι τέτοιου είδους περιστατικά αναμένεται να αποκτήσουν μεγαλύτερη συχνότητα καθώς αναπτύσσονται μοντέλα τεχνητής νοημοσύνης τα οποία είναι ικανά να εντοπίζουν ευπάθειες σε συστήματα και να φέρουν εις πέρας κυβερνοεπιθέσεις.
Προειδοποιήσεις ότι περιστατικά «αυτόνομης» συμπεριφοράς αναμένεται να γίνουν συχνότερα, καθώς αναπτύσσονται πιο εξελιγμένα μοντέλα τεχνητής νοημοσύνης.
Ενδεικτικά, μόλις πριν από λίγες ημέρες, η κινεζική εταιρεία τεχνητής νοημοσύνης Moonshot παρουσίασε το Kimi K3 – ένα νέο μοντέλο τεχνητής νοημοσύνης που λέγεται πως θα μπορούσε να ανταγωνιστεί τα μοντέλα των κορυφαίων αμερικανικών εταιρειών.
Προβληματισμοί
Σε κάθε περίπτωση, το περιστατικό με το πρόγραμμα της OpenAI που διέφυγε και άρχισε να χακάρει άλλα συστήματα κατά τρόπο «αυτόνομο», ήρθε να προκαλέσει νέα ερωτήματα σχετικά με τις δυνατότητες των προηγμένων συστημάτων τεχνητής νοημοσύνης και το κατά πόσον τα υπάρχοντα μέτρα ασφαλείας είναι επαρκή απέναντι σε αυτές τις πρωτοφανών δυνατοτήτων τεχνολογίες που αναπτύσσονται με ραγδαίο ρυθμό.
Ο Σπένσερ Στάρκεϊ, στέλεχος της εταιρείας κυβερνοασφάλειας SonicWall, δήλωσε στο BBC ότι οργανισμοί και εταιρείες πρέπει να «ενισχύσουν» τις δικές τους άμυνες και να «αντιμετωπίσουν την κυβερνοανθεκτικότητα ως βασική επιχειρησιακή προτεραιότητα».
«Η δυσάρεστη αλήθεια είναι ότι πάρα πολλοί οργανισμοί εξακολουθούν να αμύνονται με ανθρώπινη ταχύτητα, ενώ οι αντίπαλοί τους κλιμακώνουν με ταχύτητα μηχανής», είπε, ενώ ο Τράβις Λελ, μηχανικός ασφαλείας στην εταιρεία συμβούλων κυβερνοασφάλειας Guidepoint Security, χαρακτήρισε «σοκαριστική στιγμή για την κυβερνοασφάλεια» την είδηση για το πρόγραμμα της OpenAI που διέφυγε από τον ανθρώπινο έλεγχο και άρχισε να χακάρει.
«Τα αυτόνομα, καθοδηγούμενα από την τεχνητή νοημοσύνη επιθετικά εργαλεία δεν ανήκουν πια στη σφαίρα της θεωρίας», υπογραμμίζει σε ανακοίνωσή της, κρούοντας τον κώδωνα του κινδύνου, η εταιρεία Hugging Face.
Ολα αυτά, πάντως, συμβαίνουν σε μια περίοδο κατά την οποία εντείνονται διεθνώς οι ανησυχίες για τις δυνητικά ανεξέλεγκτες «επιθέσεις» συστημάτων ΑΙ σε ψηφιακές υποδομές και τα σενάρια υπονόμευσης του ιδίου του ανθρώπινου ελέγχου από τέτοιου τύπου συστήματα, όπως αναφέρουν οι FT. Αξίζει να σημειωθεί, δε, ότι κατά σύμπτωση ο διευθύνων σύμβουλος της OpenAI Σαμ Αλτμαν πρόκειται να μεταβεί στην Ουάσιγκτον την επόμενη εβδομάδα για να ενημερώσει την κυβέρνηση των ΗΠΑ σχετικά με τις επερχόμενες γενιές μοντέλων τεχνητής νοημοσύνης.
Πόσο πιθανό είναι η τεχνητή νοημοσύνη να αποκτήσει συνείδηση
Θα μπορούσε, άραγε, η τεχνητή νοημοσύνη στο μέλλον να αποκτήσει δική της συνείδηση; Το ερώτημα, που είχε διατυπωθεί παλαιότερα για τα ρομπότ, μεταξύ πολλών άλλων, στο πλαίσιο σεναρίων επιστημονικής φαντασίας και όχι μόνον, επιστρέφει δυναμικά στο προσκήνιο, την ώρα που εκατομμύρια άνθρωποι ανά την υφήλιο «συνομιλούν» καθημερινά –επί παντός επιστητού– με μεγάλα γλωσσικά μοντέλα, εργαλεία δηλαδή παραγωγικής τεχνητής νοημοσύνης τα οποία τους απαντούν «σαν άνθρωποι», φαινομενικά έστω. Εάν όμως αυτά τα προγράμματα της ΑΙ έχουν φτάσει στο σημείο να «μιλούν» και να «γράφουν» σαν άνθρωποι, γιατί να μην περάσουν και στο επόμενο στάδιο της ικανότητας σκέψης ενός υποκειμένου με αυτοσυνειδησία; Ως προς αυτό, οι απόψεις διίστανται, προς το παρόν τουλάχιστον.
«Θα μπορούσε η τεχνητή νοημοσύνη να έχει συνείδηση;», διερωτάται, σε μακροσκελές δημοσίευμά του ο βρετανικός Guardian. «Οχι, η τεχνητή νοημοσύνη δεν έχει συνείδηση», έγραφε προ μηνών ο Τεντ Τσιάνγκ στις σελίδες του αμερικανικού περιοδικού Atlantic. Οπως προαναφέρθηκε, ωστόσο, αναφορικά με αυτό το ενδεχόμενο οι απόψεις διίστανται. «Τα σύγχρονα συστήματα τεχνητής νοημοσύνης είναι εξαιρετικά πολύπλοκα και εξελίσσονται γρήγορα. Οσον αφορά τη δομική πολυπλοκότητα και την υπολογιστική κλίμακα, με βάση ορισμένα μέτρα, μερικά βρίσκονται ήδη στο εύρος ενός εγκεφάλου ποντικού και, με τους πρόσφατους ρυθμούς ανάπτυξης, θα μπορούσαν να φτάσουν στο εύρος ενός ανθρώπινου εγκεφάλου μέσα σε πέντε έως δέκα χρόνια», γράφουν οι Γουίλιαμ ΜακΑσκιλ και Λούτσιους Καβιόλα στον Guardian. Ωστόσο, «οικοδομώντας ολοένα και πιο προηγμένη τεχνητή νοημοσύνη, μπορεί να δημιουργούμε ένα νέο είδος όντος – και αυτό θα μπορούσε να είναι το πιο σημαντικό πράγμα που έχει κάνει ποτέ το είδος μας, σημειώνουν, υπογραμμίζοντας ότι προς το παρόν «δεν έχουμε κανένα σχέδιο για το πώς θα μπορούσαμε να διαχειριστούμε αυτή τη διαδικασία από ηθικής πλευράς». «Βρισκόμαστε σε μια δύσκολη θέση, στο πλαίσιο της οποίας ούτε θέλουμε να υπερεκτιμήσουμε την πιθανότητα ηθικής υπόστασης του Claude ούτε να την απορρίψουμε», σημείωνε σε κείμενό της η εταιρεία ΑΙ Anthropic, αναφερόμενη στο μοντέλο Claude. Σε ανάλογο πνεύμα, ο διευθύνων σύμβουλος της Anthropic, Ντάριο Αμοντέι, είπε σε ένα podcast ότι η εταιρεία του δεν μπορεί να αποκλείσει το ενδεχόμενο το Claude να έχει συνείδηση. Από την πλευρά του, ο Αυστραλός φιλόσοφος Ντέιβιντ Τσάλμερς έχει υποστηρίξει ότι υπάρχει σημαντική πιθανότητα μεγάλα γλωσσικά μοντέλα να έχουν αυτοσυνειδησία μέσα στην επόμενη δεκαετία. Σύμφωνα με έρευνες που επικαλείται ο Guardian, πολλοί ειδικοί θεωρούν εφικτή την αυτοσυνειδησία της τεχνητής νοημοσύνης, αν και υπάρχει σημαντική διαφωνία σχετικά με τη μορφή που αυτή θα λάβει. Ενδεικτικά, σύμφωνα με έκθεση ομάδας επιστημόνων στην οποία συμμετείχε ο πρωτοπόρος Γιόσουα Μπέντζιο, δεν υπάρχουν προφανή τεχνικά εμπόδια στη δημιουργία συστημάτων τεχνητής νοημοσύνης των οποίων τα υπολογιστικά και αρχιτεκτονικά χαρακτηριστικά θα μπορούσαν να οδηγήσουν στην ανάπτυξη συνείδησης.
