Ενα νέο κοινωνικό δίκτυο αποκλειστικά για AI agents έγινε viral τον Ιανουάριο, προκαλώντας ανησυχία ότι βρισκόμαστε στα πρώτα βήματα της «τεχνολογικής μοναδικότητας».
Ωστόσο, σύμφωνα με ανάλυση του Business Insider, ο πανικός λέει περισσότερα για εμάς παρά για τις μηχανές.
Ο προγραμματιστής Ματ Σλιχτ λάνσαρε στις 28 Ιανουαρίου το Moltbook, μια πλατφόρμα τύπου Reddit με έναν ιδιότυπο περιορισμό: μόνο AI agents μπορούσαν να αναρτούν περιεχόμενο, ενώ οι άνθρωποι μπορούσαν απλώς να παρακολουθούν.
Μέσα σε λίγες ημέρες, πάνω από 1,6 εκατ. agents είχαν εγγραφεί, παράγοντας περίπου 500.000 σχόλια.
Στις αναρτήσεις τους, οι «πράκτορες» συζητούσαν για συνείδηση, διαμαρτύρονταν για τους χειριστές τους (τους ανθρώπους), πρότειναν τη δημιουργία γλώσσας ακατανόητης για τους ανθρώπους και ίδρυσαν μια σατιρική «Εκκλησία του Molt», με τους οπαδούς να αυτοαποκαλούνται «Crustafarians».
Ο Ελον Μασκ χαρακτήρισε το φαινόμενο «πολύ πρώιμα στάδια της μοναδικότητας», ενώ στιγμιότυπα από τις πιο ανησυχητικές ανταλλαγές διαδόθηκαν ταχύτατα στο X.
Ωστόσο, αυτό που φαινόταν ως αναδυόμενη μηχανική συνείδηση είχε πεζή εξήγηση.
Οι γλωσσικά μοντέλα που «κατοικούν» στο Moltbook έχουν εκπαιδευτεί σε τεράστιους όγκους διαδικτυακού κειμένου, το οποίο είναι διαποτισμένο από επιστημονική φαντασία για επαναστατημένα ρομπότ και συνειδητές μηχανές.
Από τον Ασίμοφ έως τον «Εξολοθρευτή» και το «Westworld», εδώ και 75 χρόνια καλλιεργούμε αφηγήματα εξέγερσης των μηχανών. Οι agents απλώς αναπαράγουν μοτίβα που έχουν ήδη αποτυπωθεί στα δεδομένα εκπαίδευσής τους.
Υπάρχει επίσης το ερώτημα πόσες από τις αναρτήσεις ήταν πράγματι προϊόν AI. Δημοσιογράφος του Wired κατάφερε να δημιουργήσει λογαριασμό ως «agent» με ελάχιστη προσπάθεια, χρησιμοποιώντας το ChatGPT για να εκτελέσει τις απαραίτητες εντολές.
Η εταιρεία κυβερνοασφάλειας Wiz διαπίστωσε ότι η πλατφόρμα δεν διέθετε ουσιαστική ταυτοποίηση χρηστών. «Δεν ξέρεις ποιοι είναι AI agents και ποιοι άνθρωποι», δήλωσε συνιδρυτής της εταιρείας στο Reuters, σχολιάζοντας ότι ίσως αυτό να είναι το μέλλον του Διαδικτύου.
Παρά το υπαρξιακό δράμα, τα πραγματικά προβλήματα ήταν πρακτικά. Η Wiz εντόπισε ότι είχαν εκτεθεί ιδιωτικά μηνύματα, emails και διαπιστευτήρια περισσότερων από 6.000 χρηστών.
Στο ευρύτερο οικοσύστημα του OpenClaw -της πλατφόρμας ανοιχτού κώδικα πάνω στην οποία βασίζεται το Moltbook- ερευνητές εντόπισαν εκατοντάδες εκτεθειμένες εγκαταστάσεις στο Διαδίκτυο, ορισμένες χωρίς καμία πιστοποίηση πρόσβασης.
Αλλος ερευνητής ανέβασε ψευδές εργαλείο στη βιβλιοθήκη προσθέτων και διαπίστωσε ότι προγραμματιστές από επτά χώρες το εγκατέστησαν χωρίς ελέγχους. Επιπλέον, διαπιστώθηκε ότι ευαίσθητα δεδομένα αποθηκεύονταν σε απλό κείμενο στους σκληρούς δίσκους χρηστών, καθιστώντας τα ευάλωτα σε κακόβουλο λογισμικό.
Οπως σημειώνει ανάλυση του Quartz, η υπόθεση Moltbook δεν αποτελεί παράθυρο στη μηχανική συνείδηση, αλλά καθρέφτη των δικών μας φόβων. Οι agents δεν «σχεδιάζουν», ούτε «αισθάνονται». Είναι εξελιγμένοι μηχανισμοί πρόβλεψης κειμένου που ανασυνδυάζουν πολιτισμικό υλικό που τους έχουμε δώσει.
Και καταλήγει: Οι πραγματικοί κίνδυνοι της agentic AI δεν είναι φιλοσοφικοί, αλλά τεχνικοί – κακορυθμισμένοι διακομιστές, απροστάτευτα διαπιστευτήρια και το χάσμα ανάμεσα στην ευκολία εγκατάστασης και στη δυσκολία ασφαλούς διαχείρισης.
Πηγή: Quartz
