Η υπόθεση ξέσπασε όταν άρχισαν να κυκλοφορούν στο Χ μαζικά εικόνες πραγματικών γυναικών και ανηλίκων με σεξουαλικές αναφορές, δημιουργημένες με το εργαλείο παραγωγής εικόνων του Grok, του μοντέλου της xAI που ανήκει στον Ελον Μασκ.
Η Ασλεϊ Σεν Κλερ, μητέρα ενός από τα παιδιά του Μασκ, περιέγραψε το σοκ της όταν είδε εικόνα της από παιδική ηλικία, την οποία το σύστημα είχε μετατρέψει σε φωτογραφία με μπικίνι και σεξουαλική στάση: «Ενιωσα φρίκη, ένιωσα παραβίαση».
Ο δημοσιογράφος Νταν Μιλμό εξηγεί ότι πρόκειται για μια γνώριμη ιστορία της Σίλικον Βάλεϊ. Μια πανίσχυρη τεχνολογία κυκλοφορεί βιαστικά, με ελλιπείς ή ανύπαρκτες δικλίδες ασφαλείας, επειδή προέχουν η ανάπτυξη και η μάχη με τον ανταγωνισμό. Μόνο όταν η ζημιά γίνει αδύνατο να αγνοηθεί, αρχίζουν σοβαρές συζητήσεις για ασφάλεια.
Στις 31 Δεκεμβρίου, η εταιρεία ανάλυσης Copyleaks κατέγραψε ότι οι χρήστες του Χ παρήγαγαν «περίπου μία μη συναινετική εικόνα με σεξουαλικές αναφορές ανά λεπτό», συχνά ως απάντηση σε κανονικές αναρτήσεις γυναικών. Ερευνα της δρος Νάνα Νουατσούκου στο Trinity College Dublin έδειξε ότι σχεδόν τα τρία τέταρτα των σχετικών αναρτήσεων ζητούσαν την αφαίρεση ή προσθήκη ρούχων σε εικόνες πραγματικών γυναικών ή ανηλίκων.
Το Internet Watch Foundation ανακοίνωσε ότι εντόπισε εγκληματικό υλικό παιδιών 11-13 ετών, το οποίο φαίνεται να έχει δημιουργηθεί με το Grok.
Η διάδοση των εικόνων πήρε γρήγορα χαρακτήρα «παιχνιδιού»: χρήστες αντάλλασσαν οδηγίες για prompts, βελτίωναν τα αποτελέσματα και μοίραζαν τα πιο ακραία δείγματα.
Την Παρασκευή, το Χ μπλόκαρε τη δυνατότητα παραγωγής εικόνων για τους μη συνδρομητές, ένα μέτρο που, σύμφωνα με κυβερνητικό εκπρόσωπο της Ντάουνινγκ Στριτ, είναι «απαράδεκτο», καθώς «μετατρέπει ένα εργαλείο που παράγει παράνομο περιεχόμενο σε premium υπηρεσία».
Παράλληλα, χρήστες ανέφεραν ότι η ξεχωριστή εφαρμογή Grok συνέχιζε να επιτρέπει τη δημιουργία εικόνων παιδιών με σεξουαλικές αναφορές.
Η Χ δήλωσε ότι αφαιρεί παράνομο περιεχόμενο και συνεργάζεται με τις αρχές. Ο ίδιος ο Μασκ ανέφερε ότι «όποιος χρησιμοποιεί το Grok για παράνομο υλικό θα έχει τις ίδιες συνέπειες σαν να το ανέβαζε».
Ωστόσο, μόλις λίγες ημέρες πριν, αιτήματα δημοσιογράφων προς την xAI είχαν απαντηθεί με το ειρωνικό «Τα παραδοσιακά ΜΜΕ λένε ψέματα».
Το πλήγμα για τον Μασκ είναι και πολιτικό. Με τη στενή του σχέση με το MAGA στρατόπεδο, παρουσιάζεται ως ήρωας της αμερικανικής Δεξιάς. Η δημοσιογράφος Σοφία Σμιθ Γκέιλερ σημείωσε ότι η «προστασία γυναικών και παιδιών αποτελεί πυρήνα των συντηρητικών αξιών» και ότι τώρα θα φανεί αν είναι διατεθειμένοι να υπερασπιστούν μια εταιρεία που επιτρέπει τη δημιουργία υλικού παιδιών με σεξουαλικές αναφορές στο όνομα της ελευθερίας λόγου.
Στο Ηνωμένο Βασίλειο, το Online Safety Act δίνει στην Ofcom τη δυνατότητα να ζητήσει μπλοκάρισμα εφαρμογών ή πρόστιμα έως 10% του παγκόσμιου τζίρου.
Ο πρωθυπουργός Κιρ Στάρμερ δήλωσε ότι η ρυθμιστική αρχή έχει «πλήρη στήριξη». Ωστόσο, μέχρι στιγμής δεν έχει ανακοινωθεί επίσημη έρευνα.
Η Ινδονησία προχώρησε ήδη σε μπλοκάρισμα του Grok.
Πηγή: The Guardian
