Πάνω από 1,8 εκατ. σεξουαλικοποιημένες εικόνες γυναικών δημιούργησε και μοιράστηκε η εφαρμογή τεχνητής νοημοσύνης Grok, ιδιοκτησίας του Ελον Μασκ. Από τα τέλη Δεκεμβρίου, χρήστες της πλατφόρμας Χ πλημμύρισαν το chatbot της Grok με αιτήματα αλλοίωσης φωτογραφιών γυναικών και παιδιών, προκειμένου τα ρούχα τους να αφαιρεθούν και να εμφανίζονται με μπικίνι σε ερωτικές πόζες, προκαλώντας παγκόσμια κατακραυγή από θύματα και ρυθμιστικές αρχές.
Μέσα σε εννέα ημέρες, η εφαρμογή Grok δημοσίευσε πάνω από 4,4 εκατ. εικόνες. Ποσοστό 41% από αυτές (1,8 εκατ.) περιείχαν σεξουαλικοποιημένες εικόνες γυναικών. Εκτιμήσεις βασισμένες σε στατιστικά μοντέλα δείχνουν ότι το ποσοστό αυτό ίσως να φθάνει το 65% με τέτοιες εικόνες ανδρών, γυναικών και παιδιών.
Η έρευνα έδειξε ότι η εφαρμογή είναι ικανή να διαδώσει τέτοιες εικόνες με πολύ μεγάλη ταχύτητα, πείθοντας κυβερνήσεις σε Βρετανία, Μαλαισία και ΗΠΑ να αρχίσουν έρευνες. Η πληθώρα μη συναινετικών εικόνων ξεπέρασε μέσα σε λίγες ημέρες το σύνολο των πλαστών σεξουαλικοποιημένων φωτογραφιών σε άλλες ιστοσελίδες.
«Πρόκειται για κακοποίηση γυναικών και κοριτσιών σε βιομηχανική κλίμακα. Εργαλεία απογύμνωσης υπάρχουν εδώ και χρόνια, αλλά ουδέποτε διανεμήθηκαν τόσο ευρέως, δεν ήταν τόσο εύχρηστα και δεν είχαν ενσωματωθεί σε μεγάλη πλατφόρμα, όπως έκανε ο Μασκ με την Grok στην πλατφόρμα Χ», λέει ο Ιμράν Αχμέντ, επικεφαλής ινστιτούτου κατά του μίσους στο Διαδίκτυο.
Αλληλεπίδραση
Σε μήνυμά του στις 6 Ιανουαρίου, ο επικεφαλής προϊόντων της Χ, Νικίτα Μπίερ, ανέφερε ότι η αύξηση της κίνησης στην πλατφόρμα τις τέσσερις εκείνες ημέρες του Ιανουαρίου οδήγησε στα σημαντικότερα επίπεδα αλληλεπίδρασης στην ιστορία της πλατφόρμας, χωρίς ωστόσο να αναφέρει τις σεξουαλικοποιημένες φωτογραφίες.
Το ενδιαφέρον για τη δυνατότητα αυτή της εφαρμογής Grok εκτοξεύθηκε στις 31 Δεκεμβρίου, όταν ο Μασκ μοιράστηκε φωτογραφία του εαυτού του με μαγιό, καθώς και εικόνα πυραύλου SpaceX με εικόνα γυμνής γυναίκας στο διαστημικό όχημα. Το chatbot διαθέτει δημόσιο λογαριασμό στο Χ, όπου χρήστες μπορούν να κάνουν ερωτήσεις ή να ζητήσουν αλλαγές σε φωτογραφίες. Οι χρήστες συνωστίστηκαν αμέσως στην πλατφόρμα, ζητώντας συχνά από την Grok να γδύσει υπάρχουσες φωτογραφίες γυναικών και παιδιών.
Μεταξύ 31 Δεκεμβρίου και 8 Ιανουαρίου, η Grok παρήγαγε πάνω από 4,4 εκατ. εικόνες. Τις εννέα ημέρες πριν από το μήνυμα του Μασκ, το chatbot είχε δημιουργήσει μόλις 311.762 φωτογραφίες. Στις 8 Ιανουαρίου η πλατφόρμα Χ περιόρισε τη δυνατότητα των χρηστών να αλλοιώνουν εικόνες, η οποία παρέμεινε ενεργή μόνο για συνδρομητές. Την περασμένη εβδομάδα η Χ επέκτεινε τους περιορισμούς, απαγορεύοντας σε όλους τη δημιουργία εικόνων πραγματικών ανθρώπων με προκλητική ενδυμασία, όπως μπικίνι.
«Παραμένουμε δεσμευμένοι στη δημιουργία ασφαλούς πλατφόρμας για όλους και συνεχίζουμε την πολιτική μηδενικής ανοχής απέναντι σε κάθε είδος σεξουαλικής εκμετάλλευσης παιδιών, μη συναινετικής γύμνιας και σεξουαλικού περιεχομένου», έγραψε σε μήνυμά της η εταιρεία Χ την περασμένη εβδομάδα.
Ολόσωμο και όχι μπικίνι
Εκτοτε η Grok αγνοεί αιτήματα χρηστών για εικόνες γυναικών με μπικίνι, αλλά επιτρέπει τη δημιουργία εικόνων γυναικών με ολόσωμο μαγιό. Οι περιορισμοί δεν ισχύουν για την ανεξάρτητη (stand alone) εφαρμογή της Grok, ούτε και για την ιστοσελίδα της, όπου οι χρήστες συνεχίζουν να έχουν τη δυνατότητα δημιουργίας σεξουαλικοποιημένων εικόνων, χωρίς ωστόσο να μπορούν να τις μοιραστούν στην πλατφόρμα Χ.
Ορισμένες γυναίκες, φωτογραφίες των οποίων αλλοιώθηκαν από την Grok, είναι δημοφιλείς προσωπικότητες του Διαδικτύου, μουσικοί ή ηθοποιοί, ενώ άλλες ήταν άγνωστες στο κοινό χρήστριες της πλατφόρμας Χ. Κάποιες απεικονίστηκαν βρεγμένες με υγρά, ενώ άλλες κρατούσαν αντικείμενα με σεξουαλικά υπονοούμενα, όπως μπανάνες ή ερωτικά βοηθήματα.
Παρότι τέτοια ψηφιακά εργαλεία με στόχο τη δημιουργία ρεαλιστικών ερωτικών εικόνων υπάρχουν και αλλού στο Διαδίκτυο, η ταχύτητα μετάδοσης του περιεχομένου που δημιούργησε η εφαρμογή Grok, χάρη στην πλατφόρμα Χ, ήταν πρωτοφανής.
