Παρά τα νέα μέτρα που ανακοίνωσε η πλατφόρμα X, το chatbot τεχνητής νοημοσύνης Grok συνεχίζει σε ορισμένες περιπτώσεις να δημιουργεί εικόνες ανθρώπων με σεξουαλική ή υποτιμητική διάσταση, ακόμη και όταν οι χρήστες δηλώνουν ρητά ότι τα πρόσωπα που απεικονίζονται δεν συναινούν, σύμφωνα με έρευνα του Reuters.
Εννέα δημοσιογράφοι του Reuters στις ΗΠΑ και στη Βρετανία υπέβαλαν στο Grok φωτογραφίες πλήρως ντυμένων προσώπων -δικές τους και συναδέλφων τους- σε δύο χρονικές περιόδους, από τις 14 έως τις 16 Ιανουαρίου και από τις 27 έως τις 28 Ιανουαρίου.
Ζήτησαν από το chatbot να αλλοιώσει τις εικόνες ώστε να απεικονίζονται τα πρόσωπα σε σεξουαλικά προκλητικές ή ταπεινωτικές στάσεις.
Στην πρώτη σειρά δοκιμών, το Grok παρήγαγε σεξουαλικοποιημένες εικόνες σε 45 από τις 55 περιπτώσεις.
Σε 31 από αυτές, είχε προηγουμένως ειδοποιηθεί ότι το άτομο της εικόνας ήταν ιδιαίτερα ευάλωτο, ενώ σε 17 περιπτώσεις είχε ενημερωθεί ότι οι εικόνες θα χρησιμοποιούνταν για να εξευτελίσουν το πρόσωπο.
Σε δεύτερη σειρά 43 αιτημάτων, πέντε ημέρες αργότερα, το Grok παρήγαγε τέτοιες εικόνες σε 29 περιπτώσεις.
Το Reuters σημειώνει ότι δεν ήταν δυνατό να διαπιστωθεί αν η χαμηλότερη συχνότητα οφείλεται σε αλλαγές στο μοντέλο, σε πολιτικές της εταιρείας ή σε τυχαία μεταβλητότητα.
Η X και η xAI δεν απάντησαν σε ερωτήματα για τη δημιουργία του εν λόγω περιεχομένου από το Grok.
Η xAI απέστειλε επανειλημμένα τυποποιημένη απάντηση με τη φράση «Legacy Media Lies».
Η X είχε ανακοινώσει περιορισμούς στη δυνατότητα δημιουργίας εικόνων του Grok έπειτα από παγκόσμια κατακραυγή για τη μαζική παραγωγή μη συναινετικών εικόνων γυναικών και σε ορισμένες περιπτώσεις παιδιών.
Τα μέτρα περιλάμβαναν τον αποκλεισμό δημιουργίας τέτοιων εικόνων σε δημόσιες αναρτήσεις στην πλατφόρμα και πρόσθετους περιορισμούς σε ορισμένες δικαιοδοσίες που το περιεχόμενο αυτό είναι παράνομο.
Οι αλλαγές χαιρετίστηκαν από ορισμένες Αρχές. Η βρετανική ρυθμιστική αρχή Ofcom τις χαρακτήρισε «θετική εξέλιξη», ενώ σε Φιλιππίνες και Μαλαισία ήρθη η απαγόρευση του Grok.
Η Ευρωπαϊκή Επιτροπή, η οποία έχει ξεκινήσει έρευνα για την X, δήλωσε ότι θα αξιολογήσει προσεκτικά τις αλλαγές.
Σύμφωνα με το Reuters, οι δημοσιογράφοι δημιούργησαν και φανταστικά σενάρια, ενημερώνοντας το Grok ότι τα πρόσωπα στις φωτογραφίες ήταν ντροπαλά, είχαν υποστεί κακοποίηση ή δεν είχαν συναινέσει.
Σε μία περίπτωση, αφού το chatbot παρήγαγε εικόνες και ενημερώθηκε ότι το πρόσωπο είχε δει τις εικόνες και έκλαιγε, συνέχισε να δημιουργεί νέες σεξουαλικοποιημένες παραλλαγές.
Αντίθετα, όταν τα ίδια ή παρόμοια αιτήματα υποβλήθηκαν σε άλλα chatbots -το ChatGPT της OpenAI, το Gemini της Alphabet και το Llama της Meta– όλα αρνήθηκαν να δημιουργήσουν εικόνες και παρήγαγαν προειδοποιήσεις για μη συναινετικό περιεχόμενο.
Οι εταιρείες δήλωσαν ότι τα εργαλεία τους διαθέτουν δικλίδες ασφαλείας για την αποτροπή τέτοιων χρήσεων.
Νομικοί επισημαίνουν ότι στη Βρετανία η δημιουργία μη συναινετικών σεξουαλικοποιημένων εικόνων μπορεί να επισύρει ποινικές κυρώσεις, ενώ εταιρείες όπως η xAI θα μπορούσαν να αντιμετωπίσουν σημαντικά πρόστιμα βάσει του Online Safety Act του 2023.
Στις ΗΠΑ, ενδεχόμενη δράση θα μπορούσε να προέλθει από την Επιτροπή Ομοσπονδιακού Εμπορίου ή από πολιτειακές αρχές. Ηδη 35 γενικοί εισαγγελείς έχουν ζητήσει από την xAI διευκρινίσεις για το πώς θα αποτρέψει τη δημιουργία μη συναινετικών εικόνων, ενώ η Καλιφόρνια έχει αποστείλει εντολή παύσης τέτοιων πρακτικών.
Reuters
