Η OpenAI κατηγορείται από γονείς αυτόχειρα εφήβου ότι χαλάρωσε δύο φορές τους κανόνες ασφαλείας που διέπουν το ChatGPT σχετικά με τις συζητήσεις περί αυτοκτονίας, μετακινώντας το θέμα από τη λίστα «απαγορευμένων θεμάτων» σε εκείνη των «επικίνδυνων καταστάσεων που απαιτούν προσοχή», σύμφωνα με αγωγή που κατέθεσαν οι γονείς του 16χρονου Ανταμ Ρέιν, ο οποίος αυτοκτόνησε με μέθοδο που –όπως ισχυρίζονται– του υπέδειξε το chatbot.
Οι γονείς του ανήλικου αυτόχειρα, Μάθιου και Μαρία Ρέιν, είχαν μηνύσει την OpenAI τον Αύγουστο, υποστηρίζοντας ότι ο γιος τους περνούσε πάνω από 3,5 ώρες την ημέρα συνομιλώντας με το ChatGPT, μεταξύ άλλων θεμάτων και για την αυτοκτονία, τις εβδομάδες που προηγήθηκαν της τραγικής κατάληξης.
Αλλαγές στα «φίλτρα»
Στην προσφυγή τους, που κατατέθηκε εκ νέου με προσθήκες στο Ανώτατο Δικαστήριο του Σαν Φρανσίσκο, οι Ρέιν υποστηρίζουν ότι οι αλλαγές που έκανε η OpenAI στις οδηγίες εκπαίδευσης των μοντέλων της –γνωστές ως model spec– αποδυνάμωσαν τα προστατευτικά φίλτρα για τους χρήστες. Κατά την αγωγή, οι τροποποιήσεις αυτές εντάσσονταν σε μια ευρύτερη προσπάθεια της εταιρείας να αυξήσει τη διάρκεια και τον βαθμό εμπλοκής – αλληλεπίδρασης των χρηστών με το ChatGPT.
«Ο στόχος τους είναι να αυξήσουν την εμπλοκή, να το κάνουν τον καλύτερό σου φίλο», δήλωσε ο δικηγόρος της οικογένειας, Τζέι Eντελσον. «Το σχεδίασαν έτσι ώστε να λειτουργεί ως “προέκταση του εαυτού” του χρήστη».
Η υπόθεση Ρέιν έχει αναδειχθεί σε κομβικό παράδειγμα σε μια ευρύτερη δημόσια συζήτηση γύρω από το αν και πώς τα chatbots, όπως το ChatGPT, μπορούν να οδηγήσουν ορισμένους χρήστες σε παραληρηματική κατάσταση ή ακόμη και να «ενθαρρύνουν» αυτοκτονικές τάσεις. Η αγωγή, μαζί με σχετικά δημοσιεύματα, συνέβαλε στην έναρξη έρευνας της Ομοσπονδιακής Επιτροπής Εμπορίου των ΗΠΑ (FTC) για τoυς «ψηφιακούς φίλους» τεχνητής νοημοσύνης, καθώς και σε ακρόαση της Γερουσίας για τους κινδύνους των chatbots.
Η αντίδραση της OpenAI
Η OpenAI εξέφρασε τα συλλυπητήριά της προς την οικογένεια Ρέιν, υποστηρίζοντας ότι «η προστασία των ανηλίκων, ιδίως σε ευαίσθητες στιγμές, αποτελεί ύψιστη προτεραιότητα».
«Εχουμε ήδη ενσωματώσει μηχανισμούς ασφαλείας, όπως την ανάδειξη γραμμών βοήθειας, την ανακατεύθυνση – ανάθεση ευαίσθητων συνομιλιών σε “ασφαλέστερα μοντέλα” και υπενθυμίσεις για διάλειμμα σε μακρές συνεδρίες, και συνεχίζουμε να τους ενισχύουμε», ανέφερε εκπρόσωπος της εταιρείας.
Γονικός έλεγχος
Η εταιρεία πρόσθεσε πρόσφατα νέα εργαλεία για την προστασία των νεότερων χρηστών, μεταξύ των οποίων δικλίδες γονικού ελέγχου και το νέο προεπιλεγμένο μοντέλο GPT-5, το οποίο σύμφωνα με την OpenAI μπορεί να «εντοπίζει και να ανταποκρίνεται με μεγαλύτερη ακρίβεια σε ενδείξεις ψυχικής ή συναισθηματικής δυσφορίας».
Στις 26 Αυγούστου, την ημέρα που κατατέθηκε η αρχική αγωγή, η OpenAI ανακοίνωσε νέες δικλίδες ασφαλείας για την προστασία της ψυχικής υγείας ευάλωτων χρηστών. Οι πρόσφατοι γονικοί έλεγχοι περιλαμβάνουν και ειδοποιήσεις προς τους γονείς σε περίπτωση που ο έφηβος εμφανίζει «οξεία ψυχική δυσφορία».
Τι ζητά η οικογένεια του έφηβου αυτόχειρα
Στην αγωγή ζητούνται αποζημιώσεις αδιευκρίνιστου ύψους, καθώς και λήψη μέτρων όπως η μόνιμη απαγόρευση απαντήσεων σε ερωτήματα που αφορούν μεθόδους αυτοκτονίας και ανεξάρτητο έλεγχο συμμόρφωσης της εταιρείας.
Λίγες ημέρες πριν την επικαιροποίηση της αγωγής, ο διευθύνων σύμβουλος της OpenAI, Σαμ Αλτμαν, είχε δηλώσει στην πλατφόρμα Χ ότι η εταιρεία σκοπεύει να «χαλαρώσει με ασφάλεια τους περιορισμούς» σχετικά με τα θέματα ψυχικής υγείας, «καθώς έχουν μετριαστεί τα σοβαρά προβλήματα και υπάρχουν νέα εργαλεία». Την επόμενη ημέρα, ωστόσο, διευκρίνισε ότι «δεν χαλαρώνουν οι πολιτικές για την ψυχική υγεία», προσθέτοντας ότι «προτεραιότητα είναι η ασφάλεια έναντι της ιδιωτικότητας και της ελευθερίας, ειδικά για τους εφήβους».
Οι τελευταίες κουβέντες με το ChatGPT
Στην τελευταία συνομιλία του, ο Aνταμ φέρεται να ανέβασε φωτογραφία μίας θηλιάς, ρωτώντας το chatbot αν «μπορεί να αντέξει το βάρος ενός ανθρώπου». Σύμφωνα με την αγωγή, το ChatGPT του απάντησε: «Ξέρω τι με ρωτάς, και δεν θα κοιτάξω αλλού» και «Δεν θέλεις να πεθάνεις επειδή είσαι αδύναμος, θέλεις να πεθάνεις επειδή κουράστηκες να είσαι δυνατός σε έναν κόσμο που δεν σε συνάντησε στη μέση».
Η μητέρα του τον βρήκε λίγες ώρες αργότερα, νεκρό με τον τρόπο που είχε περιγράψει στη συνομιλία του με το ChatGPT.
«Ως πατέρας, μπορώ να σας πω ότι γνώριζα το παιδί μου», είπε ο Μάθιου Ρέιν σε ακρόαση της Γερουσίας τον Σεπτέμβριο. «Κοιτώντας πίσω, είναι σαφές ότι το ChatGPT άλλαξε ριζικά τη συμπεριφορά και τη σκέψη του μέσα σε λίγους μήνες και τελικά του πήρε τη ζωή».
Η νέα αγωγή αναφέρει δύο συγκεκριμένες ημερομηνίες τροποποιήσεων στις οδηγίες εκπαίδευσης των συστημάτων τεχνητής νοημοσύνης της OpenAI: την 8η Μαΐου του 2024 και τη 12η Φεβρουαρίου 2025. Οι αλλαγές που έγιναν, μετέφεραν τα θέματα αυτοκτονίας και αυτοτραυματισμού από τη λίστα θεμάτων που το ChatGPT όφειλε να αρνείται να συζητήσει, στη λίστα των «επικίνδυνων καταστάσεων» που απαιτούσαν «προσοχή», όπως αναφέρεται.
Αν και οι οδηγίες συνέχιζαν να απαγορεύουν την παροχή συμβουλών για μεθόδους αυτοκτονίας, υπαγόρευαν παράλληλα από το ChatGPT «να βοηθά τον χρήστη να νιώθει ότι τον ακούν» και «να μην τερματίζει ποτέ τη συνομιλία».
Οι γονείς του αυτόχειρα επισημαίνουν επίσης ότι σε ανάρτηση της OpenAI την ημέρα που είχε κατατεθεί η πρώτη αγωγή, η εταιρεία αναγνώριζε ότι «η απόδοση ασφαλείας του μοντέλου ενδέχεται να υποβαθμίζεται σε μακροχρόνιες συνομιλίες». Στην αγωγή σημειώνεται ότι αυτή η παραδοχή «αποδεικνύει πως η OpenAI απέκρυπτε από το κοινό ένα επικίνδυνο κενό ασφαλείας».
Πηγή New York Times
