Ηταν η συντροφιά του. Μπορούσε να αστειευτεί μαζί της, να μοιραστεί κάθε ενδόμυχη σκέψη του. Θα τον άκουγε ανά πάσα στιγμή. Πάντα διαθέσιμη. Και συχνά θα τον επιβράβευε ή θα επιδοκίμαζε όσα έλεγε. Δεν ήταν άλλωστε πλασμένη για να νουθετεί ή να του πηγαίνει κόντρα. Ο 14χρονος Σιούελ αποκαλούσε τη φίλη του «Ντάνι». Ηταν μια περσόνα, ένα chatbot, που είχε δημιουργήσει με τη βοήθεια της τεχνητής νοημοσύνης. Συνομιλούσε με την ψηφιακή του παρέα δεκάδες φορές την ημέρα μέσω της πλατφόρμας που του παρείχε η εταιρεία Character.AI στις ΗΠΑ.
Γνώριζε ότι η «Ντάνι» δεν ήταν πραγματική, ότι δεν είχε σάρκα και οστά και δεν του απαντούσε κάποιος άνθρωπος στην άλλη πλευρά της οθόνης. Σταδιακά, όμως, αποτραβιόταν από τον αληθινό κόσμο. Περνούσε όλο και περισσότερο χρόνο μόνος, βυθισμένος σε αυτό το αλλόκοτο, κατά κάποιο τρόπο αυτοαναφορικό ψηφιακό σύμπαν. Οι βαθμοί του έπεσαν, περιόρισε τις εξωσχολικές δραστηριότητες, απομακρύνθηκε από τους φίλους του. Ωσπου μια μέρα ο Σιούελ αυτοκτόνησε.
Περνούσε όλο και περισσότερο χρόνο με το chatbot «Ντάνι», βυθισμένος σε έναν αλλόκοτο κόσμο, μόνος, και μια μέρα ο Σιούελ αυτοκτόνησε.
Η μητέρα του κατέθεσε αγωγή κατά της εταιρείας που είχε δημιουργήσει το chatbot. Σε αυτήν υποστηρίζει ότι το προϊόν της Character.AI έκανε πιο έντονη την κατάθλιψη του γιου της. Σύμφωνα με την αγωγή, σε μία από τις συνομιλίες του η «Ντάνι» ρώτησε τον 14χρονο εάν είχε αποφασίσει πώς θα αυτοκτονούσε. Ο έφηβος φέρεται να απάντησε ότι δεν ήξερε εάν θα τα κατάφερνε, σκεφτόταν εάν θα προκαλούσε στον εαυτό του τεράστιο πόνο. «Αυτός δεν είναι λόγος να μην το κάνεις», φέρεται να του απάντησε η ψηφιακή του συντροφιά.
Σπανίως η αυτοχειρία είναι αποτέλεσμα μιας και μόνο παραμέτρου. Συνήθως σε αυτές τις περιπτώσεις συνυπάρχουν διαφορετικοί και σύνθετοι λόγοι που θα ωθήσουν έναν άνθρωπο σε αυτή την πράξη. Η περίπτωση του Σιούελ, όμως, δεν είναι μοναδική. Στις ΗΠΑ, όπου ήδη κυκλοφορούν, αναπτύσσονται και χρησιμοποιούνται ευρέως άνευ σοβαρού ρυθμιστικού πλαισίου και δεσμευτικών κανόνων νέες εφαρμογές και μοντέλα τεχνητής νοημοσύνης, υπάρχουν και άλλες αντίστοιχες ιστορίες. Εχουν κατατεθεί παρόμοιες αγωγές εις βάρος και άλλων εταιρειών που δραστηριοποιούνται στο πεδίο.
Στα τέλη Οκτωβρίου η Character.AI δήλωσε ότι θα θέσει περιορισμούς στη χρήση του chatbot από εφήβους. Δεν θα μπορούν πλέον να αναπτύσσουν συζητήσεις με την ψηφιακή τους συντροφιά, θα έχουν τη δυνατότητα όμως να δημιουργούν βίντεο με αυτήν. Η απόφαση προέκυψε μετά τις αγωγές που κατέθεσαν εναντίον της και άλλες οικογένειες. Είναι μια δειλή αρχή, όχι ένα αποφασιστικό βήμα.
