Μπορεί ένα chatbot να έχει έμφυλες προκαταλήψεις; Όλο και περισσότερες έρευνες δείχνουν πως ναι. Από τις αντωνυμίες που χρησιμοποιεί μέχρι τον τρόπο που περιγράφει άνδρες και γυναίκες σε επαγγέλματα κύρους, φαίνεται να αναπαράγει τις ίδιες προκαταλήψεις που επικρατούν και εκτός οθόνης.
Σύμφωνα με έρευνα που διενεργήθηκε από διδακτορικούς φοιτητές δύο πανεπιστημίων στη Σιγκαπούρη και δημοσιεύθηκε πέρυσι στο επιστημονικό περιοδικό Computers in Human Behavior, οι προκαταλήψεις φύλου των συστημάτων τεχνητής νοημοσύνης δεν θα πρέπει να μας εκπλήσσουν. «Λαμβάνοντας υπόψη ότι τα σύνολα δεδομένων που χρησιμοποιούνται για την εκπαίδευση των chatbots έχει αποδειχθεί ότι δεν είναι αντικειμενικά, δεν αποτελεί έκπληξη το γεγονός ότι οι προκαταλήψεις που υπάρχουν σε αυτά επανεμφανίζονται συχνά κατά τη διάρκεια των αλληλεπιδράσεων με τους χρήστες», δηλώνουν οι συγγραφείς. Παράλληλα, τονίζουν ότι έχει αποδειχθεί πως συγκεκριμένα το ChatGPT υποκύπτει σε τέτοιες προκαταλήψεις.
Επιπλέον, αναφέρονται κι εκείνοι στην ταύτιση επαγγελμάτων «παραδοσιακά υψηλού μορφωτικού επιπέδου» με το ανδρικό φύλο, αλλά δηλώνουν, επίσης, ότι το chatbot αναπαρήγαγε στερεοτυπική γλώσσα όταν του ανατέθηκε να γράψει συστατικές επιστολές για γυναικεία ονόματα. Εξηγούν ότι χρησιμοποιούσε λέξεις όπως «φίλη» και «οικογένεια», ενώ στις επιστολές για άνδρες έδινε έμφαση στις επαγγελματικές τους δεξιότητες. «Όταν τα δεδομένα εκπαίδευσης αντικατοπτρίζουν κοινωνικά στερεότυπα ή υποεκπροσωπούν ορισμένες πληθυσμιακές ομάδες, τα chatbots θα μάθουν να τα αναπαράγουν», σημειώνουν.
Διαβάστε περισσότερα στην ετήσια έκδοση Κ Γυναίκες, που κυκλοφορεί την Κυριακή 21 Ιουνίου με την Καθημερινή.
