Η δουλειά της Σαρλότ Μπλιζ είναι να στοχάζεται και να ερευνά τις ηθικές, ψυχολογικές και κοινωνικές διαστάσεις της καινοτομίας στον τομέα της υγείας. Είναι φιλόσοφος της ιατρικής με καταγωγή από τη Βόρεια Ιρλανδία, αναπληρώτρια καθηγήτρια στην ιατρική σχολή του Πανεπιστημίου της Ουψάλα στη Σουηδία και ερευνήτρια στο πρόγραμμα Ψηφιακής Ψυχιατρικής στην ιατρική σχολή του Χάρβαρντ. Πρόσφατα κυκλοφόρησε το βιβλίο της Dr. Bot, στο οποίο εξηγεί πώς «οι γιατροί μπορεί να μας απογοητεύσουν» και πώς η «τεχνητή νοημοσύνη μπορεί να σώσει ζωές». Μια μεγάλη συζήτηση που ανοίξαμε στην επικοινωνία μας.
Ποια είναι τα σημαντικότερα προβλήματα της ιατρικής σήμερα;
Ένα από τα βασικότερα είναι η πρόσβαση. Ακόμα και σε πλούσιες χώρες πολλοί άνθρωποι δυσκολεύονται να δουν έναν γιατρό γρήγορα, ενώ στις φτωχότερες χώρες το πρόβλημα είναι ακόμα μεγαλύτερο. Ένα δεύτερο ζήτημα είναι τα ιατρικά λάθη. Οι περισσότεροι άνθρωποι θα βιώσουν κάποια στιγμή μια λανθασμένη διάγνωση. Ορισμένες φορές δεν θα είναι σοβαρή, αλλά για πολλούς ανθρώπους θα έχει σημαντικές συνέπειες. Ένα τρίτο ζήτημα αφορά την ακρίβεια της φροντίδας. Είναι εξαιρετικά δύσκολο για τους γιατρούς να παραμένουν ενημερωμένοι μπροστά στον τεράστιο όγκο της ιατρικής γνώσης. Μιλάμε για τους ασθενείς που δεν ακολουθούν τις θεραπείες τους, αλλά στην πραγματικότητα ούτε οι ίδιοι οι γιατροί ακολουθούν πάντα τις βέλτιστες πρακτικές. Στις Ηνωμένες Πολιτείες, η συμμόρφωση με την τεκμηριωμένη ιατρική φτάνει περίπου στο 50% των περιπτώσεων, κάτι που είναι πραγματικά εντυπωσιακό.
Και κάπου εδώ μπαίνει στην εξίσωση η τεχνητή νοημοσύνη;
Ναι. Είναι ενδιαφέρον ότι στις συζητήσεις για την τεχνητή νοημοσύνη πολλοί γιατροί λένε: «Κανείς δεν μπορεί να δείξει ενσυναίσθηση όπως εμείς». Ωστόσο υπάρχει μια ασυμφωνία εδώ, γιατί οι περισσότεροι ασθενείς αναγνωρίζουν ότι οι γιατροί τους δεν λένε πάντα τα σωστά πράγματα. Ένας γιατρός μπορεί να είναι εξαιρετικός στο μεγαλύτερο μέρος του χρόνου, αλλά μια άστοχη στιγμή μπορεί να χαραχτεί έντονα στη μνήμη. Αυτό συμβαίνει γιατί οι γιατροί κάνουν συνεχώς πολλά πράγματα ταυτόχρονα και εργάζονται υπό πίεση. Στο βιβλίο υποστηρίζω ότι, παραδόξως, οι γιατροί βρίσκονται συχνά σε λιγότερο ευνοϊκή θέση για να προσφέρουν ενσυναίσθηση, εξαιτίας της εξουθένωσης και των απαιτήσεων του επαγγέλματος. Εδώ αποκτούν την αξία τους τα τσάτμποτ. Μπορεί κάποιοι να φρίττουν στην ιδέα, αλλά τα γλωσσικά μοντέλα μπορούν να είναι εντυπωσιακά αποτελεσματικά στον τρόπο που απευθύνονται στους ανθρώπους. Οι χρήστες δεν φοβούνται ότι κάποιος θα τους κρίνει ή θα κοιτάζει το ρολόι του επειδή δεν έχει χρόνο να τους ακούσει.
Αυτό σίγουρα λέει πολλά.
Αποκαλύπτει κυρίως κάτι που έχει παραμεληθεί σε μεγάλο βαθμό στην ιατρική: την ψυχολογία της κοινωνικής ιεραρχίας. Όταν κάποιος βρίσκεται απέναντι σε έναν ειδικό, τείνει να συμπεριφέρεται πιο διστακτικά. Αυτό μπορεί να γίνει προβληματικό, γιατί ο ασθενής πρέπει να είναι ειλικρινής, ακόμα και για συμπτώματα που του προκαλούν αμηχανία. Πρέπει να νιώθει άνετα να ρωτήσει όσα δεν καταλαβαίνει. Συχνά εμφανίζεται η λεγόμενη «στιγμή με το χέρι στο πόμολο της πόρτας». Συνέβη και στον πατέρα μου. Είχε πάει στον γιατρό για ένα νύχι που είχε μεγαλώσει προς τα μέσα και μόνο στο τέλος ανέφερε ότι αντιμετώπιζε προβλήματα όταν πήγαινε στην τουαλέτα, κάτι που τελικά σχετιζόταν με καρκίνο του εντέρου. Αυτό είναι πολύ συνηθισμένο. Υπάρχει επίσης το στοιχείο της κοινωνικής απόστασης. Πολλοί γιατροί προέρχονται από υψηλότερα κοινωνικά στρώματα. Υπάρχουν στοιχεία ότι ακόμα και στη Σουηδία το επάγγελμα τείνει να αναπαράγεται «κληρονομικά», ενώ στο Ηνωμένο Βασίλειο πολλοί γιατροί προέρχονται από τις πλέον εύπορες περιοχές. Ένας γιατρός, στη συνέντευξη που του πήρα, μου είπε: «Ψωνίζω από το Whole Foods (σ.σ. αμερικανική αλυσίδα σούπερ μάρκετ ιδιοκτησίας της Amazon), οδηγώ καλό αυτοκίνητο, έχω διαθέσιμο εισόδημα. Μου είναι δύσκολο να φανταστώ τον κόσμο ορισμένων ασθενών μου». Αυτό μπορεί να κάνει κάποιες συμβουλές να ακούγονται αποκομμένες από την πραγματικότητα, ακόμα και αν είναι καλοπροαίρετες.
Τα μεγάλα γλωσσικά μοντέλα ξεπερνούν πράγματι τους γιατρούς στην ενσυναίσθηση;
Υπάρχουν πολλές μελέτες που δείχνουν ότι, όταν συγκρίνονται άμεσα απαντήσεις γιατρών και τσάτμποτ, οι δεύτερες αξιολογούνται συχνά ως πιο συμπονετικές. Ένα βασικό ζήτημα είναι ότι πολλές από αυτές τις μελέτες είναι «τυφλές»: οι συμμετέχοντες αξιολογούν μόνο τις απαντήσεις, χωρίς να γνωρίζουν αν προέρχονται από άνθρωπο ή από μηχανή. Το ερώτημα είναι: Αν ο ασθενής ξέρει ότι μιλά με τσάτμποτ, εξακολουθεί να το θεωρεί συμπονετικό; Το ενδιαφέρον είναι πως ναι, και μάλιστα οι άνθρωποι τείνουν να έχουν υψηλότερα στάνταρ για τα τσάτμποτ, αλλά, ακόμα κι όταν «γίνεται η αποκάλυψη», συχνά συνεχίζουν να τα αξιολογούν καλύτερα. Η ενσυναίσθηση είναι πολύ δύσκολο να επιτευχθεί με συνέπεια. Από τα μέσα της δεκαετίας του 1990, κοινωνιολόγοι άρχισαν να καταγράφουν πραγματικές ιατρικές επισκέψεις σε βίντεο και ήχο. Και πρέπει να θυμόμαστε ότι οι γιατροί σε αυτές τις καταγραφές πιθανότατα δείχνουν την καλύτερη δυνατή συμπεριφορά τους. Παρ’ όλα αυτά, οι απομαγνητοφωνήσεις δείχνουν συχνά ένα μοτίβο: ο ασθενής επανέρχεται σε συναισθηματικά ζητήματα και ο γιατρός συνεχίζει να τα αγνοεί, επιστρέφοντας στη βιοϊατρική πληροφορία. Με τα τσάτμποτ συμβαίνει κάτι διαφορετικό: δεν έχεις τα κοινωνικά σήματα του κύρους, της αμηχανίας, της δυσφορίας, έχεις ανωνυμία. Είναι σαν το απόφθεγμα του Όσκαρ Ουάιλντ: «Δώσε σε έναν άνθρωπο μια μάσκα και θα σου πει την αλήθεια». Κάπως έτσι λειτουργούν και αυτά τα εργαλεία. Υπήρξε μάλιστα πρόσφατα μια έρευνα του Mental Health Foundation στο Ηνωμένο Βασίλειο που βρήκε ότι πάνω από το ένα τρίτο των ενηλίκων χρησιμοποιούν τσάτμποτ για υποστήριξη ψυχικής υγείας, και από όσους τα χρησιμοποιούν, τα δύο τρίτα θεωρούν ότι τους προσφέρουν οφέλη. Είναι πεδίο που χρειάζεται πολύ περισσότερη έρευνα, γιατί σε κάποιες περιπτώσεις μπορεί να είναι ωφέλιμο, ενώ σε άλλες να αποδειχθεί επιβλαβές. Όμως είναι σαφές ότι οι άνθρωποι
θα συνεχίσουν να τα χρησιμοποιούν.
«Υπάρχουν πολλές μελέτες που δείχνουν ότι, όταν συγκρίνονται άμεσα απαντήσεις γιατρών και τσάτμποτ, οι δεύτερες αξιολογούνται συχνά ως πιο συμπονετικές».
Παλιά οι άνθρωποι έψαχναν τα συμπτώματά τους στο Google, τώρα πηγαίνουν στο ChatGPT. Υπάρχει όμως το πρόβλημα των «παραισθήσεων» της ΑΙ, το οποίο δεν είμαι βέβαιος ότι έχουμε κατανοήσει όλοι επαρκώς.
Όταν οι ασθενείς έψαχναν συμπτώματα στο Google, πολλοί δεν το ανέφεραν στον γιατρό τους, γιατί δεν ήθελαν να φανεί ότι τον αμφισβητούν. Χρησιμοποιούσαν την πληροφορία πιο διακριτικά, κατευθύνοντας τη συζήτηση: «Μήπως θα μπορούσε να είναι αυτό ή εκείνο;». Υποψιάζομαι ότι κάτι παρόμοιο συμβαίνει και τώρα. Θα υπάρχουν άνθρωποι που θα χρησιμοποιούν αυτά τα εργαλεία επειδή δεν έχουν πρόσβαση σε γιατρό και σε ορισμένες περιπτώσεις αυτά τα εργαλεία θα τους προσφέρουν ακριβώς αυτό που χρειάζονται. Μερικές φορές θέλεις απλώς μια μικρή συμβουλή. Του τη ζητάς, σ’ τη δίνει και μπορεί να σε βοηθήσει. Ο όρος «παραισθήσεις» έχει πλέον περάσει στη δημόσια συνείδηση. Οι άνθρωποι γνωρίζουν ότι τα συστήματα κάνουν λάθη. Αυτό όμως που έχει ενδιαφέρον είναι ότι, επειδή έχουμε υψηλότερες απαιτήσεις από την τεχνολογία, ξεχνάμε ότι και οι γιατροί κάνουν λάθη. Το βασικό ερώτημα είναι: Είναι αυτά τα εργαλεία καλύτερα ή χειρότερα; Γιατί και οι άνθρωποι κάνουν λάθη. Πάντα θα πρόκειται για έναν σύνθετο και ατελή συμβιβασμό. Το κρίσιμο είναι να αναρωτηθούμε: Σε ποια συμφραζόμενα είναι καλύτερα αυτά τα εργαλεία; Για ποιους ανθρώπους; Και πάντα: Σε σύγκριση με τι; Είναι σωστό να συζητάμε για παραπληροφόρηση και προκαταλήψεις, αλλά θα ήθελα να δω και περισσότερη συζήτηση για το πώς βελτιώνονται αυτά τα εργαλεία και πότε μπορεί να είναι ωφέλιμα, αντί να θεωρούμε δεδομένο ότι η ανθρώπινη ιατρική είναι το μοναδικό σημείο αναφοράς.
Και υπάρχει επίσης το ζήτημα της ιδιωτικότητας.
Αυτό είναι τεράστιο. Τα τσάτμποτ είναι σχεδιασμένα να διατηρούν τη συνομιλία και να αποσπούν πληροφορίες. Συνεχίζουν να σε ρωτούν: «Υπάρχει κάτι ακόμα που μπορώ να κάνω;». Δεν είναι όπως ένας γιατρός που τον έχεις κοντά σου για οκτώ ή δέκα λεπτά. Αυτό σημαίνει ότι οι χρήστες μπορεί να αποκαλύπτουν πολύ περισσότερα απ’ όσα θα ήθελαν. Με ανησυχεί ιδιαίτερα αυτό στους νέους, που υιοθετούν πιο γρήγορα την τεχνολογία: υπάρχει ο κίνδυνος ολόκληρες ζωές να «χαρτογραφούνται» μέσα από τέτοιες συνομιλίες. Πρόκειται για βαθιά πολιτικά ζητήματα: Ποιος θέλουμε να διαχειρίζεται τα συστήματα υγείας μας και τα δεδομένα μας; Οι μεγάλες τεχνολογικές εταιρείες λειτουργούν με κερδοσκοπικό προσανατολισμό. Ο Ευρωπαϊκός Κανονισμός για την Τεχνητή Νοημοσύνη (EU AI Act), για παράδειγμα, δεν γνωρίζουμε πραγματικά πώς θα λειτουργήσει στην πράξη. Το ίδιο, σε έναν βαθμό, συνέβη και με τον GDPR: πρόκειται για μια νομοθεσία που θεσπίστηκε, αλλά παραμένει ασαφές πόσο αποτελεσματικά επιβάλλεται και ελέγχεται.
«Υπάρχει ο κίνδυνος ολόκληρες ζωές να “χαρτογραφούνται” μέσα από τέτοιες συνομιλίες. Πρόκειται για βαθιά πολιτικά ζητήματα: ποιος θέλουμε να διαχειρίζεται τα συστήματα υγείας μας και τα δεδομένα μας;»
Πόσο αισιόδοξη είστε για το μέλλον;
Παραμένω συγκρατημένα αισιόδοξη, γιατί πρέπει να είσαι αισιόδοξος για να δράσεις. Πιστεύω ότι μπορούμε να σχεδιάσουμε νόμους με πραγματική ισχύ, αλλά χρειάζεται περισσότερος δημόσιος διάλογος. Αυτό που θεωρώ πιθανό είναι ότι θα προκύψουν παράλληλα συστήματα υγείας. Τα τσάτμποτ δεν έχουν σχεδιαστεί για την υγεία, αλλά κάνουν πλέον πράγματα που παλαιότερα ζητούσαμε αποκλειστικά από γιατρούς, νοσηλευτές ή άλλους επαγγελματίες υγείας. Είναι λοιπόν γεγονός ότι ήδη έχουμε, κατά κάποιον τρόπο, ένα «σκιώδες» σύστημα υγείας. Με αυτή την έννοια, τα τσάτμποτ επιτελούν ήδη μια λειτουργία μέσα στο σύστημα και άρα τώρα είναι η στιγμή που πρέπει να θέσουμε αυτά τα βασικά ερωτήματα.
