Γιάννης Θεοχάρης*, Βιργινία Κόκιου**
Φόρτωση Text-to-Speech...
Η παραποιημένη φωτογραφία του Αδώνιδος Γεωργιάδη που έκανε τον γύρο του Διαδικτύου ήταν μια ηχηρή προειδοποίηση για τη δύναμη της παραπληροφόρησης που ενισχύεται χάρη στην εξέλιξη της τεχνητής νοημοσύνης και στην ανεξέλεγκτη λειτουργία του ψηφιακού οικοσυστήματος. Η πολιτική διαδικασία γίνεται όλο και πιο ευάλωτη στη διαστρέβλωση της πραγματικότητας, με ήχο και εικόνα.
Η Ειδική Γραμματεία Μακροπρόθεσμου Σχεδιασμού επεξεργάζεται σε συνεργασία με τις Βρυξέλλες σχέδια άμυνας απέναντι στους ψηφιακούς κινδύνους παραπλάνησης, όπως εξηγεί η νομική σύμβουλος Βιργινία Κόκιου. Στο πλαίσιο της προετοιμασίας για την ελληνική προεδρία της Ε.Ε. το β΄ εξάμηνο 2027, διαμορφώνεται πρόταση για ευρωπαϊκή πρωτοβουλία προστασίας των δημοκρατικών θεσμών απέναντι στην όλο και πιο γρήγορη διάδοση fake news και deepfakes. Ο καθηγητής Ψηφιακής Διακυβέρνησης στο Τεχνικό Πανεπιστήμιο του Μονάχου Γιάννης Θεοχάρης επισημαίνει ότι η μάχη πρέπει να δοθεί απέναντι στις πανίσχυρες πλατφόρμες που δεν λογοδοτούν και επηρεάζουν καταλυτικά τη διαμόρφωση της κοινωνικής κουλτούρας.
ΑΠΟΨΕΙΣ
Δημοκρατία και πλατφόρμες
Του Γιάννη Θεοχάρη*
Η υπόθεση της επεξεργασμένης φωτογραφίας του Αδώνιδος Γεωργιάδη παρουσιάστηκε σχεδόν εξαρχής ως υπόθεση deepfake, κυρίως επειδή έτσι τη χαρακτήρισε ο ίδιος. Στην πραγματικότητα, πρόκειται για ένα κλασικό μοντάζ: ένα υπαρκτό εξώφυλλο σερβικού περιοδικού, στο οποίο προστέθηκε ψηφιακά ένα αλλοιωμένο σήμα ελληνικής εφημερίδας. Δεν είναι καθόλου σαφές, δηλαδή, ότι έχουμε να κάνουμε με deepfake με την τεχνική έννοια του όρου. Kαι αυτό από μόνο του είναι ένα ενδιαφέρον σημείο εκκίνησης.
Ο όρος deepfake χρησιμοποιείται σχεδόν για κάθε αλλοιωμένη εικόνα ή βίντεο και αυτή η εννοιολογική σύγχυση δεν είναι ουδέτερη: διαμορφώνει το πώς αντιλαμβανόμαστε το ίδιο το πρόβλημα. Παραπλανητικό οπτικό υλικό υπήρχε δεκαετίες πριν από την generative AI (παραγωγική τεχνητή νοημοσύνη). Αυτό που αλλάζει σήμερα είναι ότι η παραποίηση γίνεται πιο γρήγορη και πιο προσβάσιμη.
Το κρίσιμο ζήτημα δεν είναι η παραγωγή του περιεχομένου, όσο η διανομή του. Μια αλλοιωμένη εικόνα χωρίς διάδοση είναι αδιάφορη. Μια εικόνα (ακόμη και πρόχειρα φτιαγμένη) που γίνεται viral μέσα σε ώρες αποκτά τεράστια πολιτική επίδραση. Η ίδια η υπόθεση Γεωργιάδη το δείχνει: η ζημιά στη δημόσια εικόνα συντελείται στα social media πολύ πριν προλάβει να λειτουργήσει οποιοσδήποτε μηχανισμός διόρθωσης, επαλήθευσης ή προσφυγής στη Δικαιοσύνη. Η ασυμμετρία ανάμεσα στην ταχύτητα της διάδοσης και στην ταχύτητα της διάψευσης είναι το πραγματικό δομικό πρόβλημα.
Παραπλανητικό οπτικό υλικό υπήρχε δεκαετίες πριν. Αυτό που αλλάζει σήμερα είναι ότι η παραποίηση γίνεται πιο γρήγορη και πιο προσβάσιμη.
Υπάρχει, επίσης, ένας δεύτερος, πιο ύπουλος κίνδυνος. Σε ένα περιβάλλον όπου οτιδήποτε μπορεί να χαρακτηριστεί «AI» ή «fake», ακόμη και αυθεντικό περιεχόμενο γίνεται πιο εύκολο να αμφισβητηθεί. Η generative AI δεν απειλεί μόνο με την παραγωγή ψευδών εικόνων· απειλεί και με τη σταδιακή διάβρωση της εμπιστοσύνης στην ίδια την έννοια της φωτογραφικής απόδειξης. Αυτό το λεγόμενο «liar’s dividend» –δηλαδή η δυνατότητα να απορρίπτεται ως ψεύτικο και ό,τι είναι πραγματικό– είναι ίσως η σημαντικότερη πολιτική συνέπεια της νέας τεχνολογίας.
Η απάντηση δεν μπορεί να είναι αποκλειστικά τεχνολογική. Αφορά κυρίως τη διακυβέρνηση των πλατφορμών: ποιος είναι υπεύθυνος για τη διάδοση, με ποιες διαδικασίες και με ποια λογοδοσία. Οσο η δημόσια συζήτηση εστιάζει στην AI ως αυτόνομη απειλή, τόσο αποπροσανατολίζεται από το πραγματικό ερώτημα: ποιοι κανόνες διέπουν τα ψηφιακά οικοσυστήματα μέσα στα οποία τέτοιες εικόνες αποκτούν πολιτική δύναμη.
* Ο κ. Γιάννης Θεοχάρης είναι καθηγητής Ψηφιακής Διακυβέρνησης στο Τεχνικό Πανεπιστήμιοτου Μονάχου.
Οι νόμοι δεν επαρκούν
Της Βιργινίας Κόκιου**
Η πρόσφατη παραποιημένη φωτογραφία που συνδέθηκε με τον υπουργό Υγείας Αδωνι Γεωργιάδη είναι μια προειδοποιητική βολή για τα deepfakes, που δεν στοχεύουν απλώς να παραποιήσουν την εικόνα ενός προσώπου, αλλά την ίδια τη δυνατότητα της κοινωνίας να κρίνει τι είναι πραγματικό. Η τεχνητή νοημοσύνη έκανε την παραποίηση φθηνή, γρήγορη και πειστική. Παλαιότερα η πλαστογραφία απαιτούσε χρόνο, τεχνική δεξιότητα και πρόσβαση σε μέσα. Σήμερα απαιτεί ένα εργαλείο, λίγα δεδομένα και κακή πρόθεση. Αυτό αλλάζει ριζικά την έννοια της προσβολής προσωπικότητας, της δυσφήμησης και της εξαπάτησης ακόμα και της πολιτικής. Το πρόβλημα είναι βαθύτερο: όταν η εικόνα αποδυναμώνεται ως αποδεικτικό στοιχείο, τότε κάθε αλήθεια γίνεται αμφισβητήσιμη. Ο δημιουργός ενός deepfake δεν σκοπεύει πάντοτε να πείσει, αρκεί να σπείρει αμφιβολία στο κοινό. Και η αμφιβολία, στην εποχή της τεχνητής νοημοσύνης, μεταδίδεται ταχύτερα από κάθε θεσμική διάψευση.
Ο κανονισμός AI Act προβλέπει στο άρθρο 50 υποχρεώσεις διαφάνειας. Η Ευρωπαϊκή Επιτροπή συνδέει αυτές τις υποχρεώσεις με την αντιμετώπιση κινδύνων παραπλάνησης, πλαστοπροσωπίας και παραπληροφόρησης, επιχειρώντας να θέσει στοιχειώδεις κανόνες: το περιεχόμενο που έχει παραχθεί ή αλλοιωθεί από συστήματα τεχνητής νοημοσύνης (AI-generated ή manipulated περιεχόμενο) πρέπει, κατά κανόνα, να μπορεί να αναγνωρίζεται ως τέτοιο, ενώ τα deepfakes πρέπει να έχουν σήμανση ως τεχνητά δημιουργημένα ή χειραγωγημένα.
Το AI Act δεν αρκείται σε ευχές, αλλά κάνει αναφορά σε σήμανση, ανιχνευσιμότητα, ενημέρωση του εκτεθειμένου πολίτη και σαφή διάκριση του τεχνητού από το αυθεντικό, μετατρέποντας την τεχνολογική διαφάνεια από καλή πρόθεση σε νομική υποχρέωση. Καμία ρύθμιση δεν είναι πανάκεια. Το Δίκαιο κινείται με διαδικασίες, ενώ το ψέμα με ταχύτητα. Γι’ αυτό η απάντηση δεν μπορεί να είναι μόνο νομοθετική. Χρειάζεται τεχνική σήμανση, ευθύνη των πλατφορμών, δικαστική ταχύτητα, δημοσιογραφική επιμέλεια και σοβαρή ψηφιακή παιδεία.
Τα deepfakes δεν είναι παιχνίδι ούτε απλώς ένα τεχνολογικό φαινόμενο. Είναι επίθεση στην εμπιστοσύνη και στη δημοκρατία.
Η υπόθεση Γεωργιάδη μάς αναγκάζει να δούμε το μέγεθος του κινδύνου χωρίς θεωρητικολογίες. Σήμερα είναι ένας υπουργός. Αύριο μπορεί να είναι ένας δικαστής, ένας γιατρός, ένας δημοσιογράφος, ένας μαθητής, ένας από εμάς. Τα deepfakes δεν είναι παιχνίδι ούτε απλώς ένα τεχνολογικό φαινόμενο. Είναι επίθεση στην εμπιστοσύνη και στη δημοκρατία, γιατί χωρίς εμπιστοσύνη η δημοκρατία δεν καταρρέει θεαματικά, αλλά αδειάζει σιωπηλά… από μέσα.
** Η κ. Βιργινία Κόκιου είναι νομική σύμβουλος ειδικού γραμματέα Μακροπρόθεσμου Σχεδιασμούτης κυβέρνησης.
