Οι πρώτες φωτογραφίες διέρρευσαν κατά τη διάρκεια σχολικής εκδρομής μαθητών γυμνασίου του Δήμου Αρχανών Αστερουσίων στο Ηράκλειο της Κρήτης. Σε ένα γυμνό σώμα είχαν προσαρμόσει το πρόσωπο μαθήτριας του σχολείου, με τη χρήση τεχνητής νοημοσύνης. Σύμφωνα με πληροφορίες της «Κ» είχαν δημιουργηθεί deepfake φωτογραφίες με τα πρόσωπα τουλάχιστον 10 μαθητριών ηλικίας 13 έως 16 ετών, αλλά και καθηγητριών του σχολείου. Στη συνέχεια, οι φωτογραφίες διακινήθηκαν σε γυμνάσιο και δημοτικό σχολείο της περιοχής προκαλώντας μεγάλη αναστάτωση σε γονείς, μαθητές και εκπαιδευτικούς.
Οι γονείς των μαθητριών και ο διευθυντής του γυμνασίου προχώρησαν σε σχετική καταγγελία στην αστυνομία με αποτέλεσμα να σχηματισθεί δικογραφία για εκδικητική πορνογραφία σε βάρος δύο 14χρονων, ενώ συνελήφθησαν η μητέρα του ενός και ο πατέρας του δεύτερου για παραμέληση εποπτείας ανηλίκων.
Δεν φανταζόμασταν ότι μπορεί να γίνει κάτι τέτοιο
Μιλώντας στην «Κ» η διευθύντρια του δημοτικού, σημείωσε πως όταν ένας μαθητής έγινε δέκτης των deepfake εικόνων ενημέρωσε τους γονείς του και το εκπαιδευτικό προσωπικό. «Είναι πρώτη φορά που κληθήκαμε να αντιμετωπίσουμε κάτι τέτοιο. Δεν φανταζόμασταν καν ότι μπορεί να συμβεί στο σχολείο μας. Παρότι δεν απεικονίζεται κάποια μαθήτρια του δημοτικού στις ψεύτικες φωτογραφίες, εμείς ενημερώσαμε τους γονείς, τον σύλλογο διδασκόντων, την Πρωτοβάθμια Εκπαίδευση και αναμένεται να καλέσουμε την αστυνομία προκειμένου να ενημερώσει τους μαθητές για τους κινδύνους της τεχνητής νοημοσύνης».
Με την προανάκριση να βρίσκεται σε εξέλιξη, ο διευθυντής του γυμνασίου δεν θέλησε να αναφερθεί στην υπόθεση, σημειώνοντας στην «Κ» πως πλέον είναι σαφές ότι υπάρχει ένα θεσμικό κενό το οποίο επιτρέπει στους ανηλίκους να έχουν πρόσβαση σε πλατφόρμες και προγράμματα και να δημιουργούν τέτοιες εικόνες χωρίς κανέναν περιορισμό. «Αυτό που πρέπει να κάνουμε εμείς οι εκπαιδευτικοί είναι να προχωρήσουμε σε αναλυτική ενημέρωση μαθητών και γονέων, αλλά και να υποβάλουμε προτάσεις στο υπουργείο Παιδείας για να περιοριστεί όσο γίνεται το εν λόγω φαινόμενο», αναφέρει.
Σύμφωνα με το ρεπορτάζ της «Κ», τα κορίτσια που απεικονίζονται στις deepfake φωτογραφίες βρίσκονται σε άσχημη ψυχολογική κατάσταση, γι’ αυτό και ο δήμος έχει ήδη ενεργοποιήσει υπηρεσίες ψυχολογικής υποστήριξης.
Μία φωτογραφία άνοιξε τον ασκό του Αιόλου. Είναι σοκαριστικό γιατί είμαστε μία μικρή κοινότητα και γνωρίζουμε όλα τα παιδιά. Την ίδια στιγμή οι γονείς φαίνεται να έπεσαν από τα σύννεφα καθώς μερικοί δεν γνώριζαν καν πως μπορεί να δημιουργηθεί κάτι τέτοιο μέσω τεχνητής νοημοσύνης.
Ο γονικός έλεγχος δεν εντόπισε το deepfake
Αξίζει να σημειωθεί πως ενώ διαπιστώθηκε πως σε κινητά μαθητών ήταν ενεργοποιημένος ο γονικός έλεγχος, δεν ήταν επαρκής για να αποτρέψει τη δημιουργία ή τη διακίνηση τέτοιου υλικού. «Μία φωτογραφία άνοιξε τον ασκό του Αιόλου. Είναι σοκαριστικό γιατί είμαστε μία μικρή κοινότητα και γνωρίζουμε όλα τα παιδιά. Την ίδια στιγμή οι γονείς φαίνεται να έπεσαν από τα σύννεφα καθώς μερικοί δεν γνώριζαν καν πως μπορεί να δημιουργηθεί κάτι τέτοιο μέσω τεχνητής νοημοσύνης», σημειώνει εκπαιδευτικός του γυμνασίου στην «Κ».
Ειδικοί επισημαίνουν ότι τέτοιου είδους περιστατικά δεν είναι μεμονωμένα. Οπως αναφέρει ο Γιώργος Κορμάς, ιατρός και υπεύθυνος της Γραμμής Βοήθειας του Ελληνικού Κέντρου Ασφαλούς Διαδικτύου – ΙΤΕ, υπάρχουν αντίστοιχες περιπτώσεις με χρήση deepfake εικόνων από μαθητές που έχουν φτάσει στο Κέντρο από το προηγούμενο έτος.
Σημειώνει ότι η δημιουργία deepfake είναι πλέον τεχνικά εύκολη ακόμη και για έναν 12χρονο. «Το θέμα είναι πως ο γονικός έλεγχος είναι δύσκολο να “πιάσει” τη δημιουργία deepfake εικόνων, καθώς μπορεί να δημιουργηθεί από πολλές εφαρμογές και φυσικά online. Θα πρέπει στον γονικό έλεγχο να έχουν ενεργοποιηθεί από τον γονέα πολύ συγκεκριμένες επιλογές πλοήγησης του παιδιού, ώστε να μην μπορεί να προβεί σε δημιουργία τέτοιων εικόνων με τη χρήση τεχνητής νοημοσύνης».
Το νομικό πλαίσιο δεν είναι επαρκές
Την ίδια ώρα, στην ελληνική νομοθεσία δεν υπάρχει ειδική διάταξη που να αφορά αποκλειστικά τα deepfakes, εν αντιθέσει με άλλες χώρες όπως την Κύπρο. Οι σχετικές πράξεις εντάσσονται στο άρθρο 346 ΠΚ, το οποίο ποινικοποιεί τη δημοσιοποίηση υλικού που αφορά τη γενετήσια ζωή προσώπου χωρίς τη συναίνεσή του, ακόμη και όταν αυτό είναι «τροποποιημένο». Ετσι η διατύπωση αυτή επιτρέπει την ένταξη των deepfakes στο πεδίο εφαρμογής της διάταξης. Ωστόσο, νομικοί επισημαίνουν στην «Κ» ότι η απουσία εξειδικευμένης ρύθμισης δημιουργεί σύγχυση, καθώς παρότι οι deepfake εικόνες μπορούν να υπαχθούν στην έννοια του «τροποποιημένου υλικού», η διάταξη δεν έχει διαμορφωθεί με γνώμονα τα χαρακτηριστικά της τεχνολογίας αυτής, με αποτέλεσμα να δημιουργούνται ερμηνευτικές αμφιβολίες ως προς την εφαρμογή της.
Ορια στη χρήση AI
Κατά τον κ. Κορμά, το περιστατικό στην Κρήτη επαναφέρει στο προσκήνιο το ζήτημα των ορίων στη χρήση της τεχνητής νοημοσύνης από ανηλίκους. «Δεν μπορεί ένα παιδί να χρησιμοποιεί ανεξέλεγκτα ΑΙ εργαλεία χωρίς να κατανοεί τις συνέπειες», εξηγεί, υπογραμμίζοντας ότι η ευθύνη δεν αφορά μόνο τις οικογένειες, αλλά και τις ίδιες τις πλατφόρμες.
