Πρόσφατα ο πρωθυπουργός της Αλβανίας, Εντι Ράμα, ανακοίνωσε ότι ένα σύστημα τεχνητής νοημοσύνης, η Ντιέλα (ηλιοφάνεια), θα αναλάβει υπουργός αρμόδια για τις δημόσιες προμήθειες. Στόχος του εγχειρήματος είναι η καταπολέμηση της διαφθοράς. Εύκολα μπορεί κανείς να σκεφτεί ότι ένα τέτοιο σύστημα μπορεί να επεκταθεί σε πολύ περισσότερους τομείς: προσλήψεις, διανομή επιδομάτων, φορολόγηση, πρόσβαση σε υπηρεσίες υγείας, οικοδομικές άδειες, αξιολογήσεις προσωπικού, δικαστικές αποφάσεις. Η εφαρμογή της τεχνητής νοημοσύνης ως δίκαιου κριτή θα μας γλίτωνε από γρηγορόσημα, διευθετήσεις, ρουσφέτια, διευκολύνσεις, αθέμιτα ανταλλάγματα, φακελάκια ή καθυστερήσεις. Σε ανώτερες θέσεις η διακυβέρνηση από τεχνητή νοημοσύνη παρέχει τα πλεονεκτήματα της πεφωτισμένης δεσποτείας χωρίς τα προβλήματα της εκτροπής και της διαδοχής.
Η παραπάνω περιγραφή φαίνεται επιφανειακά ελκυστική. Επίσης, η τεχνητή νοημοσύνη μπορεί να βελτιώσει πολλαπλά την παραγωγικότητα ατόμων και οργανισμών. Ομως η διακυβέρνηση από τεχνητή νοημοσύνη, εκτός από το ότι είναι εντελώς ασύμβατη με το θεσμικό πλαίσιο της Ευρωπαϊκής Ενωσης και της χώρας μας, κρύβει πολλά σοβαρά προβλήματα.
Αν και τα συστήματα τεχνητής νοημοσύνης έχουν προοδεύσει εντυπωσιακά τα τελευταία χρόνια, ακόμα κάνουν σοβαρά λάθη. Είναι διάσημες οι περιπτώσεις όπου έχουν παραπέμψει σε ανύπαρκτη νομολογία, έχουν συστήσει να προσθέσουμε στη δίαιτά μας πετραδάκια και έχουν εσφαλμένα συμβουλεύσει πελάτη αεροπορικής εταιρείας ότι δικαιούται μεγάλη αποζημίωση.
Επειδή τα συστήματα τεχνητής νοημοσύνης εκπαιδεύονται με υπάρχοντα κείμενα, συχνά αντικατοπτρίζουν ανθρώπινη μεροληψία και προκαταλήψεις. Αν η Ντιέλλα εκπαιδευθεί με υπάρχουσες προκηρύξεις και αναθέσεις δημοσίων συμβάσεων πιθανότατα θα αναπαράγει φωτογραφικές διατάξεις και τυπολατρία.
Η χρήση φυσικής γλώσσας στα σύγχρονα συστήματα παραγωγικής τεχνητής νοημοσύνης σαν το ChatGPT τόσο για εντολές (Πού να πάω διακοπές;) όσο και για δεδομένα (Η Σάμος έχει πλούσια βλάστηση) επιτρέπει σε κακόβουλους χρήστες να κρύψουν εντολές μέσα σε δεδομένα για τη χειραγώγηση των αποφάσεών τους. Τελευταία, για παράδειγμα, υποψήφιοι εργαζόμενοι κρύβουν στο βιογραφικό τους με μικρά, λευκά και συνεπώς αόρατα στο ανθρώπινο μάτι γράμματα λέξεις και προτροπές για να ξεγελάσουν τα φίλτρα προσλήψεων που βασίζονται σε τεχνητή νοημοσύνη.
Η διακυβέρνηση μέσω της τεχνητής νοημοσύνης οδηγεί στον αυταρχισμό και στην αλγοριθμοκρατία. Σε ένα τέτοιο σύστημα απουσιάζει η δημοκρατική νομιμοποίηση, η ενσυναίσθηση, η ικανότητα απόκρισης σε αλλαγές.
Αντίθετα με τη λεγόμενη «μικρή» διαφθορά, όπως τα γρηγορόσημα, που καταπολεμάται με την ψηφιοποίηση, η «μεγάλη» διαφθορά ψηφιοποιείται και αυτή με την κατάλληλη προσαρμογή συστημάτων και διαδικασιών, όπως έγινε π.χ. στον ΟΠΕΚΕΠΕ. Συγκεκριμένα, αυτοί που ελέγχουν ένα σύστημα της τεχνητής νοημοσύνης έχουν πολλούς τρόπους να το κάνουν να λειτουργεί προς όφελός τους επεμβαίνοντας στην εκπαίδευσή του, στις προτροπές που του δίνονται, στην τροφοδοσία του με δεδομένα ή κατά την επεξεργασία των απαντήσεών του.
Σήμερα τα συστήματα παραγωγικής τεχνητής νοημοσύνης κατασκευάζονται (με δυσθεώρητο κόστος) από ελάχιστους οργανισμούς εκτός Ελλάδος, στοιχείο που θέτει το ζήτημα της κυριαρχίας. Πώς ελέγχουμε τους κανόνες και τις αξίες που ενσωματώνει το εκπαιδευμένο μοντέλο τεχνητής νοημοσύνης; Πώς μπορούμε να αντιδράσουμε ως χώρα αν το σύστημα της OpenAI ή της Anthropic δεν παράγει αποφάσεις που θεωρούμε σωστές; Τι κάνουμε αν σήμερα βγάζει τις αποφάσεις που θέλουμε, αλλά το νέο μοντέλο του 2026 έχει μια τελείως διαφορετική οπτική;
Σε υψηλότερο επίπεδο, η διοίκηση μέσω τεχνητής νοημοσύνης οδηγεί στον αυταρχισμό και στην αλγοριθμοκρατία (διακυβέρνηση μέσω αλγορίθμων). Σε ένα τέτοιο σύστημα απουσιάζει η δημοκρατική νομιμοποίηση, η ενσυναίσθηση, η ικανότητα απόκρισης σε αλλαγές. Φανταστείτε τέτοια διοίκηση να θεσπιζόταν την εποχή της δουλοκτησίας ή πριν από την καθιέρωση της ισότητας των φύλων: το σύστημα θα διατηρούσε για πάντα αυτό το καθεστώς. Ακόμα σημαντικότερο, σε ένα τέτοιο σύστημα δεν μπορεί μια κοινωνία να κάνει λάθη, να μαθαίνει και να προοδεύει μέσα από αυτά.
Δυστυχώς, δεν υπάρχει βασιλική οδός για την καταπολέμηση της διαφθοράς. Ο δρόμος περνάει μέσα από την παιδεία, την πολιτική και θεσμική ωρίμανση και τη συσσώρευση κοινωνικού κεφαλαίου.
*Ο κ. Διομήδης Σπινέλλης είναι καθηγητής στο Τμήμα Διοικητικής Επιστήμης και Τεχνολογίας του Οικονομικού Πανεπιστημίου Αθηνών και στο Τμήμα Τεχνολογίας Λογισμικού του Πολυτεχνείου του Ντελφτ.
