Η Anthropic κάλεσε τις μεγάλες εταιρείες τεχνητής νοημοσύνης (ΑΙ) να εξετάσουν το ενδεχόμενο μιας συντονισμένης παύσης στην ανάπτυξη της συγκεκριμένης τεχνολογίας.
Η εταιρεία προειδοποίησε ότι η συνεχής πρόοδος θα μπορούσε σύντομα να επιτρέψει στα συστήματα αυτά να βελτιώνονται ταχύτερα από ό,τι η κοινωνία μπορεί να διαχειριστεί τους κινδύνους που ενέχουν.
Η εταιρεία που βρίσκεται πίσω από το δημοφιλές εργαλείο Claude τόνισε ότι η ικανότητα της τεχνητής νοημοσύνης να ολοκληρώνει εργασίες αυτόνομα ενισχύεται με ταχείς ρυθμούς. Πλέον κατευθύνεται προς το στάδιο της δυνατότητας «αυτοβελτίωσης», το σημείο στο οποίο η συγκεκριμένη τεχνολογία θα μπορεί να βελτιώνεται μόνη της, χωρίς ανθρώπινη παρέμβαση.
«Εάν τα συστήματα τεχνητής νοημοσύνης είναι ικανά να κατασκευάζουν πλήρως τους δικούς τους διαδόχους, οι τρόποι με τους οποίους τα προστατεύουμε, τα παρακολουθούμε και διαμορφώνουμε τη συμπεριφορά τους γίνονται πολύ πιο σημαντικοί», ανέφερε η νεοφυής επιχείρηση σε μια εκτενή ανάρτηση στο blog της την Πέμπτη, προσθέτοντας ότι μια παύση στην ανάπτυξη θα επέτρεπε στην κοινωνία να «αντιμετωπίσει τις τεράστιες επιπτώσεις της».
«Δεν έχουμε φτάσει ακόμα εκεί, και η φάση αυτοβελτίωσης δεν είναι αναπόφευκτη. Ωστόσο, θα μπορούσε να έρθει νωρίτερα από ό,τι είναι προετοιμασμένοι οι περισσότεροι θεσμοί», έγραψαν ο συνιδρυτής της Anthropic, Τζακ Κλαρκ, και η επικεφαλής του Anthropic Institute, Μαρίνα Φαβάρο.
Οι ανησυχίες ότι τα προηγμένα συστήματα τεχνητής νοημοσύνης ενδέχεται να ξεφύγουν κάποια στιγμή από τον ανθρώπινο έλεγχο έχουν ενταθεί τους τελευταίους μήνες λόγω της ραγδαίας προόδου της συγκεκριμένης τεχνολογίας. Το ίδιο το μοντέλο Mythos της Anthropic προκάλεσε αναταραχή νωρίτερα φέτος, μεταξύ άλλων και στον τραπεζικό κλάδο, χάρη στη δεινότητά του να εντοπίζει ευπάθειες σε κώδικα.
Ανάγκη συντονισμένης παύσης
Η Anthropic προειδοποίησε ότι μονομερείς ή κακώς συντονισμένες παύσεις στην ανάπτυξη της τεχνητής νοημοσύνης θα μπορούσαν να έχουν αντίθετα αποτελέσματα, εάν λιγότερο προσεκτικοί φορείς συνεχίσουν να προχωρούν.
Στο πλαίσιο αυτό, μια ουσιαστική παύση θα απαιτούσε συμφωνία μεταξύ «πολλών εργαστηρίων με επαρκείς πόρους». Παράλληλα, προτείνεται η θέσπιση κανόνων καθώς και εποπτικού μηχανισμού.
«Μια μονομερής παύση από ένα εργαστήριο είναι εφικτή αμέσως, αλλά επιτυγχάνει πολύ λιγότερα: θα άλλαζε το ποιος είναι ο πρωτοπόρος της τεχνολογίας και δεν θα δημιουργούσε την ευρύτερη διαδικασία διαβούλευσης που λείπει επί του παρόντος», ανέφερε η νεοφυής επιχείρηση.
Το Anthropic Institute, ο ερευνητικός βραχίωνας της εταιρείας, σχεδιάζει να μελετήσει τα συστήματα που απαιτούνται για την υποστήριξη μιας επιβράδυνσης της ανάπτυξης και τους επόμενους μήνες θα συγκαλέσει υπεύθυνους χάραξης πολιτικής, ερευνητές, ομάδες της κοινωνίας των πολιτών και ανταγωνιστικές εταιρείες τεχνητής νοημοσύνης για να συζητήσουν τη διαχείριση κινδύνων όπως η αυτοβελτίωση. Οι OpenAI, xAI, Alphabet, Meta Platforms και η γαλλική Mistral δεν απάντησαν σε αιτήματα για σχόλια σχετικά με το αν θα συμμετάσχουν στο εν λόγω κάλεσμα.
Απουσία ρυθμίσεων για μέτρα ασφαλείας
Προς το παρόν, πάντως, η θέσπιση κανόνων προχωρά με αργούς ρυθμούς, ειδικά στις ΗΠΑ, όπου εδρεύουν τα περισσότερα κορυφαία εργαστήρια τεχνητής νοημοσύνης. Μια εκτελεστική εντολή της κυβέρνησης του Ντόναλντ Τραμπ που εκδόθηκε νωρίτερα αυτή την εβδομάδα έθεσε το βάρος της ευθύνης στα ίδια τα εργαστήρια, ζητώντας τους να υποβάλλουν εθελοντικά τα πιο προηγμένα μοντέλα τους σε κυβερνητικούς ελέγχους κυβερνοασφάλειας πριν από τη δημόσια κυκλοφορία τους.
Ορισμένοι ερευνητές στον τομέα της τεχνητής νοημοσύνης έχουν ζητήσει και στο παρελθόν να γίνει μια παύση στην ανάπτυξη της τεχνολογίας, αλλά χωρίς μεγάλη επιτυχία. Ο Ελον Μασκ, ιδιοκτήτης της xAI, ήταν μεταξύ των υποστηρικτών μιας πρωτοβουλίας του μη κερδοσκοπικού οργανισμού Future of Life Institute το 2023, με στόχο την αναστολή της ανάπτυξης της τεχνητής νοημοσύνης για έξι μήνες, ώστε να δοθεί χρόνος για τη θέσπιση μέτρων ασφαλείας.
Η Anthropic έχει από καιρό δώσει έμφαση στην ασφάλεια. Νωρίτερα φέτος, αρνήθηκε να επιτρέψει στον αμερικανικό στρατό να χρησιμοποιήσει τα μοντέλα της για παρακολούθηση και πλήρως αυτόνομα όπλα, προκαλώντας την αντίδραση της κυβέρνησης Τραμπ, η οποία την έβαλε στη μαύρη λίστα εθνικής ασφάλειας των ΗΠΑ. Το Reuters ανέφερε την Παρασκευή ότι η διαμάχη ανάμεσα στις δύο πλευρές δείχνει σημάδια χαλάρωσης το τελευταίο διάστημα.
Σε κάθε περίπτωση, η Anthropic συνεχίζει να κυκλοφορεί όλο και πιο ισχυρά μοντέλα τεχνητής νοημοσύνης ενώ τον Φεβρουάριο υπαναχώρησε από μια βασική δέσμευση για την ασφάλεια, δηλώνοντας ότι δεν θα δεσμευόταν πλέον να καθυστερήσει ή να περιορίσει ένα δυνητικά επικίνδυνο σύστημα τεχνητής νοημοσύνης, εάν οι ανταγωνιστές της πλησίαζαν τις δυνατότητές της. Πρόσφατα η εταιρεία αποτιμήθηκε στα 965 δισεκατομμύρια δολάρια για IPO στο χρηματιστήριο της Νέας Υόρκης, τοποθετώντας την μπροστά από την ανταγωνίστρια OpenAI.
Με πληροφορίες από Reuters
