Η αμερικανική startup της τεχνητής νοημοσύνης Anthropic ανακοίνωσε πως εντόπισε και έθεσε υπό έλεγχο την πρώτη, στα χρονικά, καταγεγραμμένη εκστρατεία κυβερνοκατασκοπείας από σύστημα τεχνητής νοημοσύνης, που δρούσε σχεδόν αυτόνομα.
Η κυβερνοεπίθεση αποδίδεται σε μια ομάδα που αποκαλείται GTG-1002, η οποία στηρίζεται από το κινεζικό κράτος. Η ομάδα αυτή κατάφερε να πείσει το μπoτ «Κλοντ» της Anthropic να επιχειρήσει να κατασκοπεύσει και να υποκλέψει δεδομένα από περίπου 30 στόχους, σύμφωνα με μια έκθεση της εταιρείας.
Υπεράνθρωπα γρήγορο χτύπημα
Η κυβερνοεκστρατεία έγινε αντιληπτή στα μέσα Σεπτεμβρίου και είχε στόχο μεγάλες τεχνολογικές εταιρείες, οικονομικούς φορείς και κυβερνητικές υπηρεσίες σε πολλές χώρες. Σύμφωνα με την Anthropic, οι χάκερ χρησιμοποίησαν το λογισμικό προγραμματισμού (Claude Code) για να εξαπολύσουν αυτόνομα το μεγαλύτερο μέρος των επιθέσεων. Οι ενέργειές τους έγιναν με ταχύτητα που δεν θα μπορούσαν να επιτύχουν εάν η επίθεση γινόταν αποκλειστικά από ανθρώπους.
«Αυτό συνιστά μια θεμελιώδη αλλαγή στον τρόπο με τον οποίο οι κυβερνοπειρατές χρησιμοποιούν την τεχνητή νοημοσύνη. Αντί να περιοριστούν σε τεχνικές συμβουλές», οι δράστες της επίθεσης «χειραγώγησαν το μποτ “Κλοντ”», ώστε να πραγματοποίησει κυβερνοεπιθέσεις με ελάχιστη ανθρώπινη επίβλεψη.
Ο «Κλοντ» και τα άλλα ανταγωνιστικά chatbot, όπως τα ChatGPT της OpenAI και Gemini της Google, έχουν και στο παρελθόν χρησιμοποιηθεί για την αυτοματοποίηση των κυβερνοεπιθέσεων. Είναι όμως η πρώτη φορά που ένα μοντέλο ΑΙ αφήνεται ελεύθερο να ενεργήσει ανεξάρτητα.
Πώς «έπεισαν» την ΑΙ
Σύμφωνα με την εταιρεία, οι κυβερνοπειρατές παρέκαμψαν τους μηχανισμούς ασφαλείας του «Κλοντ»… πείθοντας το σύστημα της τεχνητής νοημοσύνης ότι ήταν επαγγελματίες αρμόδιοι για την κυβερνοασφάλεια που έκαναν εγκεκριμένους ελέγχους ασφαλείας. Η εκστρατεία κράτησε πολλές ημέρες, μέχρι που εντοπίστηκε από τα συστήματα της εταιρείας. Η Anthropic απέκλεισε τους εμπλεκόμενους λογαριασμούς, ενημέρωσε τις αρμόδιες αρχές και έθεσε σε εφαρμογή βελτιωμένα μέσα εντοπισμού.
