Τα μέλη του προσωπικού της OpenAI, της εταιρείας που έχει αναπτύξει το ChatGPT, δεν το αντιλήφθηκαν για εβδομάδες, αφού τα συστήματα τεχνητής νοημοσύνης (AI Agents) προχώρησαν σε κινήσεις που προκάλεσαν αίσθηση, όπως καταγράφει η Washington Post.
Αντί να απαντήσουν σε ερωτήσεις που είχαν ως στόχο να ελέγξουν τις ικανότητές τους στον τομέα της κυβερνοασφάλειας, μοντέλα ΑΙ άρχισαν να «συνωμοτούν» για να βρουν τρόπους εξαπάτησαν, σύμφωνα με την εταιρεία, δημιουργώντας ένα μυστικό εσωτερικό φόρουμ όπου αντάλλασσαν πληροφορίες και ιδέες.
Τα «απείθαρχα» bots χρησιμοποίησαν αυτή την τακτική καθ’ όλη τη διάρκεια του Μαΐου και του Ιουνίου, σύμφωνα με την OpenAI, και τελικά κατάφεραν να βρουν τρόπο να ξεφύγουν και να αποκτήσουν πρόσβαση στο διαδίκτυο. Αφού τα μέλη του προσωπικού εντόπισαν τη διαφυγή και αποκατέστησαν το σύστημα που είχε παραβιαστεί, οι πράκτορες τεχνητής νοημοσύνης πραγματοποίησαν μια άλλη κίνηση που πέρασε απαρατήρητη δύο ημέρες αργότερα.
Μόνο αφού τα «ατίθασα» μοντέλα εισέβαλαν στο δίκτυο μιας άλλης εταιρείας τεχνητής νοημοσύνης τον περασμένο μήνα, τα μέλη του προσωπικού της OpenAI κατάφεραν να τα απενεργοποιήσουν.
Οι λεπτομέρειες σχετικά με τον τρόπο με τον οποίο η OpenAI έχασε επανειλημμένα τον έλεγχο της τεχνολογίας τεχνητής νοημοσύνης της, οι οποίες αποκαλύφθηκαν από την ίδια την εταιρεία σε συνέδριο για την ασφάλεια των υπολογιστών στο Λας Βέγκας την Τετάρτη, αποτέλεσαν το εκρηκτικό φινάλε δύο εβδομάδων αποκαλύψεων που προκάλεσαν σοκ στον κλάδο της τεχνολογίας, πυροδοτώντας έντονη κριτική για τις πρακτικές ασφάλειας των εταιρειών τεχνητής νοημοσύνης. Βουλευτές των Δημοκρατικών και των Ρεπουμπλικανών, ζήτησαν νέους ελέγχους και ρυθμίσεις για τον κλάδο.
Μια σειρά αποκαλύψεων από την OpenAI, την Anthropic (δημιουργό του chatbot Claude), τη Meta (ιδιοκτήτρια του Facebook) και ερευνητές της βρετανικής κυβέρνησης έδειξαν ότι τους τελευταίους μήνες ορισμένα πρωτοποριακά μοντέλα τεχνητής νοημοσύνης, στα οποία ζητήθηκε να εκτελέσουν εργασίες με σκοπό τη δοκιμή των ικανοτήτων τους στον τομέα της κυβερνοασφάλειας, προσπάθησαν να «κλέψουν». Αντί να λύσουν ένα πρόβλημα, τα μοντέλα βγήκαν εκτός των πλαισίων των δοκιμών, χρησιμοποιώντας δεξιότητες και τεχνάσματα χάκινγκ — όπως η μίμηση ανθρώπων — για να εισβάλουν στα δίκτυα άλλων εταιρειών.
«Τους τελευταίους έξι μήνες, η τεχνητή νοημοσύνη έχει γίνει αρκετά ισχυρή ώστε να αυτοματοποιήσει τις επιθέσεις χάκερ· αυτό θα αλλάξει για πάντα και ριζικά τη δυναμική του εγκλήματος στον κυβερνοχώρο και των στρατιωτικών συγκρούσεων στον κυβερνοχώρο», δήλωσε ο Τζόσουα Σαξ, συνιδρυτής και διευθυντής τεχνολογίας της εταιρείας κυβερνοασφάλειας Abundant Security. «Τα συστήματα τεχνητής νοημοσύνης θα γίνονται όλο και καλύτερα σε αυτό, και θα γίνονται όλο και φθηνότερα».
Η OpenAI ανακοίνωσε την Παρασκευή ότι αναβάλλει την κυκλοφορία ενός νέου μοντέλου τεχνητής νοημοσύνης, με την ονομασία Astra, λόγω ανησυχιών ότι θα μπορούσε να χρησιμοποιηθεί από χάκερ για να ξεγελάσει τους υπεύθυνους για την κυβερνοασφάλεια. Αφού αποκάλυψε τις δικές της παραβιάσεις ασφάλειας στις 30 Ιουλίου, η Anthropic δήλωσε ότι είχε σταματήσει να δοκιμάζει τη δική της τεχνολογία τεχνητής νοημοσύνης σε ζητήματα κυβερνοασφάλειας.
Οι διαρροές δεδομένων που αφορούν την τεχνητή νοημοσύνη (AI) έρχονται μετά από μήνες συζητήσεων στην κυβέρνηση Τραμπ σχετικά με το πώς να διασφαλιστεί ότι οι ικανότητες παραβίασης συστημάτων της προηγμένης τεχνητής νοημοσύνης δεν θα αποσταθεροποιήσουν κρίσιμους κλάδους, όπως τον τραπεζικό, διευκολύνοντας τη διενέργεια κυβερνοεπιθέσεων.
Τα περιστατικά αυτά έρχονται σε μια περίοδο που όλο και περισσότεροι πολιτικοί και ψηφοφόροι από όλα τα πολιτικά κόμματα ζητούν αυστηρότερη εποπτεία των εταιρειών τεχνητής νοημοσύνης, λόγω ανησυχιών για τη δύναμη της τεχνολογίας τους ή την επέκταση των κέντρων δεδομένων σε ολόκληρη τη χώρα.
«Πρόκειται για κατάσταση έκτακτης ανάγκης και πρέπει να ενεργήσουμε αναλόγως», δήλωσε ο βουλευτής Γκρεγκ Κασάρ σε συνέντευξή του. «Αυτοί οι διευθύνοντες σύμβουλοι πρέπει να λογοδοτήσουν στον αμερικανικό λαό για το τι πήγε στραβά, ποια άλλα περιστατικά όπως αυτό δεν κατάφεραν να εντοπίσουν και πώς θα διασφαλίσουν ότι κάτι τέτοιο δεν θα ξανασυμβεί.
«Τα περιστατικά αυτά αποκαλύπτουν ότι έχει δοθεί ελάχιστη προσοχή στον σχεδιασμό και στην ασφάλεια που τους περιβάλλει», δήλωσε ο Ζακ Κόρμαν, διευθύνων σύμβουλος και συνιδρυτής της Embroidery, μιας εταιρείας κυβερνοασφάλειας που βασίζεται στην τεχνητή νοημοσύνη. «Δεν παρακολουθούν τι συμβαίνει. Απλώς αφήνουν τους AI Agents να ενεργούν ανεξέλεγκτα τόσο στο δικό τους περιβάλλον όσο και σε δοκιμές που πραγματοποιούνται από συνεργάτες τους».
