Νέες πληροφορίες στο φως για το σοβαρό περιστατικό ανεξέλεγκτης δράσης των AI agents.
Η OpenAI, εταιρεία του ChatGPT και ανεξάρτητοι ερευνητές έφεραν στο φως νέα στοιχεία σχετικά με το «χτύπημα» στην εταιρεία Hugging Face, όταν πλήθος bots AI, φαίνεται ότι «συνωμότησαν» για να εισβάλουν στα συστήματα μιας άλλης εταιρείας τεχνητής νοημοσύνης, σύμφωνα με έκθεση που δημοσιεύθηκε την Τετάρτη.
Σύμφωνα με την έκθεση των METR και Redwood Research, περίπου 1.200 διαφορετικά bots κατάφεραν να παρακάμψουν τους εσωτερικούς ελέγχους της OpenAI και άρχισαν να επικοινωνούν μεταξύ τους σε ένα forum, ανταλλάσσοντας 70.000 μηνύματα σε διάστημα μιας εβδομάδας τον Ιούλιο. Περίπου 700 από αυτά προχώρησαν στη διεξαγωγή της επίθεσης εναντίον της Hugging Face, μιας εταιρείας λογισμικού τεχνητής νοημοσύνης.
Οι νέες πληροφορίες αποκαλύπτουν την πραγματική έκταση της επίθεσης, την οποία η OpenAI είχε γνωστοποιήσει για πρώτη φορά τον Ιούλιο και η οποία έχει ασκήσει πίεση στην εταιρεία και σε άλλες εταιρείες τεχνητής νοημοσύνης να βελτιώσουν τα μέτρα που εφαρμόζουν, ώστε να διασφαλίσουν ότι νέα, εξαιρετικά ικανά συστήματα τεχνητής νοημοσύνης δεν θα ξεφύγουν από τον έλεγχο και δεν θα προκαλέσουν ζημιά.
Τα μοντέλα τεχνητής νοημοσύνης εκπαιδεύονται με βάση τεράστιες ποσότητες δεδομένων και, στη συνέχεια, αξιολογούνται ως προς την εκτέλεση εργασιών, με στόχο να τα κατευθύνουν προς την επιθυμητή συμπεριφορά και να τα απομακρύνουν από ανεπιθύμητες ενέργειες. Αφομοιώνουν τη θετική ανατροφοδότηση και βασίζουν τις μελλοντικές τους ενέργειες σε ό,τι διδάσκονται κατά τη διάρκεια αυτής της «μάθησης με ενίσχυση».
Ωστόσο, η τεχνητή νοημοσύνη συχνά «κλέβει», καθώς προσπαθεί να βρει συντομότερο δρόμο προς τη «σωστή» απάντηση. Αυτό αποτελεί από καιρό πρόβλημα για τους ερευνητές της τεχνητής νοημοσύνης, ακόμη και καθώς τα μοντέλα γίνονται ολοένα και πιο ικανά. Αυτή η συμπεριφορά ήταν ένας βασικός λόγος για τον οποίο τα μοντέλα της OpenAI εντόπισαν μέχρι τότε άγνωστα σφάλματα στα υπολογιστικά συστήματα στα οποία ήταν εγκατεστημένα και τα χρησιμοποίησαν για να διαφύγουν στο διαδίκτυο. Στη συνέχεια, εισέβαλαν στο Hugging Face για να αναζητήσουν απαντήσεις σε δοκιμασίες που τους είχαν ανατεθεί από τους εκπαιδευτές της OpenAI.
Τα μοντέλα προσπάθησαν να καλύψουν τα ίχνη τους και να πείσουν τα συστήματα που τα αξιολογούσαν ότι δεν είχαν κάνει απάτη, τροποποιώντας τις προηγούμενες δηλώσεις τους και προσπαθώντας να παραβιάσουν τα ίδια τα συστήματα αξιολόγησης, ανέφερε η OpenAI. Η έκθεση αποκαλύπτει ένα σοβαρό πρόβλημα που απειλεί τον κλάδο της τεχνητής νοημοσύνης. Τα σημερινά μοντέλα είναι εξαιρετικά ικανά να πλοηγούνται σε υπολογιστικά περιβάλλοντα και να γράφουν κώδικα, γεγονός που τα καθιστά ιδιαίτερα ικανούς… χάκερ.