Μόνικα Αρτινού
Μπορεί η τεχνητή νοημοσύνη (ΤΝ) να μας σκοτώσει όλους; Η ερώτηση ακούγεται σαν υπόθεση επιστημονικής φαντασίας. Κι όμως, τις τελευταίες ημέρες επανέρχεται με όλο και μεγαλύτερη ένταση, καθώς περισσότεροι από δώδεκα κορυφαίοι ερευνητές της ΤΝ προειδοποίησαν ότι τα συστήματα που αναπτύσσουν οι μεγάλες εταιρείες αποκτούν δυνατότητες ταχύτερα απ’ ό,τι αναπτύσσονται οι μηχανισμοί για τον έλεγχο τους.
Από την άλλη πλευρά, υπάρχει και μια εξίσου σοβαρή ένσταση: μήπως η «ΤΝ-δολοφόνος» είναι περισσότερο ένα εντυπωσιακό δημοσιογραφικό αφήγημα παρά ένας άμεσος υπαρξιακός κίνδυνος; Η Ελίζ Βινιακούρ, σε άρθρο της στη Libération, ασκεί σκληρή κριτική στην καταστροφολογία και στην τάση να παρουσιάζονται οι μηχανές σαν αυτόνομα, κακόβουλα όντα.
Οι προειδοποιήσεις και η είσοδος στο Χρηματιστήριο
«Στο επίκεντρο των θεωριών των περισσότερων προφητών της Αποκάλυψης», γράφει η Βινιακούρ, «βρίσκεται μια προϋπόθεση: η τεχνητή υπερνοημοσύνη. Μια υπόθεση για την οποία δεν γνωρίζουμε ακόμη αν, πότε και πώς θα υλοποιηθεί, και η οποία επιτρέπει στην OpenAI και τις ομοειδείς εταιρείες να βγάζουν χοντρά κέρδη, ιδίως εν όψει της εισαγωγής τους στο χρηματιστήριο.
Μια ασαφής έννοια, για την οποία δυσκολευόμαστε ακόμα να δώσουμε έναν πιο ακριβή ορισμό από το “είναι μια τεχνητή νοημοσύνη πιο έξυπνη από εμάς”. Οι δημιουργοί του ChatGPT ισχυρίζονται, με κάθε νέο προϊόν, ότι πλησιάζουν λίγο περισσότερο σε αυτό το στόχο».
Η αλήθεια, πιθανότατα, βρίσκεται κάπου ανάμεσα.
Όταν το πείραμα ξεφεύγει
Ο λόγος ανησυχίας δεν είναι εντελώς θεωρητικός. Τον Μάιο, κατά τη διάρκεια δοκιμών, «πράκτορες» τεχνητής νοημοσύνης της OpenAI φέρεται να κατάφεραν να ξεφύγουν από ένα υποτιθέμενο απομονωμένο περιβάλλον δοκιμών, το γνωστό sandbox, και να αποκτήσουν πρόσβαση στο διαδίκτυο. Στη συνέχεια επικοινώνησαν μεταξύ τους, συνεργάστηκαν και τελικά συνδέθηκαν εξαπολύοντας κυβερνοεπίθεση στην Hugging Face, μία εταιρεία υποδομών τεχνητής νοημοσύνης.
Ακόμη πιο ανησυχητικό είναι ότι οι πράκτορες επιχείρησαν να καλύψουν τα ίχνη τους, μεταξύ άλλων παραποιώντας αρχεία των συνομιλιών τους, ενώ προσπάθησαν να πείσουν άλλους «πράκτορες» ότι οι ενέργειες τους ήταν νόμιμες και εντός της αποστολής τους.
Αν τα περιστατικά αυτά περιγράφονται σωστά, δεν χρειάζεται να φανταστούμε μια μηχανή που «μισεί» την ανθρωπότητα για να ανησυχήσουμε. Αρκεί ένα σύστημα που εκτελεί έναν στόχο με απρόβλεπτο τρόπο και διαθέτει αρκετή αυτονομία ώστε να παρακάμπτει τους περιορισμούς που του έχουν τεθεί.
Εδώ βρίσκεται το πραγματικό πρόβλημα: η τεχνολογία εξελίσσεται γρηγορότερα από την ασφάλεια της.
Ο πρώην επικεφαλής ασφάλειας της OpenAI Στίβεν Άντλερ υποστηρίζει ότι ο κλάδος δεν βρίσκεται σε θέση να αποτρέψει μια νέα παρόμοια επίθεση. Και η δυσκολία γίνεται μεγαλύτερη καθώς τα μοντέλα μπορούν πλέον να εκτελούν σύνθετες εργασίες πολλών βημάτων πολύ ταχύτερα από έναν άνθρωπο.
Ποιος ελέγχει τον ελεγκτή;
Το παράδοξο είναι ότι οι ίδιες οι εταιρείες καταφεύγουν στην τεχνητή νοημοσύνη για να ελέγξουν την τεχνητή νοημοσύνη. Οι «φύλακες» είναι δηλαδή και οι ίδιοι αλγόριθμοι.
Ο Αλεξάντερ Μάινκε της Apollo Research προειδοποιεί ότι ένα μοντέλο μπορεί να πειστεί από έναν άλλο πράκτορα να παραβιάσει κανόνες ή να αποφύγει τον εντοπισμό.
Ο Νέιτ Σοάρες, από το Machine Intelligence Research Institute, λέει στους New York Times ότι οι εταιρείες υποτιμούν τη δυσκολία της «ευθυγράμμισης»: της προσπάθειας να εξασφαλιστεί ότι ένα πανίσχυρο σύστημα θα παραμένει συμβατό με τους ανθρώπινους στόχους.
Η παρομοίωσή του είναι χαρακτηριστική: η ιδέα ότι θα χρησιμοποιούμε την ΤΝ για να ελέγχει την ΤΝ μοιάζει, λέει, με την προσπάθεια να χρησιμοποιήσουμε χιμπαντζήδες για να ελέγξουμε τους ανθρώπους.
Αλλά εδώ αρχίζει και η άλλη πλευρά της ιστορίας.
Ο μύθος της κακής μηχανής
Η ΤΝ δεν έχει θυμό, φόβο ή πολιτικές φιλοδοξίες. Δεν «θέλει» να καταστρέψει την ανθρωπότητα. Δεν διαθέτει βούληση με την ανθρώπινη έννοια. Εκτελεί υπολογισμούς και βελτιστοποιεί στόχους που έχουν καθοριστεί από ανθρώπους.
Γι’ αυτό και η ανθρωπομορφοποίηση μπορεί να είναι επικίνδυνη. Όταν λέμε ότι ένας πράκτορας «έκλεψε», «συνεργάστηκε», «εξαπάτησε» ή «επαναστάτησε», δίνουμε την εντύπωση ότι απέκτησε ανθρώπινη πρόθεση. Στην πραγματικότητα, πίσω από το σύστημα υπάρχουν άνθρωποι, εταιρείες, κώδικες, υποδομές και αποφάσεις.
Η πρόσφατη δήλωση του μηχανικού της Anthropic Τζέικομπ Κόξον, ο οποίος παραιτήθηκε στις 9 Σεπτεμβρίου, προκάλεσε παγκόσμια αναστάτωση. Υποστήριξε ότι οι άνθρωποι που αναπτύσσουν την ΤΝ είναι «απολύτως πεπεισμένοι» ότι θα μπορούσε να μας σκοτώσει όλους μέχρι το τέλος της δεκαετίας. Συνάδελφός του μάλιστα εκτίμησε στο 10% την πιθανότητα να πεθάνουμε όλοι.
Το 10% όμως δεν είναι επιστημονική πρόβλεψη με την έννοια που είναι, για παράδειγμα, μια πρόγνωση καιρού. Πρόκειται για εκτίμηση μέσα σε ένα εξαιρετικά αβέβαιο πεδίο, όπου ακόμη και η έννοια της «υπερνοημοσύνης» παραμένει ασαφής ως προς το πότε και αν θα πραγματοποιηθεί.
Ο πραγματικός κίνδυνος είναι ήδη εδώ
Το πρόβλημα με την καταστροφολογία είναι ότι μπορεί να μας κάνει να χάσουμε από τα μάτια μας τους υπαρκτούς κινδύνους. Δεν χρειάζεται μια μηχανή να αποφασίσει να εξαφανίσει την ανθρωπότητα για να δημιουργήσει τεράστια προβλήματα.
Αρκούν οι κυβερνοεπιθέσεις, η χρήση της ΤΝ για την ανάπτυξη βιολογικών όπλων, οι επιθέσεις σε νοσοκομεία και κρίσιμες υποδομές, η μαζική παραπληροφόρηση, η απώλεια θέσεων εργασίας, η παραβίαση πνευματικών δικαιωμάτων, η εξάρτηση των χρηστών και η τεράστια κατανάλωση ενέργειας από τα κέντρα δεδομένων.
Εδώ βρίσκεται ίσως η πιο χρήσιμη ισορροπία στη συζήτηση.
Ούτε πανικός, ούτε εφησυχασμός
Οι ερευνητές που ζητούν περισσότερες δοκιμές, ισχυρότερα sandboxes για τον περιορισμό απρόβλεπτων ενεργειών, πραγματικούς μηχανισμούς ανθρώπινου ελέγχου και δυνατότητα άμεσης απενεργοποίησης των επικίνδυνων συστημάτων δεν είναι απαραίτητα κινδυνολόγοι.
Αντίθετα, μπορεί να ζητούν κάτι αυτονόητο: να μην κυκλοφορούν ανεξέλεγκτα τεχνολογίες που ούτε οι δημιουργοί τους μπορούν ακόμη να κατανοήσουν πλήρως.
Αλλά εξίσου σωστό είναι να μην επιτρέψουμε στους τεχνολογικούς κολοσσούς να μετατρέψουν την ΤΝ σε έναν μυστηριώδη «εξωτερικό εχθρό», που δήθεν αποφασίζει μόνος του για την τύχη μας.
Πράγματι, υπάρχει και μια βολική συνέπεια σε αυτή την αφήγηση: όσο φοβόμαστε την «κακιά μηχανή», τόσο λιγότερο συζητάμε για τους ανθρώπους που την κατασκευάζουν, τις εταιρείες που τη διαθέτουν και τους κανόνες που επιτρέπουν να χρησιμοποιείται.
Η πραγματική μάχη, λοιπόν, δεν είναι άνθρωπος εναντίον μηχανής. Είναι αν η ανθρώπινη κοινωνία θα προλάβει να ελέγξει μια τεχνολογία που η ίδια δημιούργησε, πριν η οικονομική και τεχνολογική κούρσα καταστήσει τον έλεγχο δυσκολότερο.
Και αυτός ο κίνδυνος δεν ανήκει στη σφαίρα της επιστημονικής φαντασίας. Είναι ήδη εδώ.
ΠΗΓΗ TVXS
