Τα σκάνδαλα για υποψία χρήσης τεχνητής νοημοσύνης στον χώρο της λογοτεχνίας έχουν ανοίξει μία τεράστια συζήτηση γύρω από τα ενδεχόμενα λάθους, προκατάληψης ή αδικίας απέναντι σε συγγραφείς, ενώ όλα αυτά θυμίζουν τη δυστοπική εκδοχή του κόσμου που παρουσιάζεται στην ταινία «Blade Runner».
Στις 6 Οκτωβρίου, ο Ζιμπαμπουανός συγγραφέας Simbarashe Kundizeza κέρδισε το βραβείο Caine για την αφρικανική λογοτεχνία, για το διήγημά του «The Blue Fighter». Λιγότερο από μία εβδομάδα αργότερα, το περιοδικό The Atlantic δημοσίευσε ένα άρθρο στο οποίο υποστήριζε ότι ο αφηγητής της ιστορίας «έχει τόση προσωπικότητα όση και ένα chatbot».
«Το εργαλείο ανίχνευσης τεχνητής νοημοσύνης Pangram επισημαίνει σχεδόν ολόκληρο το διήγημα ως κείμενο που δημιουργήθηκε από AI», ανέφερε το άρθρο.
Ο Kundizeza αρνήθηκε ότι είχε χρησιμοποιήσει οποιαδήποτε τέτοια τεχνολογία. «Προς αποφυγή κάθε αμφιβολίας, το “The Blue Fighter” το έγραψα εγώ. Δεν χρησιμοποίησα τεχνητή νοημοσύνη για να το γράψω. Είναι δικό μου έργο», έγραψε σε δήλωσή του στην πλατφόρμα X.
Το βραβείο Caine, το οποίο συνοδεύεται από χρηματικό έπαθλο 10.000 λιρών, είχε γίνει το πιο πρόσφατο πεδίο μιας σύγκρουσης που σαρώνει τον λογοτεχνικό κόσμο, με κινητήρια δύναμη τα εργαλεία συγγραφής τεχνητής νοημοσύνης και τα συστήματα ανίχνευσης κειμένων που έχουν παραχθεί από AI.
Σε αναβρασμό ο κλάδος της συγγραφής
Τα σκάνδαλα σχετικά με υποψίες χρήσης τεχνητής νοημοσύνης έχουν εξαπλωθεί σε ολόκληρο τον κλάδο της συγγραφής μέσα στη φετινή χρονιά. Τον Μάρτιο, ο εκδοτικός οίκος Hachette ακύρωσε την κυκλοφορία στις ΗΠΑ του μυθιστορήματος «Shy Girl» της Mia Ballard, το οποίο είχε αυτοεκδοθεί το 2025, μετά από δημοσίευμα των New York Times που ανέφερε ότι ενδέχεται να είχε γραφτεί με τη βοήθεια AI.
Τον Μάιο, ο Τζαμιρ Ναζίρ, συγγραφέας από το Τρινιντάντ, κατηγορήθηκε ότι χρησιμοποίησε τεχνητή νοημοσύνη για να γράψει το «The Serpent in the Grove», το οποίο κέρδισε το Βραβείο Διηγήματος.
Τον Ιούλιο, ερευνητές του Πανεπιστημίου Stony Brook υποστήριξαν ότι σύμφωνα με ένα σύνολο δεδομένων που κοινοποιήθηκε στο The Atlantic, το «Daggermouth» του H. M. Wolfe -ένα βιβλίο που βρέθηκε στην κορυφή των εθνικών καταλόγων ευπώλητων – είχε γραφτεί κατά 60% με τη βοήθεια τεχνητής νοημοσύνης.
Οι κατηγορίες συνεχίστηκαν. Τον Ιούλιο, ο πρωτοεμφανιζόμενος συγγραφέας Jerry Falade έχασε μια συμφωνία έκδοσης βιβλίου αξίας 2 εκατομμυρίων δολαρίων, αφού οι εκπρόσωποί του απέσυραν το πρώτο του μυθιστόρημα λόγω υποψιών ότι είχε χρησιμοποιήσει εργαλεία συγγραφής AI. Τον Σεπτέμβριο, ο ισχυρισμός ότι ένα βιβλίο του Αϊτινοκαναδού συγγραφέα Thélyson Orélien δεν είχε περάσει έναν έλεγχο ανίχνευσης τεχνητής νοημοσύνης οδήγησε την επιτροπή του περίβλεπτου βραβείου Goncourt να τον αφαιρέσει από τη μακρά λίστα υποψηφίων.
Καθώς η τεχνητή νοημοσύνη εξαπλώνεται, είναι ευκολότερο από ποτέ για έναν συγγραφέα ή για κάποιον που θέλει να εμφανίζεται ως συγγραφέας να δημιουργήσει ένα κείμενο που μοιάζει με διήγημα ή βιβλίο. Ταυτόχρονα, είναι δυσκολότερο από ποτέ για έναν αναγνώστη, έναν κριτή βραβείων ή έναν εκδότη να είναι βέβαιος ότι οι λέξεις στη σελίδα προέκυψαν από ανθρώπινη σκέψη και προσπάθεια και όχι από μια εντολή προς μια μηχανή.
Ένας δυστοπικός κόσμος
Το αποτέλεσμα θυμίζει τη δυστοπική εκδοχή του κόσμου που παρουσιάζεται στην ταινία «Blade Runner». Η ανησυχία και η καχυποψία για την εισβολή των ρομπότ βρίσκονται παντού, όπως και οι άνθρωποι που ισχυρίζονται ότι μπορούν να τα εντοπίσουν.
Πολλές εταιρείες προσφέρουν πλέον προϊόντα που υπόσχονται να ξεχωρίζουν τα ανθρώπινα κείμενα από εκείνα που δημιουργούνται από τεχνητή νοημοσύνη, συχνά όμως με αντιφατικά, μεροληπτικά ή απρόβλεπτα αποτελέσματα. Οι δημιουργοί του Pangram, μιας πλατφόρμας ανίχνευσης AI που έχει προβληθεί ως αυθεντία σε αρκετές από τις πρόσφατες αντιπαραθέσεις, υποστηρίζουν ότι το εργαλείο τους μπορεί να διακρίνει την ανθρώπινη από τη συνθετική γραφή με σχεδόν απόλυτη ακρίβεια.
«Προσπαθούμε να περιορίσουμε ορισμένες από τις βλάβες που προκαλούνται από αυτά τα ισχυρά μοντέλα τεχνητής νοημοσύνης», δήλωσε ο Max Spero, διευθύνων σύμβουλος και ιδρυτής της Pangram.
Ο Spero παραδέχεται πρόθυμα ότι δεν έχει υπόβαθρο στη λογοτεχνία ή στη δημιουργική γραφή. Είναι μηχανικός μηχανικής μάθησης και στο παρελθόν εργάστηκε ως μηχανικός λογισμικού στην Google και στην εταιρεία αυτόνομων οχημάτων Nuro, προτού ιδρύσει την Pangram το 2023.
«Είμαι φανατικός αναγνώστης. Δεν υπήρξα ποτέ συγγραφέας. Δεν έχω ζήσει μέσα σε αυτόν τον κόσμο», είπε.
Παρόλα αυτά, ο Spero παρουσιάζει το Pangram ως μέσο προστασίας των περιοδικών και των λογοτεχνικών εντύπων που αποτελούν τον πυρήνα του λογοτεχνικού οικοσυστήματος.
«Πολλά από αυτά τα έντυπα κατακλύζονται από υποβολές έργων, επειδή πληρώνουν τους συγγραφείς που δημοσιεύουν και δεν χρεώνουν τίποτα για την αποστολή κειμένων», ανέφερε. «Η τεχνητή νοημοσύνη καθιστά τη δημιουργία κειμένων σχεδόν δωρεάν, δημιουργώντας στρεβλά κίνητρα. Στόχος μας είναι να μειώσουμε το βάρος της άμυνας, βοηθώντας τους ανθρώπους να καταλάβουν ποια κείμενα έχουν γραφτεί με AI και ποια όχι».
Πώς ακούγεται ένα ρομπότ;
Το Pangram προσέλκυσε ευρεία δημόσια προσοχή τον Μάιο, όταν το Ίδρυμα της Κοινοπολιτείας ανακοίνωσε ότι το «The Serpent in the Grove» του Ναζίρ ήταν ανάμεσα στα έργα που διακρίθηκαν στον διαγωνισμό του.
Το διήγημα ήταν γραμμένο με περίτεχνο ύφος και μεταφορικές εκφράσεις που σε ορισμένους αναγνώστες φάνηκαν υπερβολικές ή παράξενες.
Πολλοί δήλωσαν ότι διέκριναν χαρακτηριστικά γνωρίσματα της γραφής των chatbot. Γύρω από τον πεζό λόγο που παράγεται από παραγωγική τεχνητή νοημοσύνη έχει ήδη δημιουργηθεί μια ολόκληρη λαογραφία, με υποτιθέμενα γλωσσικά μοτίβα που προδίδουν τη «φωνή του ρομπότ».
Ένας από τους πρώτους πανικούς γύρω από την AI αφορούσε την υποτιθέμενη υπερβολική χρήση της μεγάλης παύλας (em dash), ένας υπερβολικός ισχυρισμός ειδικά για τους δημοσιογράφους οι οποίοι χρησιμοποιούσαν επί χρόνια αυτήν τη στίξη για να παρεμβάλλουν σχόλια μέσα στις προτάσεις τους. Άλλοι επιμένουν ότι τα στοιχεία που προδίδουν τη χρήση AI είναι διατυπώσεις όπως «Δεν είναι το Χ, αλλά το Υ», πομπώδεις περιγραφές με λέξεις, ή από την τάση να παρουσιάζονται τα πράγματα σε ομάδες των τριών.
Ωστόσο, ο λόγος για τον οποίο τέτοιες εκφράσεις εμφανίζονται στα κείμενα της τεχνητής νοημοσύνης είναι ότι χρησιμοποιούνταν ήδη ευρέως από τις στρατιές ανθρώπων που έγραψαν τα κείμενα με τα οποία οι εταιρείες AI εκπαίδευσαν τα συστήματά τους.
«Η σαβούρα που παράγει η τεχνητή νοημοσύνη είναι σχεδόν αδύνατο να διακριθεί από την ανθρώπινα γραμμένη σαβούρα, επειδή η AI εκπαιδεύεται πάνω σε κακή γραφή», δήλωσε ο συγγραφέας Patrick Nathan. «Ο λόγος που η AI γράφει άσχημα είναι ότι η συντριπτική πλειονότητα των κειμένων είναι κακή».
Για να στηρίξουν τη βεβαιότητά τους ότι κάτι δεν πήγαινε καλά με το ύφος του διηγήματος, όσοι κατηγόρησαν τον Ναζίρ ότι χρησιμοποίησε AI επικαλέστηκαν και τα αποτελέσματα του Pangram.
«Το Pangram το επισημαίνει ως 100% AI, αλλά, εντάξει, όταν ξέρεις, ξέρεις», έγραψε στο Bluesky ο Ethan Mollick, καθηγητής στη Σχολή Wharton του Πανεπιστημίου της Πενσιλβάνια. Άλλοι ανάρτησαν στιγμιότυπα οθόνης με τα αποτελέσματα του Pangram σαν να ήταν τρόπαια.
Δεν περνά απαρατήρητο στους ανθρώπους του συγγραφικού χώρου ότι ορισμένοι από τους πιο ενθουσιώδεις κυνηγούς της AI προέρχονται από τον τεχνολογικό κλάδο και όχι από τον ίδιο τον λογοτεχνικό κόσμο.
Ύποπτα μοτίβα καχυποψίας
Υπάρχει επίσης το ερώτημα σχετικά με το ποιανού τα έργα υποβάλλονται στο Pangram για έλεγχο και για ποιον λόγο. Η αρχικά ανώνυμη καταγγελία εναντίον του Orélien έγινε από τον Samuel Fitoussi, συντηρητικό αρθρογράφο της γαλλικής εφημερίδας Le Figaro και συγγραφέα του βιβλίου «Woke Fiction». Πολλά από τα σημαντικότερα σκάνδαλα αφορούσαν επίσης συγγραφείς που δεν ήταν λευκοί. Ο Ναζίρ έχει καταγωγή από τη Νότια Ασία, ενώ οι Ballard, Wolfe, Falade, Kundizeza και Orélien είναι μαύροι.
Ο συντηρητικός αρθρογράφος Samuel Fitoussi αποκάλυψε στα μέσα κοινωνικής δικτύωσης ότι είχε κατηγορήσει τον Orélien πως χρησιμοποίησε εργαλεία τεχνητής νοημοσύνης για τη συγγραφή του έργου του.
«Ένα μέρος αυτού του φαινομένου σχετίζεται με το ευρύτερο αντι-woke και αντιμαύρο κλίμα που επικρατεί σε μεγάλο τμήμα του συντηρητικού και δεξιού διαδικτυακού λόγου», δήλωσε ο Doyle D. Calhoun, καθηγητής μετααποικιακών σπουδών στο Πανεπιστήμιο του Κέιμπριτζ.
Ο Calhoun ανέφερε ότι, επί δεκαετίες, το λογοτεχνικό κατεστημένο αποτελούνταν κυρίως από λευκούς άνδρες. Τώρα που αυτή η δημογραφική σύνθεση αλλάζει, καθώς περισσότεροι μη λευκοί συγγραφείς εξασφαλίζουν εκδοτικές συμφωνίες και κερδίζουν βραβεία, αναδύεται μια αυξανόμενη δυσαρέσκεια, ιδιαίτερα στα μέσα κοινωνικής δικτύωσης.
«Μόλις διατυπωθούν αυτές οι κατηγορίες, πολλές από τις οποίες είναι, κατά κάποιον τρόπο, ανεπιβεβαίωτες ή αβάσιμες, ο μηχανισμός των διαδικτυακών μέσων ενημέρωσης μπαίνει σε κατάσταση υπερδραστηριότητας», είπε. Ιστορικά, πρόσθεσε, αυτού του είδους οι κατηγορίες δεν «κολλούν» στους λευκούς συγγραφείς με τον ίδιο τρόπο που κολλούν στους μη λευκούς.
Ο Spero υποστήριξε ότι το Pangram έχει ρυθμιστεί έτσι ώστε να χαρακτηρίζει ένα κείμενο ως προϊόν υποβοήθησης από AI μόνο όταν είναι εξαιρετικά βέβαιο για την ανάλυσή του.
Σύμφωνα με τις εκτιμήσεις της ίδιας της εταιρείας, τα ψευδώς θετικά αποτελέσματα, οι περιπτώσεις, δηλαδή, στις οποίες το εργαλείο αναφέρει λανθασμένα ότι ένα κείμενο γραμμένο από άνθρωπο έχει δημιουργηθεί από AI, είναι μία στις 10.000 και το ποσοστό αυτό μειώνεται. Μελέτες που έχουν αξιολογηθεί από ομότιμους ερευνητές στα Πανεπιστήμια του Σικάγου και των Βρυξελλών υποστηρίζουν αυτόν τον ισχυρισμό. Ωστόσο, μία μελέτη του 2025 από το Πανεπιστήμιο του Μέριλαντ διαπίστωσε ότι το Pangram χαρακτήρισε λανθασμένα ως κείμενα AI το 2% των εγγράφων που εξετάστηκαν.
Μια μελέτη του Πανεπιστημίου Stanford, που δημοσιεύτηκε το 2023, διαπίστωσε ότι τα συστήματα ανίχνευσης κειμένων AI εμφάνιζαν υψηλότερα ποσοστά ψευδώς θετικών αποτελεσμάτων όταν εξέταζαν κείμενα ανθρώπων που δεν είχαν τα αγγλικά ως μητρική γλώσσα. Η μελέτη πραγματοποιήθηκε πριν από τη δημιουργία του Pangram. Η εταιρεία διεξήγαγε εσωτερική έρευνα χρησιμοποιώντας μια βάση δεδομένων κειμένων από ανθρώπους που δεν είχαν τα αγγλικά ως μητρική γλώσσα και ανέφερε ότι το ποσοστό ψευδώς θετικών αποτελεσμάτων ήταν περίπου οκτώ στις 10.000 περιπτώσεις.
Πώς αποδεικνύεις ότι δεν είσαι μηχανή;
Πριν από την εμφάνιση των εργαλείων συγγραφής τεχνητής νοημοσύνης, το μεγαλύτερο παράπτωμα στη συγγραφή ήταν η λογοκλοπή. Η λογοκλοπή, όμως, προϋποθέτει δύο διαφορετικά μέρη και μια κατηγορία που μπορεί να τεκμηριωθεί. Όταν ένας συγγραφέας κλέβει τα λόγια κάποιου άλλου, όλοι μπορούν να εξετάσουν αν αυτό πράγματι συνέβη. Με τη χρήση της AI, τα πράγματα δεν είναι τόσο απλά.
Οι εκδοτικοί οίκοι είναι ιδιαίτερα επιφυλακτικοί απέναντι στην έκδοση βιβλίων που ενδέχεται να έχουν γραφτεί με τεχνητή νοημοσύνη. Οι συγγραφείς, από την πλευρά τους, ανησυχούν μήπως κατηγορηθούν ότι χρησιμοποίησαν AI και αναγκαστούν να δημοσιοποιήσουν τα προσχέδια και το ιστορικό των εκδόσεων των έργων τους σε ολόκληρο το διαδίκτυο. Τα μέσα κοινωνικής δικτύωσης έχουν κατακλυστεί τόσο από κείμενα που έχουν πράγματι δημιουργηθεί με AI όσο και από κείμενα που απλώς θεωρείται ότι έχουν δημιουργηθεί έτσι.
Με δεδομένο τον τεράστιο αριθμό κειμένων που δημοσιεύονται καθημερινά, ακόμη και ένα ποσοστό λανθασμένης ανίχνευσης σημαίνει ότι ακόμη και το πιο αξιόπιστο εργαλείο ανίχνευσης τεχνητής νοημοσύνης θα κάνει λάθη, και μάλιστα σε βάρος πολλών ανθρώπων.
Το Pangram δεν μπορεί να αποκαλύψει την αλήθεια για το πώς γράφτηκε ένα έργο. Μπορεί, όμως, να δημιουργήσει ένα πιο περίπλοκο συναίσθημα, δηλαδή την αμφιβολία.
Εκτός αν ένας συγγραφέας που κατηγορείται παραδεχτεί ότι χρησιμοποίησε ένα μεγάλο γλωσσικό μοντέλο (LLM), δεν υπάρχει αλάνθαστος τρόπος να αποδειχθεί η κατηγορία, εκτός αν δοθεί πλήρης πρόσβαση στο ιστορικό χρήσης του υπολογιστή του και εντοπιστούν οι εντολές που έδωσε στο chatbot.
Οι κριτές του βραβείου Caine δήλωσαν ότι θα ακολουθούσαν μια «ανθρωποκεντρική προσέγγιση» για να εξακριβώσουν την προέλευση του διηγήματος του Kundizeza. Η Ellah Wakatama, πρόεδρος του διοικητικού συμβουλίου του βραβείου Caine, δήλωσε στο BBC ότι ο συγγραφέας θα παρέδιδε το ιστορικό των προσχεδίων του στον οργανισμό, ώστε να εξεταστεί.
Αν και το ιστορικό των προσχεδίων δεν αποτελεί αδιαμφισβήτητη απόδειξη, η απαίτηση να το μοιραστεί ένας συγγραφέας προκειμένου να απαλλαγεί από τις κατηγορίες εγείρει δύσκολα κοινωνικά ερωτήματα: πόσα πρέπει να αποκαλύπτουν οι συγγραφείς στο κοινό ή σε εκείνους που τους κατηγορούν, προκειμένου να θεωρούνται αξιόπιστοι;
Και αφού διατυπωθεί μια κατηγορία, δεν υπάρχει κοινά αποδεκτή άποψη για το ποια στοιχεία θα αρκούσαν ώστε να αποκατασταθεί το όνομα ενός συγγραφέα. Όταν ο Bryan Armen Graham, αθλητικός συντάκτης της The Guardian, κατηγορήθηκε ότι χρησιμοποιούσε AI για να τον βοηθά στη συγγραφή άρθρων, η εφημερίδα χαρακτήρισε τις κατηγορίες «εξωφρενικές». Αυτό, ωστόσο, δεν εμπόδισε αρκετούς άλλους ανθρώπους ανάμεσά τους και δημοσιογράφους να εμπιστευτούν τα αποτελέσματα του Pangram περισσότερο από τον λόγο ενός συναδέλφου τους.
Σε κάθε περίπτωση, κερδίζει η μηχανή
Για ορισμένους ανθρώπους και θεσμούς του λογοτεχνικού χώρου, η χρήση αυτοματοποιημένων εργαλείων ανίχνευσης AI για την αντιμετώπιση της πλημμυρίδας κειμένων που παράγονται από τεχνητή νοημοσύνη ισοδυναμεί με την αντικατάσταση μιας μορφής τεχνολογικής κυριαρχίας από μια άλλη.
Το Pangram έχει εισέλθει στη δημόσια συνείδηση σε μια περίοδο γενικευμένης δυσπιστίας, η οποία ξεπερνά τον χώρο της γραφής. «Όλα αυτά συμβαίνουν μέσα σε ένα ευρύτερο περιβάλλον γεμάτο ανοησίες και παραπλανητικούς ισχυρισμούς», δήλωσε ο John Warner, συγγραφέας του βιβλίου «More Than Words: How to Think About Writing in the Age of AI».
Η δυνατότητα να αναχαιτίζεται έστω και ένα μέρος της καθημερινής πλημμυρίδας παραπληροφόρησης και παραποίησης είναι ένας από τους λόγους για τους οποίους το Pangram έχει γνωρίσει επιτυχία και ευρεία υιοθέτηση. Ο Warner, ωστόσο, επισήμανε ότι αυτό έχει και κόστος.
«Όπως συμβαίνει με κάθε άλλη τεχνολογία αυτοματοποίησης, έτσι και αυτή θα αποδυναμώσει τις δεξιότητες των ανθρώπων να διακρίνουν μόνοι τους αυτά τα πράγματα», είπε.
«Επειδή τα εργαλεία αυτά δεν δίνουν οριστικά συμπεράσματα, εξακολουθεί να υπάρχει αμφιβολία ως προς το πόσο αξιόπιστα είναι», δήλωσε ο Razmi Farook, γενικός διευθυντής του Ιδρύματος της Κοινοπολιτείας. «Δεν θέλαμε να βασιστούμε σε έναν και μόνο δείκτη. Πιστεύουμε ότι η δικαιότερη προσέγγιση είναι να εξετάζονται πολλαπλές πηγές αποδεικτικών στοιχείων».
Σύμφωνα με τον Farook, στα στοιχεία αυτά περιλαμβάνονταν η αρχική διαδικασία ανάγνωσης και αξιολόγησης, καθώς και «συνοδευτικά τεκμήρια» σχετικά με τη «δημιουργική διαδικασία» των συγγραφέων, όπως προσχέδια, σημειώσεις και άλλο σχετικό υλικό. Πραγματοποιήθηκαν επίσης εκτενείς συζητήσεις με κάθε συγγραφέα σχετικά με τον τρόπο με τον οποίο δημιουργήθηκαν τα διηγήματά τους. Αποσπάσματα από αυτές τις συνομιλίες συμπεριλήφθηκαν σε βίντεο που προωθούσε το βραβείο.
Οι διαμάχες σε σχέση με την τεχνητή νοημοσύνη και τα περιεχόμενα που παράγονται, όπως και η περίπτωση λάθους, δυσφήμισης ή προκατάληψης, αποτελούν ζητήματα που τώρα «ανοίγουν» σε αυτό το επίπεδο και που θα συνεχίσουν να απασχολούν στο μέλλον.
