Τα γλωσσικά μοντέλα δεν "σκέφτονται" ούτε γράφουν με λέξεις όπως εμείς. Χρησιμοποιούν τη διαδικασία του tokenization, η οποία λειτουργεί σαν το σπάσιμο ενός κειμένου σε μικρά τουβλάκια τύπου Lego. Κάθε κομμάτι κειμένου, είτε είναι ολόκληρη λέξη είτε συλλαβή, μετατρέπεται σε αριθμούς για να το επεξεργαστεί ο αλγόριθμος.
Αυτός ο τρόπος επεξεργασίας δημιουργεί μια εγγενή προκατάληψη. Το AI τείνει να επιλέγει εκείνα τα tokens που ταιριάζουν καλύτερα στο ψηφιακό του λεξιλόγιο και στις μαθηματικές πιθανότητες. Προτιμά σταθερά τις πιο προβλέψιμες ακολουθίες λέξεων, αποφεύγοντας τη μοναδική τυχαιότητα και την αυθόρμητη δημιουργικότητα που χαρακτηρίζουν τον ανθρώπικο λόγο.
Ιδιαίτερα στις λιγότερο διαδεδομένες γλώσσες, όπως τα ελληνικά, παρατηρείται το λεγόμενο "ελληνικό παράδοξο". Επειδή τα περισσότερα μοντέλα εκπαιδεύονται πρωτίστως στα αγγλικά, τα ελληνικά κείμενα σπάνε σε αφύσικα μικρότερα κομμάτια και tokens. Αυτή η ανομοιομορφία αφήνει πίσω της διακριτά στατιστικά ίχνη που κάνουν το τεχνητό περιεχόμενο πιο εύκολα εντοπίσιμο.
Επιπλέον, η εμμονή της τεχνητής νοημοσύνης στην τελειότητα αποτελεί τεράστιο δείκτη. Το AI διαθέτει εξαιρετικά χαμηλό Perplexity, πράγμα που σημαίνει ότι επιλέγει σχεδόν πάντα την πιο πιθανή επόμενη λέξη. Σε αντίθεση με τους ανθρώπους, σπάνια κάνει αναπάντεχες συνδέσεις ή χρησιμοποιεί σπάνιες, τολμηρές εκφράσεις.
Τα σύγχρονα εργαλεία ανίχνευσης αξιοποιούν ακριβώς αυτή την προβλεψιμότητα. Δεν προσπαθούν να κατανοήσουν το νόημα ή το συναίσθημα πίσω από το κείμενο, αλλά μετρούν τη μαθηματική πιθανότητα εμφάνισης των tokens. Αν η ροή είναι υπερβολικά ομαλή και στατιστικά αναμενόμενη, τότε το σύστημα συμπεραίνει ότι πρόκειται για έργο αλγορίθμου.
Η ανθρώπινη γλώσσα είναι ζωντανή, γεμάτη ανατροπές, ιδιωματισμούς και γλωσσικές παραφωνίες. Όσο κι αν βελτιώνονται τα μοντέλα, αυτό το θεμελιώδες ίχνος του tokenization παραμένει το ψηφιακό DNA τους, επιτρέποντάς μας να διακρίνουμε πότε γράφει ο άνθρωπος και πότε η μηχανή.
