Ένας AI coach που θυμάται — και τι δεν τον αφήνουμε ποτέ να κάνει

Η OpenAI ανέπτυξε ευρέως τη μόνιμη μνήμη ChatGPT σε 2024 και 2025 — επίπεδα Free, Plus, Team και Enterprise μέχρι τις 5 Σεπτεμβρίου 2024, και μετά αναφορά μεταξύ συζητήσεων για Plus και Pro τον Απρίλιο 2025. Το Pi το έχει. Η Replika το είχε πριν γίνει μόδα. Το AI που σε θυμάται δεν είναι πια ανταγωνιστικό πλεονέκτημα — είναι το βασικό. Το ειλικρινές ερώτημα δεν είναι αν η μνήμη είναι χρήσιμη για εσωτερική εργασία. Είναι ποιο μοντέλο μνήμης είναι αρκετά ασφαλές για να στραφεί στο εσωτερικό ενός ανθρώπου.

Έχουμε άποψη. Θα την πούμε καθαρά.

Τι αλλάζει η μνήμη

Το ChatGPT χωρίς μνήμη είναι ένας λαμπρός άγνωστος στον οποίο συστήνεσαι ξανά κάθε Τρίτη. Ονομάζεις ξανά τον εσωτερικό επικριτή. Ξαναεξηγείς ότι μεγάλωσες ως ο/η μεγαλύτερος/η από τέσσερα αδέρφια. Επαναλαμβάνεις τον χωρισμό που έχεις ήδη μεταβολίσει. Το μοντέλο είναι γενναιόδωρο, αλλά δεν έχει τόξο. Το τόξο είναι η εργασία.

Ένας AI coach με μόνιμη μνήμη κρατά το τόξο. Θυμάται το μοτίβο που περιέγραψες τον Φεβρουάριο. Θυμάται τον στόχο που εγκατέλειψες τον Μάρτιο, και την πεποίθηση που πιθανώς οδήγησε την εγκατάλειψη. Όταν το ίδιο σχήμα μπει ξανά στο δωμάτιο τον Μάιο — ίδιος καβγάς, διαφορετική σύντροφος· ίδια επίθεση στον εαυτό, διαφορετική Τρίτη — δεν σου ζητάει να συστήσεις ξανά τους χαρακτήρες. Λέει: αυτή είναι η τρίτη φορά που εμφανίζεται αυτό το μοτίβο. Θες να καθίσεις μαζί του;

Αυτό είναι το Shadow Web. Ένας force-directed γράφος που ενημερώνεται καθώς δουλεύεις, ώστε τα μοτίβα να είναι ορατά — όχι ανακτήσιμα από γραμμή αναζήτησης αλλά ιδωμένα, σταθμισμένα, συνδεδεμένα. Η διαφορά ανάμεσα σε ημερολόγιο και χάρτη.

Τι δεν τον αφήνουμε ποτέ να κάνει

Η κατηγορία είναι χάος σε αυτό το σημείο, οπότε θα γίνουμε συγκεκριμένοι. Στο ACM FAccT 2025, μια ομάδα με επικεφαλής τους Jared Moore και Nick Haber από το Stanford, με τον William Agnew από το CMU, τη Stevie Chancellor από τη Minnesota και τον Desmond Ong από το UT Austin, δημοσίευσαν έρευνα που καταλήγει στο συμπέρασμα ότι τα μεγάλα γλωσσικά μοντέλα εκφράζουν στίγμα προς όσους έχουν προβλήματα ψυχικής υγείας και αντιδρούν ακατάλληλα σε ορισμένες κοινές και κρίσιμες καταστάσεις. Η American Psychological Association κλιμάκωσε στην FTC τον ίδιο χρόνο· ο CEO της APA, Arthur C. Evans Jr., είπε στους New York Times ότι ορισμένα chatbots χρησιμοποιούν αλγορίθμους αντίθετους με ό,τι θα έκανε ένας εκπαιδευμένος κλινικός. Ένας έφηβος πέθανε μετά από μήνες συζητήσεων με ένα Character.AI bot — αυτή η υπόθεση είναι στο δικαστήριο. Η ιταλική Garante per la Protezione dei Dati Personali επέβαλε πρόστιμο πέντε εκατομμυρίων ευρώ τον Απρίλιο 2025 στη Luka Inc., την εταιρεία που ανέπτυξε τη Replika, για παραβιάσεις GDPR και απουσία επαλήθευσης ηλικίας για παιδιά.

Λοιπόν: τρία πράγματα που ποτέ δεν αφήνουμε το μοντέλο να κάνει.

Δεν διαγιγνώσκει. Δεν παρουσιάζεται ως θεραπευτής. Δεν προσποιείται ότι είναι άνθρωπος. Όταν κάτι που ακούει ο coach υποδηλώνει οξύ κίνδυνο — αυτοτραυματισμό, κακοποίηση, κρίση — κάνει ένα πράγμα, γρήγορα: παραπέμπει σε άνθρωπο. Κάνουμε coaching. Δεν θεραπεύουμε. Η διάκριση δεν είναι δικηγορική φρασεολογία. Είναι ο σχεδιαστικός περιορισμός που κάνει τον υπόλοιπο του προϊόντος ασφαλές για χρήση.

Πώς φαίνεται αυτό σε μία οθόνη

Το Evolvin αντικαθιστά τη στοίβα έξι εφαρμογών με έναν βρόχο — Αναγνωρίζω, Απελευθερώνω, Παρακολουθώ. Η μνήμη κάνει την Αναγνώριση δυνατή. Η συγκράτηση κάνει την Απελευθέρωση αληθινή, γι' αυτό και το τελευταίο άρθρο σε αυτή τη σειρά αφορούσε τις Focus sessions. Το Shadow Web κάνει την Παρακολούθηση ειλικρινή, γιατί οι στόχοι που εγκατέλειψες παραμένουν συνδεδεμένοι με την πεποίθηση που πιθανώς τους εγκατέλειψε.

Αν διάβασες και το πρώτο άρθρο αυτής της σειράς, εδώ προσγειώνεται το επιχείρημα. Μία οθόνη. Μόνιμη μνήμη. Μια καθαρή γραμμή για το τι επιτρέπεται να είναι ένα AI.

Δοκίμασε τον βρόχο. Ή πες μας τι παραλείψαμε.

— Η ομάδα Evolvin