Egy MI-coach, ami emlékszik — és amit soha nem engedünk neki
A ChatGPT-nek van memóriája. A Pi-nek is. A Replikának is. Mi változik, amikor egy MI-coach a 40 utolsó beszélgetést tartja — és a három dolog, amit az Evolvin soha nem fog tenni.
Az OpenAI 2024-ben és 2025-ben széles körben bevezette a tartós ChatGPT-memóriát — Free, Plus, Team és Enterprise szinteken 2024. szeptember 5-ig, majd cross-chat hivatkozást Plus és Pro számára 2025 áprilisában. A Pi-nek van. A Replikának már akkor volt, mielőtt divatos lett volna. Az MI, ami emlékszik rád, már nem versenyelőny — alapelvárás. Az őszinte kérdés nem az, hogy a memória hasznos-e az önmunkához. Hanem hogy melyik memóriamodell elég biztonságos ahhoz, hogy egy ember belsejére irányítsuk.
Van véleményünk. Egyenesen kimondjuk.
Mit változtat a memória
A ChatGPT memória nélkül egy ragyogó idegen, akinek minden kedden újra bemutatkozol. Újra megnevezed a belső kritikust. Újra elmagyarázod, hogy négy gyerek közül a legidősebb voltál. Megismétled a szakítást, amit már feldolgoztál. A modell nagyvonalú, de nincs íve. Az ív a munka.
Egy MI-coach tartós memóriával tartja az ívet. Emlékszik a mintára, amit februárban leírtál. Emlékszik arra a célra, amit márciusban feladtál, és arra a meggyőződésre, amely valószínűleg a feladást hajtotta. Amikor ugyanaz az alak májusban visszajön a szobába — ugyanaz a veszekedés, másik partner; ugyanaz az önostorozás, másik kedd — nem kéri, hogy újra bemutasd a szereplőket. Azt mondja: ez a harmadik alkalom, hogy ez a minta megjelenik. Akarsz vele leülni?
Ez a Shadow Web. Egy erővezérelt gráf, amely frissül, ahogy dolgozol, így a minták láthatóak — nem egy keresősávból visszahívhatóak, hanem látottak, súlyozottak, összekötöttek. A különbség egy napló és egy térkép között.
Amit soha nem engedünk neki
A kategória ezen a ponton zűrzavar, úgyhogy konkrétak leszünk. A 2025-ös ACM FAccT-en egy Jared Moore és Nick Haber (Stanford) vezette csapat, William Agnewvel (CMU), Stevie Chancellorral (Minnesota) és Desmond Onggal (UT Austin) közzétett egy kutatást, amely arra a következtetésre jut, hogy a nagy nyelvi modellek stigmát fejeznek ki mentális betegségekkel élőkkel szemben, és nem megfelelően reagálnak bizonyos gyakori és kritikus állapotokra. Az American Psychological Association ugyanabban az évben az FTC-hez fordult; az APA vezérigazgatója, Arthur C. Evans Jr. a New York Timesnak azt mondta, hogy egyes chatbotok olyan algoritmusokat használnak, amelyek ellentétesek azzal, amit egy képzett klinikus tenne. Egy tinédzser meghalt egy Character.AI bottal folytatott hónapokig tartó beszélgetések után — az ügy a bíróságon van. Olaszország Garante per la Protezione dei Dati Personali 2025 áprilisában ötmillió eurós bírságot szabott ki a Replika fejlesztőjére, a Luka Inc.-re GDPR-sértés és gyermekek életkor-ellenőrzésének hiánya miatt.
Tehát: három dolog, amit soha nem engedünk a modellnek.
Nem diagnosztizál. Nem adja ki magát terapeutának. Nem tesz úgy, mintha ember lenne. Amikor valami, amit a coach hall, akut kockázatot sugall — önbántalmazás, abúzus, krízis — gyorsan egy dolgot tesz: emberre mutat. Coacholunk. Nem kezelünk. Ez a megkülönböztetés nem ügyvédbeszéd. Ez a tervezési korlát, amitől a termék többi része biztonságos a használatban.
Hogyan néz ki ez egy képernyőn
Az Evolvin a hat-alkalmazás stacket egy hurokkal váltja fel — Felismerni, Elengedni, Követni. A memória teszi a Felismerést lehetővé. A konténerezés teszi az Elengedést valóssá, ezért szólt a sorozat legutóbbi darabja a Focus sessions-ről. A Shadow Web teszi a Követést őszintévé, mert a feladott céljaid kapcsolatban maradnak azzal a meggyőződéssel, ami valószínűleg feladta őket.
Ha a sorozat első darabját is olvastad, itt landol az érv. Egy képernyő. Tartós memória. Egy világos vonal, hogy egy MI minek szabad lennie.
Próbáld ki a hurkot. Vagy mondd meg, mit hagytunk ki.
— Az Evolvin csapat