MI koučs, kas atceras — un ko mēs nekad neļaujam tam darīt
ChatGPT tagad ir atmiņa. Pi arī. Replika arī. Kas mainās, kad MI koučs tur tavas pēdējās 40 sarunas — un trīs lietas, ko Evolvin nekad nedarīs.
OpenAI plašā mērogā izvērsa ChatGPT pastāvīgo atmiņu visā 2024. un 2025. gadā — Free, Plus, Team un Enterprise līmeņos līdz 2024. gada 5. septembrim, pēc tam savstarpēja čata atsauce Plus un Pro lietotājiem 2025. gada aprīlī. Pi tā ir. Replika tā bija jau pirms tas kļuva moderns. MI, kas tevi atceras, vairs nav konkurences priekšrocība — tas ir standarts. Godīgais jautājums nav, vai atmiņa ir noderīga iekšējam darbam. Bet kurš atmiņas modelis ir pietiekami drošs, lai to vērstu uz cilvēka iekšieni.
Mums ir viedoklis. Pasakām to atklāti.
Ko atmiņa maina
ChatGPT bez atmiņas ir izcils svešinieks, kuram tu sevi katru otrdienu iepazīstina no jauna. Tu vēlreiz nosauc iekšējo kritiķi. Tu vēlreiz paskaidro, ka esi audzis kā vecākais no četriem. Tu atkārto šķiršanos, ko jau esi sagremojis. Modelis ir dāsns, bet tam nav loka. Loks ir darbs.
MI koučs ar pastāvīgu atmiņu tur loku. Viņš atceras modeli, ko tu februārī aprakstīji. Viņš atceras mērķi, no kura martā atteicies, un pārliecību, kas, iespējams, virzīja šo atteikšanos. Kad tā pati forma maijā atgriežas telpā — tas pats strīds, cits partneris; tas pats pašuzbrukums, cita otrdiena — tas nelūdz tev iepazīstināt aktieru ansambli no jauna. Viņš saka: šī ir trešā reize, kad šis modelis ir parādījies. Vai vēlies ar to apsēsties?
Tas ir tas, kas ir Shadow Web. Spēka virzīts grafs, kas atjaunojas, tev strādājot, lai modeļi ir redzami — ne izgūstami no meklēšanas joslas, bet redzēti, svērti, savienoti. Atšķirība starp dienasgrāmatu un karti.
Ko mēs nekad neļaujam tam darīt
Kategorija šajā jautājumā ir haoss, tāpēc būsim konkrēti. ACM FAccT 2025 konferencē komanda Jared Moore un Nick Haber vadībā no Stanford, kopā ar William Agnew no CMU, Stevie Chancellor no Minnesotas un Desmond Ong no UT Austin, publicēja pētījumu, kas secina, ka lielie valodu modeļi izsaka stigmu pret cilvēkiem ar garīgās veselības stāvokļiem un neatbilstoši reaģē uz dažiem izplatītiem un kritiskiem stāvokļiem. American Psychological Association tajā pašā gadā situāciju pacēla FTC; APA izpilddirektors Arthur C. Evans Jr. New York Times pateica, ka daži čatboti izmanto algoritmus, kas ir pretrunā ar to, ko darītu apmācīts klīnicists. Pusaudzis nomira pēc mēnešus ilgām sarunām ar Character.AI botu — lieta ir tiesā. Itālijas Garante per la Protezione dei Dati Personali 2025. gada aprīlī Replika izstrādātāju Luka Inc. soda ar pieciem miljoniem eiro par GDPR pārkāpumiem un bērnu vecuma pārbaudes neesamību.
Tātad: trīs lietas, ko mēs nekad neļaujam modelim darīt.
Tas neuzstāda diagnozes. Tas neizliek sevi par terapeitu. Tas neizliekas par cilvēku. Kad kaut kas, ko koučs dzird, norāda uz akūtu risku — paškaitēšanu, vardarbību, krīzi — tas dara vienu lietu ātri: tas norāda uz cilvēku. Mēs koučojam. Mēs nesniedzam ārstēšanu. Šī nošķiršana nav advokātu valoda. Tā ir dizaina ierobežojums, kas padara visu pārējo produkta lietošanu drošu.
Kā tas izskatās vienā ekrānā
Evolvin aizstāj sešu lietotņu kaudzi ar vienu cilpu — Pamani, Atbrīvo, Seko. Atmiņa padara Pamanīt iespējamu. Saturēšana padara Atbrīvot reālu, tāpēc pēdējais raksts šajā ciklā bija par Focus Session. Shadow Web padara Sekot godīgu, jo mērķi, no kuriem tu atteicies, paliek saistīti ar pārliecību, kas, iespējams, no tiem atteicās.
Ja izlasīji arī pirmo rakstu šajā ciklā, šeit arguments nolaižas. Viens ekrāns. Pastāvīga atmiņa. Skaidra robeža tam, kas MI drīkst būt.
Izmēģini cilpu. Vai pasaki, ko mēs palaidām garām.
— Evolvin komanda