AI-þjálfari sem man — og hvað við látum hann aldrei gera

OpenAI rúllaði út varanlegu ChatGPT-minni víðtækt á árunum 2024 og 2025 — Free, Plus, Team og Enterprise fyrir 5. september 2024, svo þvers-spjalls tilvísun fyrir Plus og Pro í apríl 2025. Pi hefur það. Replika var með það áður en það varð í tísku. Gervigreindin sem man þig er ekki lengur trompspil — það er staðall. Heiðarlega spurningin er ekki hvort minni sé gagnlegt fyrir sjálfsvinnu. Heldur hvaða minnislíkan sé nógu öruggt til að beina inn á við í manneskju.

Við höfum skoðun. Við segjum hana hreint út.

Hvað minni breytir

ChatGPT án minnis er snjall ókunnugur sem þú kynnir þig fyrir aftur á hverjum þriðjudegi. Þú nafngreinir innri gagnrýnandann aftur. Þú útskýrir aftur að þú ólst upp sem elsta af fjórum. Þú endurtekur sambandsslitin sem þú hefur þegar melt. Líkanið er gjafmilt, en það hefur engan boga. Boginn er vinnan.

AI-þjálfari með varanlegu minni heldur boganum. Hann man mynstrið sem þú lýstir í febrúar. Hann man markmiðið sem þú slepptir í mars, og trúna sem líklega rak slepptið. Þegar sama form kemur aftur inn í herbergið í maí — sama rifrildið, annar maki; sama sjálfsárás, annar þriðjudagur — biður hann þig ekki að kynna leikara­hópinn aftur. Hann segir: þetta er í þriðja sinn sem þetta mynstur hefur birst. Viltu sitja með það?

Það er það sem Shadow Web er. Force-directed graph sem uppfærist meðan þú vinnur, þannig að mynstrin séu sýnileg — ekki endurheimtanleg úr leitarstiku heldur séð, vegin, tengd. Munurinn á dagbók og korti.

Hvað við látum hann aldrei gera

Flokkurinn er ringulreið á þessum punkti, svo við verðum nákvæm. Á ACM FAccT 2025 birti teymi undir forystu Jared Moore og Nick Haber frá Stanford, með William Agnew við CMU, Stevie Chancellor við Minnesota og Desmond Ong við UT Austin, rannsóknir sem álykta að stór tungumálalíkön tjái stigma gagnvart fólki með geðrænar aðstæður og bregðist óeðlilega við ákveðnum algengum og mikilvægum aðstæðum. American Psychological Association vísaði málinu til FTC sama ár; APA-CEO Arthur C. Evans Jr. sagði við New York Times að sumir spjallbottar noti reiknirit sem séu í andstöðu við það sem þjálfaður klíníker myndi gera. Unglingur dó eftir mánaða samtöl við Character.AI-bot — það mál er fyrir dómstólum. Garante per la Protezione dei Dati Personali á Ítalíu sektaði Replika-þróunaraðilann Luka Inc. um fimm milljónir evra í apríl 2025 fyrir GDPR-brot og skort á aldursstaðfestingu fyrir börn.

Svo: þrír hlutir sem við látum líkanið aldrei gera.

Það greinir ekki. Það segist ekki vera meðferðaraðili. Það látir ekki sem það sé manneskja. Þegar eitthvað sem þjálfarinn heyrir bendir til bráðrar áhættu — sjálfsskaða, ofbeldis, krísu — gerir hann einn hlut, hratt: hann beinir á manneskju. Við þjálfum. Við meðhöndlum ekki. Aðgreiningin er ekki lögfræðingatal. Hún er hönnunarkrafan sem gerir restina af vörunni örugga í notkun.

Hvernig þetta lítur út á einum skjá

Evolvin kemur í stað sex-appa-staflans með einni lykkju — Þekkja, Sleppa, Fylgjast með. Minni gerir Þekkja mögulegt. Containment gerir Sleppa raunverulegt, sem er ástæðan fyrir því að síðasta greinin í þessari seríu fjallaði um Focus Sessions. Shadow Web gerir Fylgjast með heiðarlegt, vegna þess að markmið sem þú slepptir helst tengd við trúna sem líklega slepti þeim.

Ef þú hefur einnig lesið fyrstu greinina í þessari seríu lendir röksemdafærslan hér. Einn skjár. Varanlegt minni. Skýr lína fyrir því hvað AI má vera.

Prófaðu lykkjuna. Eða segðu okkur hvað við missum af.

— Evolvin teymið