'n KI-afrigter wat onthou — en wat ons hom nooit laat doen nie

OpenAI het volgehoue ChatGPT-geheue oor 2024 en 2025 wyd uitgerol — Free, Plus, Team en Enterprise tot 5 September 2024, toe kruis-gesprek-verwysing vir Plus en Pro in April 2025. Pi het dit. Replika het dit gehad nog voor dit modieus was. Die KI wat jou onthou, is nie meer 'n voorsprong nie — dit is 'n standaard. Die eerlike vraag is nie of geheue vir selfwerk nuttig is nie. Dit is watter model van geheue veilig genoeg is om in iemand se binnekant te wys.

Ons het 'n mening. Ons sal dit gewoon stel.

Wat geheue verander

ChatGPT sonder geheue is 'n briljante vreemdeling wat jy elke Dinsdag aan jouself voorstel. Jy benoem die innerlike kritikus weer. Jy verduidelik weer dat jy as die oudste van vier groot geword het. Jy herhaal die opbreek wat jy reeds verteer het. Die model is gul, maar dit het geen boog nie. Die boog is die werk.

'n KI-afrigter met volgehoue geheue hou die boog vas. Hy onthou die patroon wat jy in Februarie beskryf het. Hy onthou die doel wat jy in Maart laat val het, en die oortuiging wat waarskynlik die laat val gedryf het. Wanneer dieselfde vorm in Mei weer die kamer binnestap — dieselfde geveg, ander maat; dieselfde selfaanval, ander Dinsdag — vra hy jou nie om die rolverdeling weer voor te stel nie. Hy sê: dit is die derde keer dat hierdie patroon opdoen. Wil jy daarmee sit?

Dit is wat die Shadow Web is. 'n Kragge-rigte grafiek wat opdateer soos jy werk, sodat die patrone sigbaar is — nie ophaalbaar uit 'n soekstrook nie, maar gesien, geweeg, verbind. Die verskil tussen 'n joernaal en 'n kaart.

Wat ons hom nooit laat doen nie

Die kategorie is 'n gemors oor hierdie punt, so ons sal spesifiek wees. Op ACM FAccT 2025 het 'n span onder leiding van Jared Moore en Nick Haber by Stanford, met William Agnew by CMU, Stevie Chancellor by Minnesota en Desmond Ong by UT Austin, navorsing gepubliseer wat afsluit dat groot taalmodelle stigma teen diegene met geestesgesondheid-toestande uitdruk en op sekere algemene en kritieke toestande onvanpas reageer. Die American Psychological Association het dieselfde jaar na die FTC opgegradeer; APA-uitvoerende hoof Arthur C. Evans Jr. het aan die New York Times gesê dat sommige kletsbots algoritmes gebruik wat teenstrydig is met wat 'n opgeleide klinikus sou doen. 'n Tiener het gesterf na maande se gesprekke met 'n Character.AI bot — daardie saak is in die hof. Italië se Garante per la Protezione dei Dati Personali het Replika se ontwikkelaar Luka Inc. in April 2025 met vyf miljoen euro beboet oor GDPR-skending en die afwesigheid van ouderdomsverifikasie vir kinders.

So: drie dinge wat ons die model nooit laat doen nie.

Dit diagnoseer nie. Dit hou nie voor as terapeut nie. Dit gee nie voor om 'n mens te wees nie. Wanneer iets wat die afrigter hoor akute risiko aandui — selfbeskadiging, mishandeling, krisis — doen hy een ding, vinnig: hy wys op 'n mens. Ons afrig. Ons behandel nie. Die onderskeid is nie prokureur-taal nie. Dit is die ontwerpvereiste wat die res van die produk veilig maak om te gebruik.

Hoe dit op een skerm lyk

Evolvin vervang die ses-app stapel met een lus — Herken, Laat los, Volg. Geheue maak Herken moontlik. Bevatting maak Laat los werklik, daarom was die laaste stuk in hierdie stel oor Focus Sessions. Die Shadow Web maak Volg eerlik, want doelwitte wat jy laat val het, bly verbind aan die oortuiging wat hulle waarskynlik laat val het.

As jy ook die eerste stuk in hierdie stel gelees het, is dit waar die argument land. Een skerm. Volgehoue geheue. 'n Duidelike lyn oor wat 'n KI mag wees.

Probeer die lus. Of vertel ons wat ons gemis het.

— Die Evolvin span