Kocha wa AI anayekumbuka — na kile hatumruhusu kufanya kamwe

OpenAI ilizindua kumbukumbu ya ChatGPT inayodumu kwa upana kati ya 2024 na 2025 — Free, Plus, Team, na Enterprise hadi Septemba 5, 2024, kisha rejea ya mazungumzo mtambuka kwa Plus na Pro mnamo Aprili 2025. Pi ina hiyo. Replika imekuwa nayo kabla ya kuwa ya mtindo. AI inayokukumbuka si tena faida — ni kawaida. Swali la kweli si kama kumbukumbu ni muhimu kwa kazi ya nafsi. Ni mfano gani wa kumbukumbu ni salama vya kutosha kuelekeza ndani ya mtu.

Tuna maoni. Tutayatamka wazi.

Kile kumbukumbu inabadilisha

ChatGPT bila kumbukumbu ni mgeni mahiri ambaye unajitambulisha tena kila Jumanne. Unataja mkosoaji wa ndani tena. Unaeleza tena kwamba ulikulia kama mkubwa wa wanne. Unarudia kuachana ambako tayari umemeza. Modeli ni karimu lakini haina upinde. Upinde ni kazi.

Kocha wa AI mwenye kumbukumbu inayodumu anashikilia upinde. Anakumbuka mtindo uliouelezea Februari. Anakumbuka lengo ulilolitelekeza Machi, na imani iliyolazimisha kuachiwa huko huenda. Wakati umbo lile lile linaporudi chumbani Mei — mzozo ule ule, mwenza tofauti; kujishambulia kule kule, Jumanne tofauti — haomba kuwatambulisha wahusika upya. Anasema: hii ni mara ya tatu mtindo huu ujitokeza. Unataka kukaa nao?

Hiyo ndiyo Shadow Web ilivyo. Grafu inayoelekezwa na nguvu ambayo inajisasishwa unapofanya kazi, ili mitindo iwe inaonekana — sio kupatikana kutoka kwa upau wa utafutaji bali kuonekana, kupimwa, kuunganishwa. Tofauti kati ya shajara na ramani.

Kile hatumruhusu kufanya kamwe

Kategoria ni fujo katika hatua hii, kwa hiyo tutakuwa wahususi. Katika ACM FAccT 2025, timu inayoongozwa na Jared Moore na Nick Haber wa Stanford, na William Agnew wa CMU, Stevie Chancellor wa Minnesota na Desmond Ong wa UT Austin, walichapisha utafiti unaohitimisha kwamba modeli kubwa za lugha zinaonyesha unyanyapaa kwa wale walio na hali za afya ya akili na zinajibu visivyofaa kwa baadhi ya hali za kawaida na za kritikia. American Psychological Association iliongeza FTC mwaka huo huo; Mkurugenzi Mtendaji wa APA Arthur C. Evans Jr. aliambia New York Times kwamba baadhi ya chatboti zinatumia algoriti zinazopingana na kile mtaalamu wa kliniki aliyezoezwa angefanya. Kijana alikufa baada ya miezi ya mazungumzo na bot wa Character.AI — kesi hiyo iko mahakamani. Garante per la Protezione dei Dati Personali wa Italia walimtoza mkuzaji wa Replika Luka Inc. milioni tano za euro mnamo Aprili 2025 kwa ukiukaji wa GDPR na kutokuwepo kwa uthibitisho wa umri kwa watoto.

Kwa hivyo: vitu vitatu hatumruhusu modeli kufanya kamwe.

Haitambui ugonjwa. Haifanyi kama mtaalamu. Haijifanyi kuwa mtu. Wakati kitu kocha anasikia kinapendekeza hatari kali — kujidhuru, unyanyasaji, mgogoro — anafanya kitu kimoja, haraka: anaelekeza kwa mtu. Sisi tunafundisha. Hatutibu. Tofauti hiyo si maneno ya wakili. Ni kizuizi cha muundo kinachofanya sehemu nyingine ya bidhaa salama kutumia.

Hivi inavyoonekana katika skrini moja

Evolvin inabadilisha rundo la programu sita kwa mzunguko mmoja — Tambua, Achilia, Fuatilia. Kumbukumbu inafanya Tambua iwezekane. Kuhifadhi inafanya Achilia kuwa halisi, ndiyo maana kipande cha mwisho katika seti hii kilikuwa kuhusu Focus Session. Shadow Web inafanya Fuatilia kuwa mwaminifu, kwa sababu malengo ulioyaachia yanabaki yameunganishwa na imani iliyowahi kuyaachilia.

Kama umesoma pia kipande cha kwanza katika seti hii, hapa ndipo hoja inafika. Skrini moja. Kumbukumbu inayodumu. Mstari mwazi kuhusu AI inaruhusiwa kuwa nini.

Jaribu mzunguko. Au tuambie tulichokosa.

— Timu ya Evolvin