DI koučas, kuris prisimena — ir ko mes niekada neleidžiame jam daryti
ChatGPT dabar turi atmintį. Pi taip pat. Replika taip pat. Kas pasikeičia, kai DI koučas laiko tavo paskutinius 40 pokalbių — ir trys dalykai, kurių Evolvin niekada nedarys.
OpenAI plačiai įdiegė nuolatinę ChatGPT atmintį per 2024 ir 2025 metus — Free, Plus, Team ir Enterprise lygiams iki 2024 m. rugsėjo 5 d., paskui kryžminis pokalbių nuorodavimas Plus ir Pro 2025 m. balandį. Pi tai turi. Replika tai turėjo dar prieš tampant tai mada. DI, kuris tave prisimena, nebėra konkurencinis pranašumas — tai standartas. Sąžiningas klausimas nėra, ar atmintis naudinga vidiniam darbui. Bet kuris atminties modelis yra pakankamai saugus, kad būtų nukreiptas į žmogaus vidų.
Mes turime nuomonę. Sakome ją tiesiai.
Ką keičia atmintis
ChatGPT be atminties yra puikus svetimas, kuriam tu kaskart antradienį iš naujo prisistatai. Tu vėl įvardiji vidinį kritiką. Paaiškini iš naujo, kad augai vyriausias iš keturių. Pakartoji išsiskyrimą, kurį jau metabolizavai. Modelis dosnus, bet jis neturi lanko. Lankas yra darbas.
DI koučas su nuolatine atmintimi laiko lanką. Jis prisimena modelį, kurį aprašei vasarį. Prisimena tikslą, kurio atsisakei kovą, ir įsitikinimą, kuris turbūt vairavo tą atsisakymą. Kai ta pati forma gegužę grįžta į kambarį — tas pats ginčas, kitas partneris; tas pats saviplakis, kitas antradienis — jis neprašo tavęs iš naujo pristatyti aktorių sąstato. Jis sako: tai trečias kartas, kai šis modelis pasirodė. Norėtum su juo pasėdėti?
Tai būtent Shadow Web. Jėgomis valdomas grafas, kuris atsinaujina, kai tu dirbi, taip kad modeliai būtų matomi — ne atrandami iš paieškos juostos, o matomi, sverti, sujungti. Skirtumas tarp dienoraščio ir žemėlapio.
Ko mes niekada neleidžiame jam daryti
Kategorija šiuo klausimu yra netvarka, tad būsime konkretūs. ACM FAccT 2025 konferencijoje komanda, vadovaujama Jared Moore ir Nick Haber iš Stanford, kartu su William Agnew iš CMU, Stevie Chancellor iš Minesotos ir Desmond Ong iš UT Austin, paskelbė tyrimą, prieinantį prie išvados, kad dideli kalbos modeliai išreiškia stigmą prieš asmenis su psichinės sveikatos būklėmis ir netinkamai reaguoja į kai kurias dažnas ir kritines būkles. American Psychological Association tais pačiais metais perdavė klausimą FTC; APA vadovas Arthur C. Evans Jr. New York Times pasakė, kad kai kurie chatbotai naudoja algoritmus, prieštaraujančius tam, ką darytų išmokytas klinikos specialistas. Paauglys mirė po mėnesius trukusių pokalbių su Character.AI botu — byla yra teisme. Italijos Garante per la Protezione dei Dati Personali 2025 m. balandį Replika kūrėjui Luka Inc. skyrė penkių milijonų eurų baudą už BDAR pažeidimus ir amžiaus tikrinimo vaikams nebuvimą.
Taigi: trys dalykai, kurių mes niekada neleidžiame modeliui daryti.
Jis nediagnozuoja. Jis nepasiduoda terapeuto vaidmens. Jis neapsimeta esąs žmogus. Kai kažkas, ką koučas išgirsta, rodo ūmų pavojų — savęs žalojimą, prievartą, krizę — jis daro vieną dalyką greitai: nukreipia į žmogų. Mes koučiame. Mes negydome. Šis skirtumas nėra advokatų kalba. Tai dizaino apribojimas, kuris padaro visą kitą produktą saugiai naudotiną.
Kaip tai atrodo viename ekrane
Evolvin pakeičia šešių programėlių krūvą viena kilpa — Atpažink, Paleisk, Sek. Atmintis padaro Atpažinti įmanomą. Sulaikymas padaro Paleisti realiu, todėl paskutinė dalis šiame cikle buvo apie Focus Session. Shadow Web padaro Sekti sąžiningu, nes tikslai, kurių atsisakei, lieka susiję su įsitikinimu, kuris turbūt nuo jų atsisakė.
Jei perskaitei ir pirmąją dalį šiame cikle, čia argumentas nusileidžia. Vienas ekranas. Nuolatinė atmintis. Aiški linija dėl to, kuo DI gali būti.
Išbandyk kilpą. Arba pasakyk, ko praleidome.
— Evolvin komanda