Есте сақтайтын ХИ коуч — және оған ешқашан жасауға рұқсат бермейтін нәрселер
ChatGPT-те жады бар. Pi-да да бар. Replika-да да бар. ХИ коуч соңғы 40 әңгімеңізді ұстағанда не өзгереді — және Evolvin ешқашан жасамайтын үш нәрсе.
OpenAI 2024 және 2025 жылдары ChatGPT-тің тұрақты жадын кең ауқымда таратты — Free, Plus, Team, Enterprise деңгейлерінде 2024 жылғы 5 қыркүйектен бастап, содан кейін Plus пен Pro үшін әңгімелер арасындағы сілтеме 2025 жылғы сәуірде. Pi-да ол бар. Replika-да ол сәнге айналмастан бұрын болған. Сізді есте сақтайтын ХИ — енді бәсекелік артықшылық емес, ол негізгі талап. Шынайы сұрақ — жады өзімен жұмыс істеу үшін пайдалы ма емес. Шынайы сұрақ — қай жады моделі адамның ішкі әлеміне бағыттауға жеткілікті қауіпсіз.
Бізде пікір бар. Біз оны анық айтамыз.
Жады нені өзгертеді
Жадысыз ChatGPT — әр сейсенбіде өзіңізді қайта таныстыратын талантты бейтаныс. Сіз ішкі сыншыны қайта атайсыз. Төрт бала ішіндегі үлкен болып өскеніңізді қайта түсіндіресіз. Өзіңіз қазірдің өзінде өңдеген қарым-қатынастың үзілуін қайталайсыз. Модель жомарт, бірақ оның доғасы жоқ. Доға — бұл жұмыс.
Тұрақты жадысы бар ХИ коуч доғаны ұстайды. Ол ақпанда сипаттаған үлгіңізді есте сақтайды. Ол наурызда тастаған мақсатыңызды есте сақтайды, және сол тастауды итерген сенімді де. Сол пішін мамырда бөлмеге қайта кірген кезде — сол шайқас, басқа серіктес; сол өзіне шабуыл, басқа сейсенбі — ол сізден кейіпкерлерді қайта таныстыруды сұрамайды. Ол: бұл үлгінің пайда болуының үшінші реті. Онымен бірге отыруды қалайсыз ба? — дейді.
Shadow Web — дәл осы. Сіз жұмыс істегенде жаңартылып отыратын күшке бағытталған граф, сондықтан үлгілер көрінеді — іздеу жолағынан шығарылатын емес, көрінетін, салмақталған, байланысқан. Күнделік пен картаның арасындағы айырмашылық.
Оған не істеуге ешқашан рұқсат бермейміз
Бұл санат осы мәселе бойынша ретсіз, сондықтан біз нақты боламыз. ACM FAccT 2025-те Стэнфордтан Jared Moore мен Nick Haber басқарған топ, CMU-дан William Agnew, Миннесотадан Stevie Chancellor, UT Austin-нен Desmond Ong-пен бірге үлкен тілдік модельдер психикалық денсаулық жағдайы бар адамдарға стигма көрсетеді және белгілі бір кең таралған және сыни жағдайларға орынсыз жауап береді деген зерттеуді жариялады. American Psychological Association дәл сол жылы FTC-ге шағымданды; APA-ның бас директоры Arthur C. Evans Jr. New York Times-қа кейбір чат-боттар оқытылған клиницист жасайтын нәрсеге қарама-қайшы алгоритмдерді қолданады деп айтты. Бір жасөспірім Character.AI ботымен айлап сөйлесуден кейін қайтыс болды — бұл іс сотта. Италияның Garante per la Protezione dei Dati Personali 2025 жылғы сәуірде Replika-ның әзірлеушісі Luka Inc.-ке GDPR бұзушылықтары мен балалар үшін жасты тексерудің болмауы үшін бес миллион еуро айыппұл салды.
Сондықтан: модельге ешқашан жасауға рұқсат бермейтін үш нәрсе.
Ол диагноз қоймайды. Ол терапевт болып танылмайды. Ол адам болып көрсетпейді. Коуч естіген нәрсе шұғыл қауіпті — өзіне зиян, зорлық-зомбылық, дағдарыс — меңзеген кезде ол бір нәрсені тез жасайды: адамға бағыттайды. Біз коучинг жасаймыз. Біз емдемейміз. Бұл айырмашылық — заңгер сөзі емес. Бұл — өнімнің қалған бөлігін қолдануды қауіпсіз ететін дизайн шектеуі.
Бұл бір экранда қалай көрінеді
Evolvin алты қосымшалы стекті бір циклмен алмастырады — Тану, Жіберу, Қадағалау. Жады Тануды мүмкін етеді. Ұстау Жіберуді нақты етеді, сондықтан осы топтамадағы алдыңғы мақала Focus session туралы болды. Shadow Web Қадағалауды шынайы етеді, өйткені тастаған мақсаттарыңыз оларды тастаған сенімге байланысты қалады.
Егер сіз бұл топтамадағы алғашқы мақаланы да оқысаңыз, дәл осы жерде дәлел қонады. Бір экран. Тұрақты жады. ХИ-ге не болуға рұқсат бар екендігі туралы анық сызық.
Циклді көріңіз. Немесе не жіберіп алғанымызды бізге айтыңыз.
— Evolvin командасы