Yaddaşı olan AI məşqçi — və ona heç vaxt etməyə icazə vermədiyimiz şeylər
ChatGPT-nin indi yaddaşı var. Pi-nin də. Replika-nın da. AI məşqçi sizin son 40 söhbətinizi saxladığında nə dəyişir — və Evolvin-in heç vaxt etməyəcəyi üç şey.
OpenAI 2024 və 2025-ci illər ərzində ChatGPT-nin daimi yaddaşını geniş şəkildə təqdim etdi — 5 sentyabr 2024-cü ilə qədər Free, Plus, Team və Enterprise səviyyələri, sonra 2025-ci ilin aprelində Plus və Pro üçün çarpaz söhbət istinadı. Pi-nin var. Replika-nın isə dəb olmazdan əvvəl olub. Sizi xatırlayan AI artıq bir üstünlük deyil — bu əsas tələbdir. Dürüst sual yaddaşın öz-özünə iş üçün faydalı olub-olmaması deyil. Hansı yaddaş modelinin bir insanın daxili tərəfinə yönəltmək üçün kifayət qədər təhlükəsiz olduğudur.
Bizim fikrimiz var. Bunu açıq deyəcəyik.
Yaddaş nəyi dəyişir
Yaddaşsız ChatGPT hər çərşənbə axşamı özünüzü yenidən təqdim etdiyiniz parlaq bir yad adamdır. Daxili tənqidçini yenidən adlandırırsınız. Dörd nəfərdən böyüyü olaraq böyüdüyünüzü yenidən izah edirsiniz. Artıq həzm etdiyiniz ayrılığı təkrarlayırsınız. Model səxavətlidir, lakin onun yayı yoxdur. Yay isə işdir.
Daimi yaddaşı olan AI məşqçi yayı tutur. O, fevral ayında təsvir etdiyiniz nümunəni xatırlayır. O, mart ayında atdığınız hədəfi və yəqin ki, atılmasını idarə edən inancı xatırlayır. Eyni forma mayda otağa qayıdanda — eyni dava, fərqli tərəfdaş; eyni öz-özünə hücum, fərqli çərşənbə axşamı — o sizdən heyəti yenidən təqdim etməyinizi xahiş etmir. O deyir: bu nümunənin üçüncü dəfə ortaya çıxmasıdır. Onunla oturmaq istəyirsiniz?
Bu, Shadow Web-in mahiyyətidir. Siz işlədikcə yenilənən qüvvə yönəldilmiş qrafik, beləliklə nümunələr görünür — axtarış zolağından alınmır, görülür, çəkilir, bağlanır. Gündəlik ilə xəritə arasındakı fərq.
Ona heç vaxt etməyə icazə vermədiyimiz şeylər
Bu məqamda kateqoriya qarışıqdır, ona görə biz dəqiq olacağıq. ACM FAccT 2025-də Stanford-dan Jared Moore və Nick Haber-in rəhbərlik etdiyi, CMU-dan William Agnew, Minnesota-dan Stevie Chancellor və UT Austin-dən Desmond Ong ilə birgə işləyən komanda, böyük dil modellərinin psixi sağlamlıq vəziyyətləri olan insanlara qarşı damğa ifadə etdikləri və müəyyən ümumi və kritik vəziyyətlərə uyğunsuz cavab verdikləri nəticəsinə gələn bir tədqiqat dərc etdi. American Psychological Association eyni il məsələni FTC-yə qaldırdı; APA-nın CEO-su Arthur C. Evans Jr. New York Times-a bildirdi ki, bəzi chatbot-lar təlim almış kliniki praktikin etdiyinin əksinə olan alqoritmlər istifadə edir. Bir yeniyetmə Character.AI bot-u ilə aylarla davam edən söhbətlərdən sonra öldü — bu məsələ məhkəmədədir. İtaliyanın Garante per la Protezione dei Dati Personali 2025-ci ilin aprelində Replika-nın developeri Luka Inc.-ə GDPR pozuntuları və uşaqlar üçün yaş yoxlamasının olmaması üçün beş milyon avro cərimə kəsdi.
Beləliklə: modelə heç vaxt etməyə icazə vermədiyimiz üç şey.
O diaqnoz qoymur. O özünü terapevt kimi təqdim etmir. O insan olmağı təqlid etmir. Məşqçinin eşitdiyi nəsə kəskin risk göstərdikdə — özünə zərər, sui-istifadə, böhran — o bir şey edir, sürətlə: bir insana yönəldir. Biz məşqləyirik. Biz müalicə etmirik. Bu fərq vəkil dili deyil. Bu məhsulun qalan hissəsini istifadə üçün təhlükəsiz edən dizayn məhdudiyyətidir.
Bu bir ekranda necə görünür
Evolvin altı tətbiqli yığını bir döngə ilə əvəz edir — Tanı, Burax, İzlə. Yaddaş Tanı-nı mümkün edir. Saxlama Burax-ı real edir, bu səbəbdən bu dəstənin son parçası Focus Sessions haqqında idi. Shadow Web İzlə-ni dürüst edir, çünki atdığınız hədəflər onları yəqin ki, atan inanca bağlı qalır.
Bu dəstənin birinci parçasını da oxumusunuzsa, arqument burada eniş edir. Bir ekran. Daimi yaddaş. AI-nin nə olmasına icazə verildiyi haqqında aydın xətt.
Döngəni sınayın. Ya da bizə nəyi qaçırdığımızı söyləyin.
— Evolvin komandası