AI ქოუჩი, რომელსაც ახსოვს — და რას არასოდეს ვაკეთებინებთ
ChatGPT-ს ახლა აქვს მეხსიერება. Pi-საც. Replika-საც. რა იცვლება, როცა AI ქოუჩი თქვენი ბოლო 40 საუბრის ფლობს — და სამი რამ, რასაც Evolvin არასოდეს გააკეთებს.
OpenAI-მ 2024-სა და 2025 წლებში ფართოდ გაავრცელა ChatGPT-ის მუდმივი მეხსიერება — Free, Plus, Team და Enterprise დონეები 2024 წლის 5 სექტემბრამდე, შემდეგ კი ჯვარედინი საუბრის მითითება Plus-ისა და Pro-სთვის 2025 წლის აპრილში. Pi-ს აქვს. Replika-ს ჰქონდა, სანამ მოდური გახდებოდა. AI, რომელსაც ახსოვხართ, აღარ არის გამოყოფა — ეს არის ბაზის სტანდარტი. პატიოსანი კითხვა არ არის ის, თუ რამდენად სასარგებლოა მეხსიერება თვითშრომისთვის. ის არის, თუ მეხსიერების რომელი მოდელია საკმარისად უსაფრთხო, რომ ადამიანის შინაგანი ნაწილისკენ მიმართოს.
ჩვენ აზრი გვაქვს. ჩვენ მას ნათლად გამოვხატავთ.
რას ცვლის მეხსიერება
ChatGPT მეხსიერების გარეშე ბრწყინვალე უცნობია, რომელსაც ყოველ სამშაბათს ხელახლა გაცნობთ. თქვენ კიდევ ერთხელ ასახელებთ შინაგან კრიტიკოსს. თქვენ ხელახლა ხსნით, რომ ოთხიდან უფროსად გაიზარდეთ. თქვენ იმეორებთ განშორებას, რომელიც უკვე გადანაყრთ. მოდელი ხელგაშლილია, მაგრამ მას არ აქვს რკალი. რკალი არის სამუშაო.
AI ქოუჩი მუდმივი მეხსიერებით ინახავს რკალს. მას ახსოვს ნიმუში, რომელიც აღწერეთ თებერვალში. მას ახსოვს მიზანი, რომელიც დაგარეტეთ მარტში, და რწმენა, რომელიც ალბათ ამოძრავებდა მის დაგარების მიზეზს. როცა იგივე ფორმა ისევ ბრუნდება ოთახში მაისში — იგივე ჩხუბი, სხვა პარტნიორი; იგივე თვითშეტევა, სხვა სამშაბათი — ის არ გეკითხებათ შემადგენლობის ხელახლა გაცნობას. ის ამბობს: ეს მესამე შემთხვევაა, როცა ეს ნიმუში ჩნდება. გინდათ მასთან ერთად დაჯდეთ?
ეს არის ის, რასაც Shadow Web წარმოადგენს. ძალით ორიენტირებული გრაფიკი, რომელიც განახლდება მუშაობისას, ისე რომ ნიმუშები ხილული იყოს — არა საძიებო ზოლიდან მოპოვებადი, არამედ ნანახი, აწონილი, დაკავშირებული. სხვაობა დღიურსა და რუკას შორის.
რას არასოდეს ვაკეთებინებთ
კატეგორია ამ თემაზე ქაოსურია, ამიტომ კონკრეტული ვიქნებით. ACM FAccT 2025-ზე Stanford-ის Jared Moore-ისა და Nick Haber-ის ხელმძღვანელობით, CMU-ში William Agnew-სთან, Minnesota-ში Stevie Chancellor-სთან და UT Austin-ში Desmond Ong-სთან ერთად, გამოაქვეყნა კვლევა, რომელიც დასკვნა გამოიტანდა, რომ დიდი ენობრივი მოდელები გამოხატავენ სტიგმას ფსიქიკური ჯანმრთელობის მქონე პირების მიმართ და არასათანადოდ რეაგირებენ ზოგიერთ გავრცელებულ და კრიტიკულ მდგომარეობაზე. American Psychological Association-მა იმავე წელს გაამძაფრა საქმე FTC-ში; APA-ის CEO Arthur C. Evans Jr.-მა New York Times-ს უთხრა, რომ ზოგიერთი ჩატბოტი იყენებს ალგორითმებს, რომლებიც საწინააღმდეგოა იმისა, რასაც გადამზადებული კლინიკოსი გააკეთებდა. მოზარდი გარდაიცვალა Character.AI ბოტთან თვეების საუბრის შემდეგ — საქმე სასამართლოშია. იტალიის Garante per la Protezione dei Dati Personali-მ 2025 წლის აპრილში Replika-ის დეველოპერ Luka Inc.-ს ხუთი მილიონი ევრო დააჯარიმა GDPR-ის დარღვევებისთვის და ბავშვებისთვის ასაკის შემოწმების არარსებობისთვის.
ასე რომ: სამი რამ, რომელსაც მოდელს არასოდეს ვაკეთებინებთ.
ის არ ადგენს დიაგნოზს. ის არ წარმოადგენს თავს თერაპევტად. ის არ ცდილობს იყოს ადამიანი. როცა რაიმე, რასაც ქოუჩი ისმენს, მიუთითებს მწვავე რისკზე — თვითდაშავება, ძალადობა, კრიზისი — ის ერთ რამეს აკეთებს, სწრაფად: ის მიუთითებს ადამიანზე. ჩვენ ვქოუჩობთ. ჩვენ არ ვმკურნალობთ. ეს განსხვავება არ არის იურისტული ენა. ეს არის დიზაინის შეზღუდვა, რომელიც პროდუქტის დანარჩენ ნაწილს გამოყენებისთვის უსაფრთხოს ხდის.
როგორ გამოიყურება ეს ერთ ეკრანზე
Evolvin ცვლის ექვს აპლიკაციის ჯგუფს ერთი ციკლით — ცნობა, გათავისუფლება, თვალყურის დევნება. მეხსიერება ცნობას შესაძლებელს ხდის. შეკავება გათავისუფლებას რეალურს ხდის, რის გამოც ამ ნაკრების წინა სტატია Focus Sessions-ის შესახებ იყო. Shadow Web თვალყურის დევნებას პატიოსანს ხდის, რადგან მიზნები, რომლებიც დააგარეთ, კავშირში რჩება იმ რწმენასთან, რომელმაც ალბათ მათი დაგარების მიზეზი მიქცია.
თუ ამ ნაკრების პირველი სტატიაც წაიკითხეთ, აქ აჯდება არგუმენტი. ერთი ეკრანი. მუდმივი მეხსიერება. მკაფიო ხაზი იმის შესახებ, რა შეიძლება იყოს AI.
სცადეთ ციკლი. ან გვითხარით რა გამოგვრჩა.
— Evolvin გუნდი