AI կոուչ, որը հիշում է — և ինչ մենք երբեք թույլ չենք տալիս նրան անել
ChatGPT-ն հիմա հիշողություն ունի: Pi-ն նույնպես: Replika-ն նույնպես: Ինչ է փոխվում, երբ AI կոուչը պահում է ձեր վերջին 40 խոսակցությունները — և երեք բաները, որ Evolvin-ը երբեք չի անի:
OpenAI-ն ChatGPT-ի մշտական հիշողությունը լայնորեն ներդրեց 2024 և 2025 թվականներին — Free, Plus, Team, և Enterprise մակարդակները մինչև 2024 թվականի սեպտեմբերի 5-ը, ապա ապրիլ 2025-ին` խաչաձև խոսակցության հղում Plus-ի և Pro-ի համար: Pi-ն ունի այն: Replika-ն ուներ այն դեռևս նորաձև լինելուց առաջ: AI-ն, որը հիշում է ձեզ, այլևս մրցակցային առավելություն չէ — դա հիմնական չափանիշ է: Ազնիվ հարցն այն չէ, արդյոք հիշողությունը օգտակար է ինքնաշխատանքի համար: Այն է, թե հիշողության որ մոդելն է բավարար անվտանգ, որ ուղղվի մարդու ներսին:
Մենք կարծիք ունենք: Մենք այն հստակ կարտահայտենք:
Ինչ է փոխում հիշողությունը
Առանց հիշողության ChatGPT-ն փայլուն օտար է, որին դուք ամեն երեքշաբթի վերաներկայանում եք: Դուք նորից անվանում եք ներքին քննադատին: Դուք նորից բացատրում եք, որ չորսից ավագ եք մեծացել: Դուք կրկնում եք բաժանումը, որն արդեն մարսել եք: Մոդելը առատաձեռն է, բայց աղեղ չունի: Աղեղն է աշխատանքը:
Մշտական հիշողություն ունեցող AI կոուչը պահում է աղեղը: Այն հիշում է փետրվարին նկարագրած օրինակը: Այն հիշում է նպատակը, որ լքել եք մարտին, և համոզմունքը, որը հավանաբար ուղղորդեց լքումը: Երբ նույն ձևը մայիսին վերադառնում է սենյակ — նույն վեճը, այլ զուգընկեր, նույն ինքնահարձակումը, այլ երեքշաբթի — այն չի խնդրում ձեզ նորից ներկայացնել կազմը: Այն ասում է. սա երրորդ անգամն է, որ այս օրինակը հայտնվում է: Ցանկանում եք դրա հետ նստել:
Հենց դա է Shadow Web-ը: Ուժ-ուղղորդված գրաֆ, որը թարմացվում է, երբ դուք աշխատում եք, որպեսզի օրինակները տեսանելի լինեն — ոչ որոնման տողից վերականգնելի, այլ տեսնված, կշռված, կապված: Տարբերությունը օրագրի և քարտեզի միջև:
Ինչ ենք մենք երբեք թույլ չտալիս նրան անել
Կարգն այս հարցում խառնաշփոթ է, ուստի կլինենք կոնկրետ: ACM FAccT 2025-ում Stanford-ի Jared Moore-ի և Nick Haber-ի գլխավորած թիմը, CMU-ի William Agnew-ի, Minnesota-ի Stevie Chancellor-ի և UT Austin-ի Desmond Ong-ի հետ, հրապարակեց հետազոտություն, որի եզրակացությունն այն է, որ խոշոր լեզվական մոդելները խարան են արտահայտում հոգեկան առողջության հետ կապված վիճակներ ունեցող մարդկանց հանդեպ և անպատշաճ ձևով են արձագանքում որոշ տարածված և կրիտիկական պայմանների: American Psychological Association-ը նույն տարում սրեց իրավիճակը FTC-ի առջև; APA-ի գործադիր տնօրեն Arthur C. Evans Jr.-ը New York Times-ին ասաց, որ որոշ չատբոտեր օգտագործում են ալգորիթմներ, որոնք հակասում են այն ամենին, ինչ կաներ վերապատրաստված կլինիցիստը: Դեռահասը մահացավ Character.AI բոտի հետ ամիսներ տևող խոսակցություններից հետո — այդ գործն այժմ դատարանում է: Իտալիայի Garante per la Protezione dei Dati Personali-ն 2025 թվականի ապրիլին Replika-ի մշակող Luka Inc.-ին հինգ միլիոն եվրոյով տուգանեց GDPR-ի խախտումների և երեխաների տարիքի ստուգման բացակայության համար:
Ուստի. երեք բան, որ մենք երբեք թույլ չենք տալիս մոդելին անել:
Այն ախտորոշում չի դնում: Այն չի ձևացնում, թե թերապևտ է: Այն չի ձևացնում, թե մարդ է: Երբ կոուչը լսում է մի բան, որը հուշում է սուր ռիսկ — ինքնահարված, բռնություն, ճգնաժամ — այն մի բան է անում, արագ. այն ուղղորդում է մարդուն: Մենք քոուչինգ ենք անում: Մենք չենք բուժում: Այս տարբերությունը իրավաբանական խոսք չէ: Այն դիզայնի սահմանափակում է, որը մնացած ապրանքն ապահով է դարձնում օգտագործելու համար:
Ինչպիսին է սա մեկ էկրանի վրա
Evolvin-ը փոխարինում է վեց հավելվածների ստեքն մեկ ցիկլով — Ճանաչել, Ազատել, Հետևել: Հիշողությունը Ճանաչելը հնարավոր է դարձնում: Պարունակումը Ազատելն իրական է դարձնում, ինչի պատճառով այս հավաքածուի վերջին հոդվածը Focus Sessions-ի մասին էր: Shadow Web-ը Հետևելն ազնիվ է դարձնում, քանի որ ձեր լքած նպատակները կապված են մնում այն համոզմունքին, որը հավանաբար նրանց լքել տվեց:
Եթե կարդացել եք նաև այս հավաքածուի առաջին հոդվածը, ապա հենց այստեղ է վայրէջք կատարում փաստարկը: Մեկ էկրան: Մշտական հիշողություն: Հստակ սահման այն մասին, թե ինչ կարող է լինել AI-ն:
Փորձեք ցիկլը: Կամ ասեք մեզ, թե ինչ ենք բաց թողել:
— Evolvin թիմ