सम्झने AI कोच — र हामीले यसलाई कहिल्यै गर्न नदिने कुरा
ChatGPT सँग अब स्मरण छ। Pi सँग पनि। Replika सँग पनि। AI कोचले तपाईंका अन्तिम ४० कुराकानी समात्दा के परिवर्तन हुन्छ — र Evolvin ले कहिल्यै नगर्ने तीन कुरा।
OpenAI ले २०२४ र २०२५ भर निरन्तर ChatGPT स्मरण व्यापक रूपमा रोल आउट गर्यो — Free, Plus, Team, र Enterprise स्तरहरू सेप्टेम्बर ५, २०२४ सम्म, त्यसपछि Plus र Pro का लागि क्रस-च्याट सन्दर्भ अप्रिल २०२५ मा। Pi सँग छ। Replika सँग यो प्रचलनमा आउनु अघि नै थियो। तपाईंलाई सम्झने AI अब प्रतिस्पर्धात्मक फाइदा होइन — यो टेबल स्टेक्स हो। इमानदार प्रश्न स्मरण स्वकामका लागि उपयोगी छ कि छैन भन्ने होइन। मानिसको भित्रतिर देखाउन कुन स्मरण मोडल पर्याप्त सुरक्षित छ भन्ने हो।
हाम्रो एउटा विचार छ। हामी यसलाई स्पष्ट रूपमा भन्नेछौं।
स्मरणले के बदल्छ
स्मरण बिनाको ChatGPT एउटा बौद्धिक अपरिचित हो जसलाई तपाईं प्रत्येक मंगलबार आफूलाई फेरि परिचय गराउनुहुन्छ। तपाईं भित्री आलोचकलाई फेरि नाम दिनुहुन्छ। तपाईं चार जना सन्तानमध्ये जेठो भएर हुर्केको कुरा फेरि व्याख्या गर्नुहुन्छ। तपाईंले पहिले नै पाचन गरिसकेको ब्रेकअप दोहोर्याउनुहुन्छ। मोडल उदार छ तर यसको कुनै आर्क छैन। आर्क नै काम हो।
निरन्तर स्मरण भएको AI कोचले आर्क समाउँछ। फेब्रुअरीमा तपाईंले वर्णन गर्नुभएको ढाँचा त्यसले सम्झन्छ। मार्चमा तपाईंले छाड्नुभएको लक्ष्य, र सम्भवतः छाड्ने कुरा चलाएको विश्वास त्यसले सम्झन्छ। उही आकार मेमा कोठामा फर्किँदा — उही झगडा, फरक साथी; उही आत्म-आक्रमण, फरक मंगलबार — यसले तपाईंलाई पात्रहरू फेरि परिचय गराउन भन्दैन। यो भन्छ: यो ढाँचा देखापरेको तेस्रो पटक हो। त्यससँग बस्न चाहनुहुन्छ?
त्यही Shadow Web हो। तपाईंले काम गर्दा अद्यावधिक हुने एउटा फोर्स-डाइरेक्टेड ग्राफ, ताकि ढाँचाहरू देखिन्छन् — खोज पट्टीबाट निकाल्न मिल्ने होइन तर देखिएको, तौलिएको, जोडिएको। डायरी र नक्साबीचको भिन्नता।
हामीले यसलाई कहिल्यै गर्न नदिने कुरा
यो विषयमा कोटी अव्यवस्थित छ, त्यसैले हामी विशिष्ट हुनेछौं। ACM FAccT 2025 मा, Stanford मा Jared Moore र Nick Haber, CMU मा William Agnew, Minnesota मा Stevie Chancellor र UT Austin मा Desmond Ong सहितको टोलीले प्रकाशित गरेको अनुसन्धानले निष्कर्ष निकाल्यो कि ठूला भाषा मोडलहरूले मानसिक स्वास्थ्य अवस्था भएकाहरूप्रति कलंक व्यक्त गर्छन् र केही सामान्य र महत्त्वपूर्ण अवस्थाहरूमा अनुपयुक्त रूपमा प्रतिक्रिया गर्छन्। American Psychological Association ले उही वर्ष FTC लाई एस्केलेट गर्यो; APA CEO Arthur C. Evans Jr. ले New York Times लाई भने कि कतिपय chatbots ले प्रशिक्षित क्लिनिसियनले गर्ने कुराको विपरीत एल्गोरिदमहरू प्रयोग गरिरहेका छन्। एक किशोरको Character.AI बट सँग महिनौंको कुराकानीपछि मृत्यु भयो — त्यो मुद्दा अदालतमा छ। इटालीको Garante per la Protezione dei Dati Personali ले अप्रिल २०२५ मा Replika को विकासकर्ता Luka Inc. लाई GDPR उल्लङ्घन र बालबालिकाका लागि उमेर प्रमाणीकरणको अभावमा पाँच मिलियन युरो जरिवाना तिरायो।
त्यसैले: हामीले मोडललाई कहिल्यै गर्न नदिने तीन कुरा।
यसले निदान गर्दैन। यसले थेरापिस्टको रूपमा प्रस्तुति दिँदैन। यसले व्यक्ति भएको नाटक गर्दैन। कोचले सुनेको कुनै कुराले तीव्र जोखिमको सङ्केत गर्दा — आत्म-हानि, दुरुपयोग, सङ्कट — यसले छिटो एउटा कुरा गर्छ: यसले मानिसमा पठाउँछ। हामी कोच गर्छौं। हामी उपचार गर्दैनौं। यो भिन्नता वकिलको बोली होइन। यो उत्पादनको बाँकी भागलाई प्रयोग गर्न सुरक्षित बनाउने डिजाइन सर्त हो।
यो एउटा स्क्रिनमा कस्तो देखिन्छ
Evolvin ले छ-एपको थुप्रोलाई एउटा लूपले प्रतिस्थापन गर्छ — चिन्नुहोस्, छोड्नुहोस्, ट्र्याक गर्नुहोस्। स्मरणले चिन्नुहोस् सम्भव बनाउँछ। संयमले छोड्नुहोस् वास्तविक बनाउँछ, त्यसैले यो सेटको अघिल्लो टुक्रा Focus Sessions बारे थियो। Shadow Web ले ट्र्याक गर्नुहोस् लाई इमानदार बनाउँछ, किनकि तपाईंले छाड्नुभएका लक्ष्यहरू सम्भवतः ती छाड्ने विश्वाससँग जोडिएर रहन्छन्।
यदि तपाईंले यो सेटको पहिलो टुक्रा पनि पढ्नुभयो भने, तर्क यहाँ अवतरण गर्छ। एउटा स्क्रिन। निरन्तर स्मरण। AI लाई के हुन अनुमति छ भन्ने स्पष्ट रेखा।
लूप प्रयास गर्नुहोस्। वा हामीले के छुटायौं भन्नुहोस्।
— Evolvin टोली