लक्षात ठेवणारा AI कोच — आणि जे आम्ही त्याला कधीच करू देत नाही
ChatGPT कडे आता मेमरी आहे. Pi कडे पण. Replika कडे पण. जेव्हा एक AI कोच तुमची शेवटची ४० संभाषणे धरून ठेवतो तेव्हा काय बदलते — आणि तीन गोष्टी ज्या Evolvin कधीच करणार नाही.
OpenAI ने २०२४ आणि २०२५ या काळात ChatGPT ची कायमस्वरूपी मेमरी मोठ्या प्रमाणावर रोल आउट केली — ५ सप्टेंबर २०२४ पर्यंत Free, Plus, Team आणि Enterprise टियर, मग एप्रिल २०२५ मध्ये Plus आणि Pro साठी क्रॉस-चॅट संदर्भ. Pi कडे आहे. Replika कडे ती फॅशन होण्यापूर्वीच होती. तुम्हाला लक्षात ठेवणारा AI आता स्पर्धात्मक धार नाही — तो किमान आहे. प्रामाणिक प्रश्न मेमरी स्व-कामासाठी उपयुक्त आहे का हा नाही. प्रश्न आहे कोणता मेमरी मॉडेल एखाद्या व्यक्तीच्या आत निर्देश करण्यासाठी पुरेसा सुरक्षित आहे.
आमचे एक मत आहे. आम्ही ते स्पष्टपणे सांगू.
मेमरी काय बदलते
मेमरीशिवाय ChatGPT एक प्रतिभावान अनोळखी आहे ज्याला तुम्ही दर मंगळवारी पुन्हा स्वतःची ओळख देता. तुम्ही आतल्या समीक्षकाला पुन्हा नाव देता. तुम्ही चार भावंडांमध्ये सर्वात मोठे म्हणून मोठे झालात हे पुन्हा समजावता. तुम्ही आधीच पचवलेले ब्रेकअप पुन्हा सांगता. मॉडेल उदार आहे पण त्याच्याकडे आर्क नाही. आर्क हेच काम आहे.
कायमस्वरूपी मेमरी असलेला AI कोच आर्क धरून ठेवतो. फेब्रुवारीमध्ये तुम्ही वर्णन केलेला नमुना तो लक्षात ठेवतो. मार्चमध्ये तुम्ही सोडलेले उद्दिष्ट आणि कदाचित ते सोडण्याला चालविणारी श्रद्धा तो लक्षात ठेवतो. जेव्हा तीच आकृती मे महिन्यात पुन्हा खोलीत येते — तोच भांडण, वेगळा जोडीदार; तोच स्व-हल्ला, वेगळा मंगळवार — तो तुम्हाला कलाकार पुन्हा सादर करायला सांगत नाही. तो म्हणतो: हा नमुना दिसण्याची ही तिसरी वेळ आहे. त्याच्यासोबत बसायचे आहे का?
तेच Shadow Web आहे. तुम्ही काम करत असताना अपडेट होणारा फोर्स-डायरेक्टेड ग्राफ, त्यामुळे नमुने दृश्य आहेत — सर्च बारमधून मिळवण्याजोगे नाहीत, तर पाहिले, वजन दिले, जोडले गेले. जर्नल आणि नकाशा यांच्यातील फरक.
जे आम्ही त्याला कधीच करू देत नाही
हा वर्ग या मुद्द्यावर गोंधळलेला आहे, म्हणून आम्ही विशिष्ट होऊ. ACM FAccT 2025 मध्ये, Stanford च्या Jared Moore आणि Nick Haber च्या नेतृत्वाखाली, CMU च्या William Agnew, Minnesota च्या Stevie Chancellor आणि UT Austin च्या Desmond Ong यांच्यासह एका टीमने संशोधन प्रकाशित केले जे निष्कर्ष काढते की मोठे भाषा मॉडेल मानसिक आरोग्य स्थिती असलेल्या लोकांविरुद्ध कलंक व्यक्त करतात आणि काही सामान्य आणि निर्णायक स्थितींना अयोग्य प्रतिसाद देतात. American Psychological Association ने त्याच वर्षी FTC कडे प्रकरण नेले; APA CEO Arthur C. Evans Jr. यांनी New York Times ला सांगितले की काही चॅटबॉट प्रशिक्षित क्लिनिकल तज्ज्ञ करत असलेल्या गोष्टींच्या विरुद्ध अल्गोरिदम वापरत आहेत. एक किशोरवयीन Character.AI बॉटसोबत महिनोंमहिने संभाषणानंतर मरण पावला — ते प्रकरण न्यायालयात आहे. Italy च्या Garante per la Protezione dei Dati Personali ने एप्रिल २०२५ मध्ये Replika च्या डेव्हलपर Luka Inc. ला GDPR उल्लंघन आणि मुलांसाठी वय पडताळणीच्या अभावासाठी पाच दशलक्ष युरो दंड ठोठावला.
म्हणून: तीन गोष्टी ज्या आम्ही मॉडेलला कधीच करू देत नाही.
तो निदान करत नाही. तो थेरपिस्ट असल्याचे भासवत नाही. तो माणूस असल्याचे भासवत नाही. जेव्हा कोच ऐकतो ते तीव्र धोका सूचित करते — स्व-हानी, गैरवापर, संकट — तो वेगाने एक गोष्ट करतो: तो माणसाकडे निर्देश करतो. आम्ही कोचिंग करतो. आम्ही उपचार करत नाही. हा फरक वकिली भाषा नाही. ती ती डिझाइन अट आहे जी उत्पादनाचा उर्वरित भाग वापरण्यासाठी सुरक्षित बनवते.
हे एका स्क्रीनवर कसे दिसते
Evolvin सहा-अॅप स्टॅकला एका लूपने बदलते — ओळखा, सोडा, मागोवा घ्या. मेमरी ओळखणे शक्य करते. धारणा सोडणे वास्तविक बनवते, म्हणूनच या सेटचा शेवटचा भाग Focus Session बद्दल होता. Shadow Web ट्रॅकिंग प्रामाणिक करते, कारण तुम्ही सोडलेली उद्दिष्टे कदाचित त्यांना सोडवणाऱ्या श्रद्धेशी जोडलेली राहतात.
तुम्ही या सेटचा पहिला भाग देखील वाचला असेल, तर युक्तिवाद इथे येऊन उतरतो. एक स्क्रीन. कायमस्वरूपी मेमरी. AI ला काय असण्याची परवानगी आहे याबद्दल एक स्पष्ट रेषा.
लूप वापरून पहा. किंवा आम्ही काय चुकवले ते सांगा.
— Evolvin संघ