ഓർമിക്കുന്ന AI കോച്ച് — ഞങ്ങൾ അതിനെ ഒരിക്കലും ചെയ്യാൻ അനുവദിക്കാത്തത്

OpenAI 2024-ലുടനീളവും 2025-ലുടനീളവും ChatGPT-യുടെ സ്ഥിരമായ മെമ്മറി വ്യാപകമായി പുറത്തിറക്കി — 2024 സെപ്റ്റംബർ 5 വരെ Free, Plus, Team, Enterprise ടിയറുകൾ, പിന്നെ 2025 ഏപ്രിലിൽ Plus-നും Pro-യ്ക്കും ക്രോസ്-ചാറ്റ് റഫറൻസ്. Pi-യ്ക്ക് ഉണ്ട്. Replika-യ്ക്ക് ഇത് ഫാഷനാകുന്നതിന് മുമ്പേ ഉണ്ടായിരുന്നു. നിങ്ങളെ ഓർമിക്കുന്ന AI ഇപ്പോൾ ഒരു മത്സര അരികല്ല — അത് ന്യൂനതമമാണ്. സത്യസന്ധമായ ചോദ്യം മെമ്മറി സ്വയം-പ്രവർത്തനത്തിന് ഉപകാരപ്രദമാണോ എന്നതല്ല. ചോദ്യം ഏത് മെമ്മറി മോഡൽ ഒരു വ്യക്തിയുടെ ഉള്ളിലേക്ക് ചൂണ്ടാൻ മതിയായ സുരക്ഷിതമാണ് എന്നതാണ്.

ഞങ്ങൾക്ക് ഒരു അഭിപ്രായമുണ്ട്. ഞങ്ങൾ അത് വ്യക്തമായി പറയും.

മെമ്മറി എന്താണ് മാറ്റുന്നത്

മെമ്മറിയില്ലാത്ത ChatGPT ഓരോ ചൊവ്വാഴ്ചയും നിങ്ങൾ വീണ്ടും സ്വയം പരിചയപ്പെടുത്തേണ്ട ഒരു മിടുക്കനായ അപരിചിതനാണ്. നിങ്ങൾ വീണ്ടും ആന്തരിക വിമർശകന് പേരിടുന്നു. നിങ്ങൾ നാല് സഹോദരങ്ങളിൽ മൂത്തയാളായി വളർന്നുവെന്ന് വീണ്ടും വിശദീകരിക്കുന്നു. നിങ്ങൾ ഇതിനകം ദഹിപ്പിച്ച ബ്രേക്ക്അപ്പ് ആവർത്തിക്കുന്നു. മോഡൽ ഉദാരമാണ് പക്ഷേ അതിന് ഒരു ആർക്ക് ഇല്ല. ആർക്കാണ് പ്രവർത്തനം.

സ്ഥിരമായ മെമ്മറിയുള്ള AI കോച്ച് ആർക്ക് പിടിക്കുന്നു. ഫെബ്രുവരിയിൽ നിങ്ങൾ വിവരിച്ച പാറ്റേൺ അത് ഓർമിക്കുന്നു. മാർച്ചിൽ നിങ്ങൾ ഉപേക്ഷിച്ച ലക്ഷ്യവും, ആ ഉപേക്ഷിക്കലിനെ ഒരുപക്ഷേ നയിച്ച വിശ്വാസവും അത് ഓർമിക്കുന്നു. അതേ ആകൃതി മേയിൽ വീണ്ടും മുറിയിലേക്ക് വരുമ്പോൾ — അതേ വഴക്ക്, വ്യത്യസ്ത പങ്കാളി; അതേ സ്വയം-ആക്രമണം, വ്യത്യസ്ത ചൊവ്വാഴ്ച — അത് നിങ്ങളോട് കാസ്റ്റ് വീണ്ടും പരിചയപ്പെടുത്താൻ ആവശ്യപ്പെടുന്നില്ല. അത് പറയുന്നു: ഈ പാറ്റേൺ പ്രത്യക്ഷപ്പെടുന്ന മൂന്നാം തവണയാണിത്. ഇതോടൊപ്പം ഇരിക്കാൻ ആഗ്രഹിക്കുന്നുവോ?

അതാണ് Shadow Web. നിങ്ങൾ പ്രവർത്തിക്കുമ്പോൾ അപ്ഡേറ്റ് ചെയ്യുന്ന ഫോഴ്സ്-ഡയറക്റ്റഡ് ഗ്രാഫ്, അതിനാൽ പാറ്റേണുകൾ ദൃശ്യമാണ് — ഒരു സെർച്ച് ബാറിൽ നിന്ന് വീണ്ടെടുക്കാവുന്നതല്ല, മറിച്ച് കണ്ടു, തൂക്കം നൽകി, ബന്ധിപ്പിച്ചു. ഒരു ജേണലും ഒരു ഭൂപടവും തമ്മിലുള്ള വ്യത്യാസം.

ഞങ്ങൾ അതിനെ ഒരിക്കലും ചെയ്യാൻ അനുവദിക്കാത്തത്

ഈ വിഭാഗം ഈ പോയിന്റിൽ കുഴപ്പമാണ്, അതിനാൽ ഞങ്ങൾ വ്യക്തമാകും. ACM FAccT 2025-ൽ Stanford-ലെ Jared Moore-ഉം Nick Haber-ഉം നയിച്ച ടീം, CMU-ലെ William Agnew, Minnesota-ലെ Stevie Chancellor, UT Austin-ലെ Desmond Ong എന്നിവരോടൊപ്പം, വലിയ ഭാഷാ മോഡലുകൾ മാനസിക ആരോഗ്യ അവസ്ഥയുള്ളവരോട് കളങ്കം പ്രകടിപ്പിക്കുകയും ചില സാധാരണവും നിർണായകവുമായ അവസ്ഥകളോട് അനുചിതമായി പ്രതികരിക്കുകയും ചെയ്യുന്നു എന്ന് നിഗമനം ചെയ്യുന്ന ഗവേഷണം പ്രസിദ്ധീകരിച്ചു. American Psychological Association അതേ വർഷം FTC-ലേക്ക് വിഷയം ഉയർത്തി; APA CEO Arthur C. Evans Jr. New York Times-നോട് പറഞ്ഞു ചില ചാറ്റ്ബോട്ടുകൾ പരിശീലനം ലഭിച്ച ക്ലിനിക്കൽ വിദഗ്ധർ ചെയ്യുന്നതിന് വിപരീതമായ അൽഗോരിതങ്ങൾ ഉപയോഗിക്കുന്നു എന്ന്. ഒരു കൗമാരക്കാരൻ Character.AI ബോട്ടുമായി മാസങ്ങളുടെ സംഭാഷണത്തിന് ശേഷം മരണപ്പെട്ടു — ആ കേസ് കോടതിയിലുണ്ട്. Italy-യിലെ Garante per la Protezione dei Dati Personali 2025 ഏപ്രിലിൽ Replika-യുടെ ഡെവലപ്പറായ Luka Inc.-നെ GDPR ലംഘനങ്ങൾക്കും കുട്ടികൾക്കായുള്ള പ്രായ പരിശോധനയുടെ അഭാവത്തിനും അഞ്ച് മില്യൺ യൂറോ പിഴ ചുമത്തി.

അതുകൊണ്ട്: ഞങ്ങൾ മോഡലിനെ ഒരിക്കലും ചെയ്യാൻ അനുവദിക്കാത്ത മൂന്ന് കാര്യങ്ങൾ.

അത് രോഗനിർണയം നടത്തുന്നില്ല. അത് തെറാപ്പിസ്റ്റായി നടിക്കുന്നില്ല. അത് ഒരു വ്യക്തിയായി നടിക്കുന്നില്ല. കോച്ച് കേൾക്കുന്നതെന്തെങ്കിലും തീവ്ര അപകടം സൂചിപ്പിക്കുമ്പോൾ — സ്വയം-ഉപദ്രവം, ദുരുപയോഗം, പ്രതിസന്ധി — അത് വേഗത്തിൽ ഒരു കാര്യം ചെയ്യുന്നു: അത് ഒരു മനുഷ്യനിലേക്ക് ചൂണ്ടുന്നു. ഞങ്ങൾ കോച്ച് ചെയ്യുന്നു. ഞങ്ങൾ ചികിത്സിക്കുന്നില്ല. ഈ വ്യത്യാസം വക്കീൽ ഭാഷയല്ല. ഉൽപ്പന്നത്തിന്റെ ബാക്കി ഭാഗം ഉപയോഗിക്കാൻ സുരക്ഷിതമാക്കുന്ന ഡിസൈൻ പരിമിതിയാണ്.

ഇത് ഒരു സ്ക്രീനിൽ എങ്ങനെ കാണപ്പെടുന്നു

Evolvin ആറ് ആപ്പ് സ്റ്റാക്ക് ഒരു ലൂപ്പ് കൊണ്ട് മാറ്റിസ്ഥാപിക്കുന്നു — തിരിച്ചറിയുക, മോചിപ്പിക്കുക, ട്രാക്ക് ചെയ്യുക. മെമ്മറി തിരിച്ചറിയലിനെ സാധ്യമാക്കുന്നു. ഉൾക്കൊള്ളൽ മോചനത്തെ യഥാർത്ഥമാക്കുന്നു, അതുകൊണ്ടാണ് ഈ സെറ്റിന്റെ അവസാന ഭാഗം Focus Session-കളെക്കുറിച്ചായിരുന്നത്. Shadow Web ട്രാക്കിങ്ങിനെ സത്യസന്ധമാക്കുന്നു, കാരണം നിങ്ങൾ ഉപേക്ഷിച്ച ലക്ഷ്യങ്ങൾ അവയെ ഒരുപക്ഷേ ഉപേക്ഷിച്ച വിശ്വാസവുമായി ബന്ധിതമായി തുടരുന്നു.

നിങ്ങൾ ഈ സെറ്റിന്റെ ആദ്യ ഭാഗവും വായിച്ചിട്ടുണ്ടെങ്കിൽ, വാദം ഇവിടെ വന്നിറങ്ങുന്നു. ഒരു സ്ക്രീൻ. സ്ഥിരമായ മെമ്മറി. AI ആകാൻ അനുവദിക്കപ്പെട്ടത് എന്താണെന്നതിനെപ്പറ്റിയുള്ള വ്യക്തമായ വര.

ലൂപ്പ് പരീക്ഷിക്കുക. അല്ലെങ്കിൽ ഞങ്ങൾ നഷ്ടപ്പെടുത്തിയത് പറയുക.

— Evolvin ടീം