یک مربی هوش مصنوعی که به یاد می‌آورد — و آنچه هرگز اجازه‌اش را نمی‌دهیم

OpenAI حافظه دائمی ChatGPT را در سراسر ۲۰۲۴ و ۲۰۲۵ به‌طور گسترده عرضه کرد — سطوح Free، Plus، Team و Enterprise تا ۵ سپتامبر ۲۰۲۴، سپس ارجاع متقاطع گفتگو برای Plus و Pro در آوریل ۲۰۲۵. Pi آن را دارد. Replika پیش از آنکه مد شود داشته. هوش مصنوعی‌ای که تو را به یاد می‌آورد دیگر مزیت رقابتی نیست — استاندارد است. سؤال صادقانه این نیست که آیا حافظه برای کار با خود مفید است. بلکه این است که کدام مدل از حافظه به اندازه کافی امن است که به درون یک انسان نشانه گرفته شود.

نظر داریم. آن را روشن خواهیم گفت.

حافظه چه تغییر می‌دهد

ChatGPT بدون حافظه غریبه‌ای درخشان است که هر سه‌شنبه خود را به او دوباره معرفی می‌کنی. منتقد درونی را دوباره نام می‌گذاری. دوباره توضیح می‌دهی که به‌عنوان بزرگ‌ترین چهار خواهر/برادر بزرگ شده‌ای. جدایی‌ای را که قبلاً هضم کرده‌ای تکرار می‌کنی. مدل بخشنده است اما قوسی ندارد. قوس همان کار است.

یک مربی هوش مصنوعی با حافظه دائمی قوس را نگه می‌دارد. الگویی را که در فوریه توصیف کردی به یاد می‌آورد. هدفی را که در مارس رها کردی به یاد می‌آورد، و باوری که احتمالاً رها کردن را هدایت می‌کرد. وقتی همان شکل در ماه می دوباره وارد اتاق می‌شود — همان دعوا، شریک متفاوت؛ همان حمله به خود، سه‌شنبه‌ای متفاوت — از تو نمی‌خواهد گروه بازیگران را دوباره معرفی کنی. می‌گوید: این سومین باری است که این الگو ظاهر می‌شود. می‌خواهی با آن بنشینی؟

این Shadow Web است. گرافی force-directed که در حالی که کار می‌کنی به‌روز می‌شود، به‌طوری که الگوها قابل دیدن‌اند — نه قابل بازیابی از نوار جست‌وجو بلکه دیده‌شده، وزن‌داده‌شده، متصل‌شده. تفاوت بین یک دفترچه و یک نقشه.

آنچه هرگز اجازه‌اش را نمی‌دهیم

این دسته در این نقطه آشفته است، پس مشخص خواهیم بود. در ACM FAccT 2025، تیمی به رهبری Jared Moore و Nick Haber در Stanford، با William Agnew در CMU، Stevie Chancellor در Minnesota و Desmond Ong در UT Austin، پژوهشی منتشر کرد با این نتیجه که مدل‌های زبانی بزرگ نسبت به کسانی که شرایط سلامت روان دارند انگ ابراز می‌کنند و به برخی شرایط رایج و حیاتی به‌طور نامناسب پاسخ می‌دهند. American Psychological Association در همان سال موضوع را به FTC ارجاع داد؛ Arthur C. Evans Jr.، مدیرعامل APA، به New York Times گفت که برخی چت‌بات‌ها از الگوریتم‌هایی استفاده می‌کنند که برخلاف کاری است که یک متخصص بالینی آموزش‌دیده انجام می‌دهد. نوجوانی پس از ماه‌ها گفتگو با یک بات Character.AI درگذشت — آن پرونده در دادگاه است. Garante per la Protezione dei Dati Personali ایتالیا توسعه‌دهنده Replika، Luka Inc.، را در آوریل ۲۰۲۵ به دلیل نقض GDPR و عدم تأیید سن برای کودکان پنج میلیون یورو جریمه کرد.

پس: سه چیز که هرگز اجازه نمی‌دهیم مدل انجام دهد.

تشخیص نمی‌گذارد. خود را به‌عنوان درمانگر معرفی نمی‌کند. وانمود نمی‌کند انسان است. وقتی چیزی که مربی می‌شنود نشانه‌ای از خطر حاد است — آسیب به خود، سوءاستفاده، بحران — یک کار را سریع انجام می‌دهد: به یک انسان ارجاع می‌دهد. ما مربیگری می‌کنیم. درمان نمی‌کنیم. این تمایز زبان حقوقی نیست. محدودیت طراحی است که بقیه محصول را برای استفاده امن می‌کند.

این در یک صفحه چه شکلی دارد

Evolvin پشته شش‌اپی را با یک حلقه جایگزین می‌کند — بشناس، آزاد کن، دنبال کن. حافظه شناختن را ممکن می‌کند. نگه‌داری آزاد کردن را واقعی می‌کند، به همین دلیل قطعه آخر در این مجموعه درباره Focus sessions بود. Shadow Web دنبال کردن را صادقانه می‌کند، چون اهدافی که رها کرده‌ای به باوری که احتمالاً آنها را رها کرد متصل می‌مانند.

اگر قطعه اول این مجموعه را هم خوانده‌ای، اینجا استدلال فرود می‌آید. یک صفحه. حافظه دائمی. خطی روشن درباره آنچه به یک هوش مصنوعی اجازه داده می‌شود باشد.

حلقه را امتحان کن. یا به ما بنویس چه چیزی را از دست داده‌ایم.

— تیم Evolvin