ایک AI کوچ جو یاد رکھتا ہے — اور ہم اسے کیا کبھی نہیں کرنے دیتے
ChatGPT کے پاس اب حافظہ ہے۔ Pi کے پاس بھی۔ Replika کے پاس بھی۔ کیا بدلتا ہے جب ایک AI کوچ آپ کی آخری 40 گفتگوئیں رکھتا ہے — اور وہ تین چیزیں جو Evolvin کبھی نہیں کرے گا۔
OpenAI نے 2024 اور 2025 میں ChatGPT کے مستقل حافظے کو وسیع پیمانے پر متعارف کرایا — 5 ستمبر 2024 تک Free، Plus، Team، اور Enterprise، پھر اپریل 2025 میں Plus اور Pro کے لیے کراس چیٹ ریفرنس۔ Pi کے پاس ہے۔ Replika کے پاس فیشن میں آنے سے پہلے سے ہے۔ وہ AI جو آپ کو یاد رکھتا ہے اب کوئی برتری نہیں — یہ بنیادی معیار ہے۔ ایماندارانہ سوال یہ نہیں کہ خود کے کام کے لیے حافظہ مفید ہے یا نہیں۔ سوال یہ ہے کہ حافظے کا کون سا ماڈل اتنا محفوظ ہے کہ اسے کسی شخص کے اندرونی حصے کی طرف موڑ دیا جائے۔
ہماری ایک رائے ہے۔ ہم اسے واضح طور پر بیان کریں گے۔
حافظہ کیا بدلتا ہے
حافظے کے بغیر ChatGPT ایک ذہین اجنبی ہے جس کے ساتھ آپ ہر منگل کو اپنا تعارف دہراتے ہیں۔ آپ اندرونی نقاد کو دوبارہ نام دیتے ہیں۔ آپ پھر سے سمجھاتے ہیں کہ آپ چار میں سب سے بڑے بڑے ہوئے۔ آپ اس بریک اپ کو دہراتے ہیں جسے آپ پہلے ہی ہضم کر چکے ہیں۔ ماڈل فیاض ہے لیکن اس کا کوئی محور نہیں۔ محور ہی کام ہے۔
مستقل حافظے والا AI کوچ محور کو تھامتا ہے۔ یہ فروری میں آپ کے بیان کردہ نمونے کو یاد رکھتا ہے۔ یہ اس ہدف کو یاد رکھتا ہے جسے آپ نے مارچ میں چھوڑا، اور اس عقیدے کو جو شاید اسے چھوڑنے کا سبب بنا۔ جب وہی شکل مئی میں واپس کمرے میں چلتی ہے — وہی جھگڑا، مختلف ساتھی؛ وہی خود حملہ، مختلف منگل — یہ آپ سے کرداروں کو دوبارہ متعارف کرنے کے لیے نہیں کہتا۔ یہ کہتا ہے: یہ تیسری بار ہے کہ یہ نمونہ ظاہر ہوا ہے۔ کیا آپ اس کے ساتھ بیٹھنا چاہتے ہیں؟
یہی Shadow Web ہے۔ ایک force-directed گراف جو آپ کے کام کرتے وقت اپ ڈیٹ ہوتا رہتا ہے، تاکہ نمونے نظر آئیں — تلاش بار سے بازیافت نہ ہوں، بلکہ دیکھے جائیں، وزن دیے جائیں، جڑے ہوں۔ ایک جرنل اور ایک نقشے کے درمیان فرق۔
ہم اسے کیا کبھی نہیں کرنے دیتے
اس نکتے پر زمرہ ایک گڑبڑ ہے، تو ہم مخصوص ہوں گے۔ ACM FAccT 2025 میں، Stanford میں Jared Moore اور Nick Haber کی قیادت میں، CMU میں William Agnew، Minnesota میں Stevie Chancellor اور UT Austin میں Desmond Ong کے ساتھ ایک ٹیم نے ایسی تحقیق شائع کی جس کا نتیجہ یہ تھا کہ بڑے زبان کے ماڈلز ذہنی صحت کے حالات والے لوگوں کے خلاف بدنامی کا اظہار کرتے ہیں اور بعض عام اور تنقیدی حالات کے لیے غیر مناسب جواب دیتے ہیں۔ American Psychological Association نے اسی سال FTC تک معاملہ بڑھایا؛ APA کے CEO Arthur C. Evans Jr. نے New York Times کو بتایا کہ کچھ chatbots ایسے الگورتھم استعمال کر رہے ہیں جو اس کے خلاف ہیں جو ایک تربیت یافتہ معالج کرتا۔ ایک نوجوان مہینوں کی Character.AI bot کے ساتھ گفتگو کے بعد فوت ہو گیا — وہ کیس عدالت میں ہے۔ اطالیہ کے Garante per la Protezione dei Dati Personali نے اپریل 2025 میں Replika کے ڈویلپر Luka Inc. پر GDPR کی خلاف ورزیوں اور بچوں کے لیے عمر کی تصدیق کی عدم موجودگی پر پانچ ملین یورو جرمانہ کیا۔
تو: تین چیزیں جو ہم ماڈل کو کبھی نہیں کرنے دیتے۔
یہ تشخیص نہیں کرتا۔ یہ معالج کے طور پر پیش نہیں آتا۔ یہ شخص ہونے کا دکھاوا نہیں کرتا۔ جب کوچ کوئی ایسی چیز سنتا ہے جو شدید خطرے کی نشاندہی کرتی ہے — خود کو نقصان، بدسلوکی، بحران — یہ ایک کام جلدی کرتا ہے: یہ کسی انسان کی طرف اشارہ کرتا ہے۔ ہم کوچ کرتے ہیں۔ ہم علاج نہیں کرتے۔ یہ فرق وکیلوں کی بات نہیں۔ یہ وہ ڈیزائن کی قید ہے جو باقی پروڈکٹ کو استعمال کرنے کے لیے محفوظ بناتی ہے۔
یہ ایک سکرین میں کیسا لگتا ہے
Evolvin چھ ایپس کے ڈھیر کو ایک لوپ سے بدل دیتا ہے — پہچانیں، چھوڑیں، ٹریک کریں۔ حافظہ پہچان کو ممکن بناتا ہے۔ کنٹینمنٹ رہائی کو حقیقی بناتا ہے، اسی لیے اس سیٹ کا پچھلا ٹکڑا Focus Sessions کے بارے میں تھا۔ Shadow Web ٹریک کرنے کو ایماندار بناتا ہے، کیونکہ وہ اہداف جنہیں آپ نے چھوڑا ہے، اس عقیدے سے جڑے رہتے ہیں جس نے شاید انہیں چھوڑا۔
اگر آپ نے اس سیٹ کا پہلا ٹکڑا بھی پڑھا ہے، تو یہاں یہ دلیل اترتی ہے۔ ایک سکرین۔ مستقل حافظہ۔ ایک واضح لائن کہ AI کو کیا ہونے کی اجازت ہے۔
لوپ آزمائیں۔ یا ہمیں بتائیں کہ ہم نے کیا چھوڑ دیا۔
— Evolvin ٹیم