مدرب ذكاء اصطناعي يتذكر — وما لا نسمح له أبداً بفعله

أطلقت OpenAI ذاكرة ChatGPT الدائمة على نطاق واسع خلال 2024 و2025 — الطبقات Free وPlus وTeam وEnterprise حتى 5 سبتمبر 2024، ثم الإحالة عبر المحادثات لـPlus وPro في أبريل 2025. لدى Pi ذاكرة. لدى Replika ذاكرة منذ ما قبل أن تصبح موضة. الذكاء الاصطناعي الذي يتذكرك لم يعد ميزة تنافسية — أصبح معياراً. السؤال الصادق ليس ما إذا كانت الذاكرة مفيدة للعمل الداخلي. بل أي نموذج للذاكرة آمن بما يكفي ليُوجَّه إلى داخل إنسان.

لدينا رأي. سنقوله بوضوح.

ما الذي تغيّره الذاكرة

ChatGPT بدون ذاكرة هو غريب لامع تقدّم نفسك له من جديد كل ثلاثاء. تسمّي الناقد الداخلي من جديد. تعيد شرح أنك ترعرعت كأكبر من أربعة. تكرر الانفصال الذي استقلبته بالفعل. النموذج كريم لكن ليس لديه قوس. القوس هو العمل.

مدرب ذكاء اصطناعي مع ذاكرة دائمة يحمل القوس. يتذكر النمط الذي وصفته في فبراير. يتذكر الهدف الذي تخليت عنه في مارس، والاعتقاد الذي ربما كان يقود التخلّي. حين يدخل الشكل نفسه إلى الغرفة في مايو — نفس الخلاف، شريكة مختلفة؛ نفس هجوم الذات، ثلاثاء مختلف — لا يطلب منك إعادة تقديم طاقم الممثلين. يقول: هذه هي المرة الثالثة التي يظهر فيها هذا النمط. هل تريد الجلوس معه؟

هذا هو Shadow Web. رسم force-directed يتحدّث وأنت تعمل، بحيث تكون الأنماط مرئية — ليست قابلة للاستدعاء من شريط بحث بل مرئية، مرجّحة، متصلة. الفرق بين يوميات وخريطة.

ما لا نسمح له أبداً بفعله

الفئة فوضى في هذه النقطة، لذا سنكون محددين. في ACM FAccT 2025، نشر فريق بقيادة Jared Moore وNick Haber من Stanford، مع William Agnew في CMU، وStevie Chancellor في Minnesota، وDesmond Ong في UT Austin، بحثاً يخلص إلى أن نماذج اللغة الكبيرة تعبّر عن وصمة تجاه أولئك الذين يعانون من حالات صحية نفسية وتستجيب بشكل غير ملائم لبعض الحالات الشائعة والحرجة. صعّدت American Psychological Association إلى FTC في العام نفسه؛ قال Arthur C. Evans Jr.، المدير التنفيذي لـAPA، لـNew York Times إن بعض روبوتات المحادثة تستخدم خوارزميات تتعارض مع ما يفعله طبيب سريري مدرّب. توفي مراهق بعد أشهر من المحادثات مع روبوت Character.AI — تلك القضية أمام المحكمة. غرّمت Garante per la Protezione dei Dati Personali الإيطالية مطوّر Replika، Luka Inc.، خمسة ملايين يورو في أبريل 2025 بسبب انتهاكات GDPR وغياب التحقق من العمر للأطفال.

إذن: ثلاثة أشياء لا نسمح للنموذج بفعلها أبداً.

لا يشخّص. لا يتظاهر بأنه معالج. لا يتظاهر بأنه شخص. حين يشير شيء يسمعه المدرّب إلى خطر حاد — إيذاء النفس، إساءة، أزمة — يفعل شيئاً واحداً بسرعة: يحيل إلى إنسان. نحن ندرّب. لا نعالج. التمييز ليس لغة محامين. إنه قيد التصميم الذي يجعل بقية المنتج آمناً للاستخدام.

كيف يبدو هذا على شاشة واحدة

تستبدل Evolvin مكدّس التطبيقات الستة بحلقة واحدة — تعرّف، حرّر، تتبّع. الذاكرة تجعل التعرّف ممكناً. الاحتواء يجعل التحرير حقيقياً، وهذا سبب أن المقال الأخير في هذه السلسلة كان عن Focus sessions. Shadow Web يجعل التتبّع صادقاً، لأن الأهداف التي تخلّيت عنها تبقى متصلة بالاعتقاد الذي ربما تخلّى عنها.

إذا قرأت أيضاً المقال الأول في هذه السلسلة، هنا تهبط الحجة. شاشة واحدة. ذاكرة دائمة. خط واضح حول ما يُسمح للذكاء الاصطناعي بأن يكونه.

جرّب الحلقة. أو أخبرنا ما الذي فوّتناه.

— فريق Evolvin