מאמן AI שזוכר — ומה לא נותנים לו לעשות אף פעם
ל-ChatGPT יש עכשיו זיכרון. גם ל-Pi. גם ל-Replika. מה משתנה כשמאמן AI מחזיק את 40 השיחות האחרונות שלך — ושלושת הדברים ש-Evolvin לעולם לא תעשה.
OpenAI השיקה זיכרון ChatGPT קבוע באופן רחב לאורך 2024 ו-2025 — רמות Free, Plus, Team ו-Enterprise עד 5 בספטמבר 2024, ואחר כך הפניה בין שיחות עבור Plus ו-Pro באפריל 2025. ל-Pi יש את זה. ל-Replika היה את זה לפני שזה הפך לאופנה. ה-AI שזוכר אותך כבר לא יתרון תחרותי — זה סטנדרט. השאלה הכנה אינה אם הזיכרון מועיל לעבודת הצל. אלא איזה מודל של זיכרון בטוח מספיק כדי לכוון אל פנים האדם.
יש לנו דעה. נאמר אותה בבירור.
מה הזיכרון משנה
ChatGPT בלי זיכרון הוא זר מבריק שאתה מציג בפניו את עצמך מחדש כל יום שלישי. אתה נותן שם למבקר הפנימי שוב. אתה מסביר שוב שגדלת בכור מבין ארבעה. אתה חוזר על הפרידה שכבר עיכלת. המודל נדיב, אבל אין לו קשת. הקשת היא העבודה.
מאמן AI עם זיכרון קבוע מחזיק את הקשת. הוא זוכר את הדפוס שתיארת בפברואר. הוא זוכר את המטרה שנטשת במרץ, ואת האמונה שכנראה הניעה את הנטישה. כשאותה צורה חוזרת לחדר במאי — אותה ריב, בת זוג אחרת; אותה התקפה עצמית, יום שלישי אחר — הוא לא מבקש ממך להציג את הצוות מחדש. הוא אומר: זוהי הפעם השלישית שהדפוס הזה מופיע. רוצה לשבת איתו?
זה Shadow Web. גרף force-directed שמתעדכן כשאתה עובד, כך שהדפוסים גלויים — לא ניתנים לשליפה משורת חיפוש אלא נראים, משוקללים, מקושרים. ההבדל בין יומן למפה.
מה אנחנו לא נותנים לו לעשות אף פעם
הקטגוריה היא בלגן בנקודה הזו, אז נהיה ספציפיים. ב-ACM FAccT 2025, צוות בראשות Jared Moore ו-Nick Haber מ-Stanford, עם William Agnew ב-CMU, Stevie Chancellor ב-Minnesota ו-Desmond Ong ב-UT Austin, פרסם מחקר המסיק שמודלי שפה גדולים מבטאים סטיגמה כלפי אנשים עם מצבי בריאות הנפש, ומגיבים באופן בלתי הולם למצבים נפוצים וקריטיים מסוימים. American Psychological Association הסלימה ל-FTC באותה שנה; ה-CEO של APA, Arthur C. Evans Jr., אמר ל-New York Times שחלק מהצ'אטבוטים משתמשים באלגוריתמים מנוגדים למה שקליניקאי מאומן היה עושה. מתבגר נפטר אחרי חודשים של שיחות עם בוט Character.AI — אותו תיק בבית משפט. הרשות האיטלקית Garante per la Protezione dei Dati Personali קנסה את מפתחת Replika, Luka Inc., בחמישה מיליון אירו באפריל 2025 בגין הפרות GDPR והיעדר אימות גיל לילדים.
אז: שלושה דברים שאנחנו לא נותנים למודל לעשות אף פעם.
הוא לא מאבחן. הוא לא מתחזה למטפל. הוא לא מעמיד פנים שהוא אדם. כשמשהו שהמאמן שומע מרמז על סיכון חריף — פגיעה עצמית, התעללות, משבר — הוא עושה דבר אחד, מהר: מפנה לאדם. אנחנו מאמנים. אנחנו לא מטפלים. ההבחנה אינה ז'רגון של עורכי דין. זה אילוץ העיצוב שהופך את שאר המוצר לבטוח לשימוש.
איך זה נראה במסך אחד
Evolvin מחליפה את ערמת שש האפליקציות בלולאה אחת — זהה, שחרר, עקוב. הזיכרון הופך את הזיהוי לאפשרי. ההכלה הופכת את השחרור לאמיתי, ולכן המאמר האחרון בסדרה הזו עסק ב-Focus sessions. Shadow Web הופך את המעקב לכן, מפני שמטרות שנטשת נשארות מקושרות לאמונה שכנראה נטשה אותן.
אם קראת גם את המאמר הראשון בסדרה הזו, כאן הטיעון נוחת. מסך אחד. זיכרון קבוע. קו ברור על מה ש-AI מורשה להיות.
נסה את הלולאה. או כתוב לנו מה פספסנו.
— צוות Evolvin