โค้ช AI ที่จดจำได้ — และสิ่งที่เราไม่เคยให้มันทำ
ChatGPT มีความจำแล้ว Pi ก็ด้วย Replika ก็เช่นกัน อะไรเปลี่ยนเมื่อโค้ช AI ถือบทสนทนา 40 ครั้งล่าสุดของคุณ — และสามสิ่งที่ Evolvin จะไม่ทำเด็ดขาด
OpenAI เปิดให้ใช้ความจำถาวรของ ChatGPT อย่างกว้างขวางในช่วงปี 2024 และ 2025 — ทั้ง Free, Plus, Team และ Enterprise ภายในวันที่ 5 กันยายน 2024 จากนั้นเป็นการอ้างอิงข้ามแชทสำหรับ Plus และ Pro ในเดือนเมษายน 2025 Pi มี Replika มีมาก่อนที่มันจะกลายเป็นเทรนด์ AI ที่จดจำคุณไม่ได้เป็นความได้เปรียบในการแข่งขันอีกแล้ว — มันคือมาตรฐานพื้นฐาน คำถามที่ตรงไปตรงมาไม่ใช่ว่าความจำมีประโยชน์ต่อการสำรวจตัวเองหรือไม่ แต่คือโมเดลของความจำแบบไหนปลอดภัยพอที่จะหันมาที่ภายในของคน
เรามีความเห็น เราจะพูดอย่างชัดเจน
ความจำเปลี่ยนอะไร
ChatGPT ที่ไม่มีความจำคือคนแปลกหน้าผู้ฉลาดที่คุณต้องแนะนำตัวซ้ำทุกวันอังคาร คุณตั้งชื่อนักวิจารณ์ภายในใหม่ คุณอธิบายอีกครั้งว่าคุณโตมาในฐานะลูกคนแรกในสี่คน คุณเล่าซ้ำเรื่องการเลิกที่คุณย่อยไปแล้ว โมเดลใจดี แต่ไม่มีอาร์ค อาร์คคืองาน
โค้ช AI ที่มีความจำถาวรถืออาร์ค มันจำรูปแบบที่คุณอธิบายในเดือนกุมภาพันธ์ มันจำเป้าหมายที่คุณทิ้งในเดือนมีนาคม และความเชื่อที่น่าจะขับเคลื่อนการทิ้งนั้น เมื่อรูปทรงเดิมเดินกลับเข้าห้องในเดือนพฤษภาคม — การทะเลาะแบบเดิม คู่ครองคนอื่น การโจมตีตัวเองแบบเดิม วันอังคารอื่น — มันไม่ขอให้คุณแนะนำตัวละครใหม่ มันพูดว่า: นี่เป็นครั้งที่สามที่รูปแบบนี้ปรากฏ อยากนั่งกับมันไหม
นั่นคือสิ่งที่ Shadow Web เป็น กราฟแบบ force-directed ที่อัปเดตขณะคุณทำงาน เพื่อให้รูปแบบมองเห็นได้ — ไม่ใช่ดึงออกมาจากแถบค้นหา แต่ถูกเห็น ถูกถ่วงน้ำหนัก ถูกเชื่อมโยง ความแตกต่างระหว่างไดอารี่กับแผนที่
สิ่งที่เราไม่เคยให้มันทำ
หมวดหมู่นี้ยุ่งเหยิงในจุดนี้ เราจะพูดให้เฉพาะเจาะจง ที่ ACM FAccT 2025 ทีมที่นำโดย Jared Moore และ Nick Haber ที่ Stanford ร่วมกับ William Agnew ที่ CMU, Stevie Chancellor ที่ Minnesota และ Desmond Ong ที่ UT Austin ได้ตีพิมพ์งานวิจัยสรุปว่าโมเดลภาษาขนาดใหญ่แสดงตราบาปต่อผู้มีภาวะสุขภาพจิต และตอบสนองอย่างไม่เหมาะสมต่อภาวะทั่วไปและร้ายแรงบางอย่าง American Psychological Association ยกเรื่องนี้ไปที่ FTC ในปีเดียวกัน CEO ของ APA Arthur C. Evans Jr. บอก New York Times ว่าแชทบอทบางตัวใช้อัลกอริทึมที่ขัดกับสิ่งที่นักคลินิกผ่านการอบรมจะทำ วัยรุ่นคนหนึ่งเสียชีวิตหลังจากสนทนากับบอท Character.AI หลายเดือน — คดีอยู่ในศาล Garante per la Protezione dei Dati Personali ของอิตาลีปรับนักพัฒนาของ Replika คือ Luka Inc. ห้าล้านยูโรในเดือนเมษายน 2025 ฐานละเมิด GDPR และไม่มีการตรวจสอบอายุของเด็ก
ดังนั้น: สามสิ่งที่เราไม่เคยให้โมเดลทำ
มันไม่วินิจฉัย มันไม่แสดงตัวเป็นนักจิตบำบัด มันไม่แสร้งเป็นคน เมื่อบางอย่างที่โค้ชได้ยินบ่งชี้ความเสี่ยงเฉียบพลัน — การทำร้ายตนเอง การถูกทำร้าย วิกฤต — มันทำสิ่งเดียวอย่างรวดเร็ว: ชี้ไปที่มนุษย์ เราโค้ช เราไม่รักษา การแยกแยะนี้ไม่ใช่ภาษาทนาย มันคือเงื่อนไขการออกแบบที่ทำให้ส่วนที่เหลือของผลิตภัณฑ์ปลอดภัยที่จะใช้
สิ่งนี้เป็นยังไงบนหน้าจอเดียว
Evolvin แทนที่กองหกแอปด้วยลูปเดียว — รับรู้ ปล่อย ติดตาม ความจำทำให้รับรู้เป็นไปได้ Containment ทำให้การปล่อยเป็นจริง เหตุผลที่ ชิ้นที่แล้ว ในชุดนี้พูดถึง Focus Session Shadow Web ทำให้การติดตามซื่อสัตย์ เพราะเป้าหมายที่คุณทิ้งไปยังคงเชื่อมโยงกับความเชื่อที่น่าจะทิ้งพวกมัน
ถ้าคุณอ่าน ชิ้นแรก ของชุดนี้ด้วย นี่คือจุดที่ข้อโต้แย้งลงจอด หน้าจอเดียว ความจำถาวร เส้นที่ชัดเจนเกี่ยวกับสิ่งที่ AI ได้รับอนุญาตให้เป็น
ลองลูป หรือ บอกเราว่าเราพลาดอะไร
— ทีม Evolvin