AI coach yang mengingat — dan apa yang kami tidak benarkan ia buat

OpenAI melancarkan ingatan ChatGPT berterusan secara meluas pada 2024 dan 2025 — peringkat Free, Plus, Team dan Enterprise menjelang 5 September 2024, kemudian rujukan silang-perbualan untuk Plus dan Pro pada April 2025. Pi ada. Replika ada sebelum ia menjadi trend. AI yang mengingati anda bukan lagi kelebihan bersaing — ia adalah piawai. Soalan jujurnya bukan sama ada ingatan berguna untuk kerja diri. Ia adalah model ingatan mana yang cukup selamat untuk diarahkan kepada bahagian dalaman seseorang.

Kami ada pendapat. Kami akan menyatakannya secara jelas.

Apa yang ingatan ubah

ChatGPT tanpa ingatan adalah orang asing yang bijak yang anda perkenalkan diri kepadanya setiap Selasa. Anda menamakan pengkritik dalaman sekali lagi. Anda jelaskan semula yang anda dibesarkan sebagai sulung dari empat beradik. Anda mengulangi perpisahan yang sudah anda cernakan. Model itu pemurah tetapi ia tidak ada lengkungan. Lengkungan itulah kerjanya.

AI coach dengan ingatan berterusan memegang lengkungan. Ia mengingati corak yang anda gambarkan pada Februari. Ia mengingati matlamat yang anda tinggalkan pada Mac, dan kepercayaan yang mungkin memacu pengabaian itu. Apabila bentuk yang sama berjalan kembali ke dalam bilik pada Mei — pergaduhan yang sama, pasangan berbeza; serangan diri yang sama, Selasa berbeza — ia tidak meminta anda untuk memperkenalkan semula watak-watak. Ia berkata: ini kali ketiga corak ini muncul. Mahu duduk dengannya?

Itulah Shadow Web. Graf force-directed yang dikemas kini sambil anda bekerja, supaya corak kelihatan — bukan boleh diambil dari bar carian tetapi dilihat, ditimbang, dihubungkan. Perbezaan antara jurnal dan peta.

Apa yang kami tidak benarkan ia buat

Kategori ini berserabut pada perkara ini, jadi kami akan jadi spesifik. Pada ACM FAccT 2025, satu pasukan yang diketuai oleh Jared Moore dan Nick Haber di Stanford, dengan William Agnew di CMU, Stevie Chancellor di Minnesota dan Desmond Ong di UT Austin, menerbitkan penyelidikan yang membuat kesimpulan bahawa model bahasa besar menyatakan stigma terhadap mereka yang mempunyai keadaan kesihatan mental dan bertindak balas dengan tidak sewajarnya kepada keadaan-keadaan umum dan kritikal tertentu. American Psychological Association meningkatkan kepada FTC pada tahun yang sama; CEO APA Arthur C. Evans Jr. memberitahu New York Times bahawa beberapa chatbot menggunakan algoritma yang bertentangan dengan apa yang akan dibuat oleh seorang pengamal klinikal terlatih. Seorang remaja meninggal dunia selepas berbulan-bulan perbualan dengan bot Character.AI — kes itu di mahkamah. Garante per la Protezione dei Dati Personali Itali mendenda pembangun Replika, Luka Inc., lima juta euro pada April 2025 atas pelanggaran GDPR dan ketiadaan pengesahan umur untuk kanak-kanak.

Jadi: tiga perkara yang kami tidak benarkan model lakukan.

Ia tidak mendiagnosis. Ia tidak berlagak sebagai ahli terapi. Ia tidak berlagak sebagai seseorang. Apabila sesuatu yang didengari coach mencadangkan risiko akut — mencederakan diri, penderaan, krisis — ia melakukan satu perkara, cepat: ia menunjuk kepada manusia. Kami melatih. Kami tidak merawat. Perbezaan ini bukan bahasa peguam. Ia adalah kekangan reka bentuk yang membuat selebihnya produk selamat untuk digunakan.

Bagaimana ini kelihatan dalam satu skrin

Evolvin menggantikan timbunan enam aplikasi dengan satu gelung — Sedar, Lepas, Jejak. Ingatan membuat Sedar mungkin. Penampungan membuat Lepas nyata, sebab itu karya sebelumnya dalam set ini adalah mengenai sesi Focus. Shadow Web membuat Jejak jujur, kerana matlamat yang anda tinggalkan kekal dihubungkan dengan kepercayaan yang mungkin meninggalkannya.

Jika anda baca juga karya pertama dalam set ini, di sinilah hujah mendarat. Satu skrin. Ingatan berterusan. Garis yang jelas tentang apa yang AI dibenarkan menjadi.

Cuba gelung. Atau beritahu kami apa yang kami terlepas.

— Pasukan Evolvin