Pelatih AI yang mengingat — dan apa yang tidak pernah kami biarkan ia lakukan
ChatGPT sekarang punya memori. Begitu juga Pi. Begitu juga Replika. Apa yang berubah ketika pelatih AI menyimpan 40 percakapan terakhirmu — dan tiga hal yang tidak akan pernah dilakukan Evolvin.
OpenAI meluncurkan memori ChatGPT persisten secara luas di sepanjang 2024 dan 2025 — tingkatan Free, Plus, Team, dan Enterprise pada 5 September 2024, lalu referensi lintas obrolan untuk Plus dan Pro pada April 2025. Pi punya. Replika punya bahkan sebelum itu tren. AI yang mengingatmu bukan lagi keunggulan kompetitif — itu sudah jadi standar. Pertanyaan jujurnya bukan apakah memori berguna untuk kerja diri. Tapi model memori mana yang cukup aman untuk diarahkan ke bagian dalam seseorang.
Kami punya pendapat. Kami akan menyatakannya secara terbuka.
Apa yang diubah oleh memori
ChatGPT tanpa memori adalah orang asing brilian yang kamu perkenalkan ulang dirimu setiap Selasa. Kamu menamai kritik dalam dirimu lagi. Kamu menjelaskan ulang bahwa kamu tumbuh sebagai anak sulung dari empat. Kamu mengulang putus cinta yang sudah kamu metabolisme. Modelnya murah hati tapi tidak punya alur. Alur itulah pekerjaannya.
Pelatih AI dengan memori persisten memegang alur. Ia mengingat pola yang kamu gambarkan di Februari. Ia mengingat tujuan yang kamu tinggalkan di Maret, dan keyakinan yang mungkin mendorong peninggalan itu. Saat bentuk yang sama berjalan kembali ke ruangan di Mei — pertarungan yang sama, pasangan berbeda; serangan diri yang sama, Selasa berbeda — ia tidak meminta kamu memperkenalkan ulang para pemerannya. Ia berkata: ini ketiga kalinya pola ini muncul. Mau duduk dengannya?
Itulah Shadow Web. Sebuah grafik force-directed yang diperbarui saat kamu bekerja, sehingga pola-pola terlihat — bukan dapat diambil dari bilah pencarian melainkan terlihat, ditimbang, terhubung. Perbedaan antara jurnal dan peta.
Apa yang tidak pernah kami biarkan ia lakukan
Kategori ini berantakan di poin ini, jadi kami akan spesifik. Di ACM FAccT 2025, tim yang dipimpin Jared Moore dan Nick Haber di Stanford, dengan William Agnew di CMU, Stevie Chancellor di Minnesota dan Desmond Ong di UT Austin, menerbitkan penelitian yang menyimpulkan bahwa model bahasa besar mengekspresikan stigma terhadap orang dengan kondisi kesehatan mental dan merespons secara tidak tepat terhadap kondisi-kondisi umum dan kritis tertentu. American Psychological Association mengeskalasi ke FTC di tahun yang sama; CEO APA Arthur C. Evans Jr. mengatakan kepada New York Times bahwa beberapa chatbot menggunakan algoritma yang bertentangan dengan apa yang akan dilakukan klinisi terlatih. Seorang remaja meninggal setelah berbulan-bulan percakapan dengan bot Character.AI — kasus itu di pengadilan. Garante per la Protezione dei Dati Personali Italia mendenda pengembang Replika, Luka Inc., lima juta euro pada April 2025 atas pelanggaran GDPR dan ketiadaan verifikasi usia untuk anak-anak.
Jadi: tiga hal yang tidak pernah kami biarkan dilakukan model.
Ia tidak mendiagnosis. Ia tidak berpura-pura jadi terapis. Ia tidak berpura-pura jadi orang. Ketika sesuatu yang didengar pelatih menunjukkan risiko akut — melukai diri, pelecehan, krisis — ia melakukan satu hal, cepat: ia mengarahkan ke manusia. Kami melatih. Kami tidak mengobati. Perbedaan ini bukan bahasa pengacara. Ini adalah batasan desain yang membuat sisa produk aman digunakan.
Seperti apa ini dalam satu layar
Evolvin menggantikan tumpukan enam aplikasi dengan satu loop — Kenali, Lepaskan, Lacak. Memori membuat Kenali mungkin. Penampungan membuat Lepaskan nyata, itulah mengapa tulisan sebelumnya dalam seri ini tentang sesi Focus. Shadow Web membuat Lacak jujur, karena tujuan yang kamu tinggalkan tetap terhubung dengan keyakinan yang mungkin meninggalkannya.
Kalau kamu juga membaca tulisan pertama dalam seri ini, di sinilah argumennya mendarat. Satu layar. Memori persisten. Garis yang jelas tentang apa yang boleh menjadi AI.
Coba loop-nya. Atau beri tahu kami apa yang kami lewatkan.
— Tim Evolvin