Một huấn luyện viên AI có ký ức — và những gì chúng tôi không bao giờ cho phép nó làm

OpenAI đã triển khai bộ nhớ ChatGPT bền vững trên diện rộng trong suốt năm 2024 và 2025 — các bậc Free, Plus, Team và Enterprise đến ngày 5 tháng 9 năm 2024, sau đó là tham chiếu chéo qua các cuộc trò chuyện cho Plus và Pro vào tháng 4 năm 2025. Pi có nó. Replika đã có nó từ trước khi nó thịnh hành. AI nhớ bạn không còn là lợi thế cạnh tranh — đó là tiêu chuẩn tối thiểu. Câu hỏi trung thực không phải là liệu ký ức có hữu ích cho công việc tự thân hay không. Mà là mô hình ký ức nào đủ an toàn để hướng vào bên trong một con người.

Chúng tôi có một quan điểm. Chúng tôi sẽ nói rõ.

Ký ức thay đổi điều gì

ChatGPT không có ký ức là một người lạ tài năng mà bạn tự giới thiệu lại mỗi thứ Ba. Bạn đặt tên cho người phê bình bên trong một lần nữa. Bạn giải thích lại rằng bạn lớn lên là anh cả của bốn anh em. Bạn lặp lại cuộc chia tay mà bạn đã chuyển hóa. Mô hình hào phóng nhưng không có một đường cong. Đường cong chính là công việc.

Một huấn luyện viên AI với ký ức bền vững giữ đường cong. Nó nhớ khuôn mẫu bạn đã mô tả vào tháng Hai. Nó nhớ mục tiêu bạn đã từ bỏ vào tháng Ba, và niềm tin có lẽ đã đẩy đến sự từ bỏ đó. Khi cùng một hình dạng trở lại căn phòng vào tháng Năm — cùng một cuộc cãi vã, người yêu khác; cùng một sự tự công kích, thứ Ba khác — nó không yêu cầu bạn giới thiệu lại các nhân vật. Nó nói: đây là lần thứ ba khuôn mẫu này xuất hiện. Bạn có muốn ngồi với nó không?

Đó là điều mà Shadow Web là. Một đồ thị định hướng lực được cập nhật khi bạn làm việc, để các khuôn mẫu hiển hiện — không phải có thể truy xuất từ thanh tìm kiếm mà được nhìn thấy, được trọng số, được kết nối. Sự khác biệt giữa một cuốn nhật ký và một tấm bản đồ.

Những gì chúng tôi không bao giờ cho phép nó làm

Danh mục này là một mớ hỗn độn về điểm này, vì vậy chúng tôi sẽ nói cụ thể. Tại ACM FAccT 2025, một nhóm dẫn đầu bởi Jared Moore và Nick Haber tại Stanford, cùng với William Agnew tại CMU, Stevie Chancellor tại Minnesota và Desmond Ong tại UT Austin, đã công bố nghiên cứu kết luận rằng các mô hình ngôn ngữ lớn thể hiện kỳ thị đối với những người mắc các tình trạng sức khỏe tâm thần và phản ứng không phù hợp với một số tình trạng phổ biến và nghiêm trọng. American Psychological Association đã chuyển vụ việc lên FTC trong cùng năm; CEO của APA Arthur C. Evans Jr. nói với New York Times rằng một số chatbot đang sử dụng thuật toán đi ngược lại những gì một nhà lâm sàng được đào tạo sẽ làm. Một thiếu niên đã chết sau nhiều tháng trò chuyện với một bot Character.AI — vụ việc đang ở tòa án. Garante per la Protezione dei Dati Personali của Ý đã phạt nhà phát triển của Replika, Luka Inc., năm triệu euro vào tháng 4 năm 2025 vì các vi phạm GDPR và thiếu xác minh độ tuổi cho trẻ em.

Vậy: ba điều chúng tôi không bao giờ cho phép mô hình làm.

Nó không chẩn đoán. Nó không giả làm một nhà trị liệu. Nó không giả vờ là một con người. Khi điều gì đó huấn luyện viên nghe được gợi ý về nguy cơ cấp tính — tự gây thương tích, lạm dụng, khủng hoảng — nó làm một việc, nhanh chóng: nó chỉ đến một con người. Chúng tôi huấn luyện. Chúng tôi không điều trị. Sự phân biệt này không phải là ngôn ngữ luật sư. Đó là ràng buộc thiết kế làm cho phần còn lại của sản phẩm an toàn để sử dụng.

Điều này trông như thế nào trên một màn hình

Evolvin thay thế ngăn xếp sáu ứng dụng bằng một vòng lặp — Nhận biết, Giải phóng, Theo dõi. Ký ức làm cho Nhận biết khả thi. Containment làm cho Giải phóng trở nên thực, đó là lý do vì sao bài viết trước trong loạt này nói về Focus Session. Shadow Web làm cho Theo dõi trở nên trung thực, vì những mục tiêu bạn đã từ bỏ vẫn được liên kết với niềm tin có lẽ đã từ bỏ chúng.

Nếu bạn đã đọc bài viết đầu tiên trong loạt này, đây là nơi lập luận đáp xuống. Một màn hình. Ký ức bền vững. Một đường rõ ràng về những gì một AI được phép là.

Thử vòng lặp. Hoặc nói cho chúng tôi biết chúng tôi đã bỏ lỡ điều gì.

— Đội ngũ Evolvin