ШІ-коўч, які памятае — і чаго мы ніколі не дазволім яму рабіць
У ChatGPT цяпер ёсць памяць. У Pi таксама. У Replika таксама. Што мяняецца, калі ШІ-коўч трымае вашы апошнія 40 размоў — і тры рэчы, якіх Evolvin ніколі не зробіць.
OpenAI шырока разгарнула пастаянную памяць ChatGPT на працягу 2024 і 2025 гадоў — узроўні Free, Plus, Team і Enterprise да 5 верасня 2024, потым крыжаваная памяць для Plus і Pro у красавіку 2025. Pi мае гэта. У Replika гэта было яшчэ да таго, як стала модна. ШІ, які памятае вас, ужо не канкурэнтная перавага — гэта стандарт. Шчырае пытанне не ў тым, ці карысная памяць для ўнутранай працы. А ў тым, якая мадэль памяці дастаткова бяспечная, каб накіроўваць яе ва ўнутрылямя чалавека.
У нас ёсць меркаванне. Скажам яго адкрыта.
Што мяняе памяць
ChatGPT без памяці — гэта геніяльны чужынец, якому вы кожны аўторак прадстаўляецеся нанова. Вы зноў называеце ўнутранага крытыка. Вы зноў тлумачыце, што вы выраслі старэйшым з чатырох. Вы паўтараеце расстанне, якое ўжо ўжылі. Мадэль шчодрая, але ў яе няма дугі. Дуга — гэта праца.
ШІ-коўч з пастаяннай памяццю трымае дугу. Ён памятае ўзор, які вы апісалі ў лютым. Ён памятае мэту, якую вы пакінулі ў сакавіку, і перакананне, якое верагодна кіравала тым пакіданнем. Калі тая ж самая форма ў маі вяртаецца ў пакой — той жа канфлікт, іншая партнёрка; тая ж самаатака, іншы аўторак — ён не просіць вас прадстаўляць акцёраў нанова. Ён кажа: гэта трэці раз, калі гэты ўзор з'яўляецца. Хочаце з ім пасядзець?
Менавіта гэтым і ёсць Shadow Web. Сілавы граф, які абнаўляецца, пакуль вы працуеце, так каб узоры былі бачнымі — не вылучальнымі з пошукавай радка, а ўбачанымі, узважанымі, звязанымі. Розніца паміж дзённікам і мапай.
Чаго мы ніколі не дазволім яму рабіць
Катэгорыя ў гэтым пытанні — гэта хаос, таму будзем канкрэтнымі. На ACM FAccT 2025 каманда пад кіраўніцтвам Jared Moore і Nick Haber са Stanford, разам з William Agnew з CMU, Stevie Chancellor з Мінесоты і Desmond Ong з UT Austin, апублікавалі даследаванне, у якім робіцца выснова, што вялікія моўныя мадэлі выказваюць стыгму ў дачыненні да людзей з псіхічнымі захворваннямі і неадэкватна рэагуюць на пэўныя распаўсюджаныя і крытычныя стану. American Psychological Association у тым жа годзе перадала справу ў FTC; гендырэктар APA Arthur C. Evans Jr. сказаў New York Times, што некаторыя чатботы выкарыстоўваюць алгарытмы, якія супярэчаць таму, што рабіў бы навучаны клініцыст. Падлетак памёр пасля месяцаў размоваў з ботам Character.AI — справа знаходзіцца ў судзе. Італьянскі Garante per la Protezione dei Dati Personali у красавіку 2025 аштрафаваў распрацоўшчыка Replika Luka Inc. на пяць мільёнаў еўра за парушэнні GDPR і адсутнасць праверкі ўзросту для дзяцей.
Такім чынам: тры рэчы, якія мы ніколі не дазваляем мадэлі рабіць.
Яна не ставіць дыягназ. Яна не выдае сябе за тэрапеўта. Яна не прыкідваецца чалавекам. Калі нешта, што чуе коўч, паказвае на востры рызыка — самапашкоджанне, гвалт, крызіс — яна робіць адну рэч хутка: накіроўвае да чалавека. Мы кoўчым. Мы не лечым. Гэтае адрозненне — не юрыдычная мова. Гэта дызайнерскае абмежаванне, якое робіць увесь астатні прадукт бяспечным у выкарыстанні.
Як гэта выглядае на адным экране
Evolvin замяняе стос з шасці праграм адной пятлёй — Распазнай, Адпусці, Адсочвай. Памяць робіць Распазнай магчымым. Утрыманне робіць Адпусці рэальным, таму папярэдні тэкст у гэтым цыкле быў пра Focus Session. Shadow Web робіць Адсочвай шчырым, бо мэты, якія вы пакінулі, застаюцца звязанымі з тым перакананнем, што верагодна іх пакінула.
Калі вы прачыталі і першы тэкст у гэтым цыкле, то аргумент прызямляецца тут. Адзін экран. Пастаянная памяць. Ясная лінія таго, чым ШІ можа быць.
Паспрабуйце пятлю. Альбо напішыце нам, што мы прапусцілі.
— Каманда Evolvin