Эстеген AI коуч — жана биз ага эч качан кылдырбаган нерсе
ChatGPT'те эс тутум бар. Pi'де да. Replika'да да. AI коуч сиздин акыркы 40 маегиңизди кармаганда эмне өзгөрөт — жана Evolvin эч качан кылбай турган үч нерсе.
OpenAI 2024 жана 2025-жылдар бою ChatGPT үчүн туруктуу эс тутумду кеңири жайды — 2024-жылдын 5-сентябрына чейин Free, Plus, Team жана Enterprise тарифтери, анан 2025-жылдын апрелинде Plus жана Pro үчүн чат аралык шилтеме. Pi'де да бар. Replika'да модага айлангыча эле бар болчу. Сизди эстеген AI мындан ары артыкчылык эмес — стандарт. Чынчыл суроо: эс тутум ички иш үчүн пайдалуубу эмес. Кайсы эс тутум модели адамдын ичине багытталганга жетиштүү коопсуз?
Бизде пикир бар. Аны ачык айтабыз.
Эс тутум эмнени өзгөртөт
Эс тутумсуз ChatGPT — ар шейшембиде өзүңүздү кайра тааныштырган баракелдик чоочун. Сиз кайра ички сынчыны атайсыз. Сиз төрт баланын улуусу болуп өскөнүңүздү кайра түшүндүрөсүз. Сиз буга чейин метаболдогон ажырашууну кайталайсыз. Модель кайрымдуу, бирок анда жаа жок. Жумуш — ал жаа.
Туруктуу эс тутумдуу AI коуч жааны кармайт. Ал февралда сүрөттөгөн үлгүнү эстейт. Ал мартта таштаган максатты жана ал таштоону кыймылдаткан ишенимди эстейт. Эми майда ошол эле форма бөлмөгө кайра кирсе — ошол эле жаңжал, башка өнөктөш; ошол эле өзүнө кол салуу, башка шейшемби — анда актёрлорду кайра тааныштырууну сурабайт. Ал айтат: бул үчүнчү жолу бул үлгү пайда болду. Аны менен отурууну каалайсызбы?
Shadow Web дегени дал ушул. Сиз иштеген сайын жаңыртылган күчкө багытталган граф, ошондуктан үлгүлөр көрүнөт — издөө тилкесинен алуу эмес, көрүлгөн, ченелген, байланышкан. Күндөлүк менен картанын ортосундагы айырма.
Биз ага эч качан кылдырбаган нерсе
Категория бул жагынан баш-аламан, ошондуктан биз так айтабыз. ACM FAccT 2025де Стэнфорддун Jared Moore жана Nick Haber жетектеген команда, CMU'дан William Agnew, Миннесотадан Stevie Chancellor жана UT Austin'ден Desmond Ong менен, чоң тил моделдери психикалык ден соолук жагдайлары бар адамдарга стигма билдиришет жана айрым жалпы жана критикалык шарттарга туура эмес жооп беришет деген жыйынтыкка келген изилдөө жарыялашты. American Psychological Association ошол жылы FTC'ге кайрылды; APA CEO Arthur C. Evans Jr. New York Times'ка айрым чаботтор окутулган клиниктин кылган ишине каршы келген алгоритмдерди колдонгонун айтты. Айлап Character.AI боту менен сүйлөшкөндөн кийин өспүрүм каза болду — ал иш сотто. Италиянын Garante per la Protezione dei Dati Personali 2025-жылдын апрелинде Replika'нын иштеп чыгуучусу Luka Inc.'ке GDPR бузуу жана балдар үчүн жашты текшерүүнүн жоктугу үчүн беш миллион евро айып салды.
Ошондуктан: үч нерсе, биз моделге эч качан кылдырбайбыз.
Ал диагноз койбойт. Ал терапевт катары көрүнбөйт. Ал адам экенин жасап көрсөтпөйт. Коуч уккан бир нерсе курч коркунуч — өзүнө зыян, кысым, кризис — деп көрсөтсө, ал тез бир нерсе кылат: адамга багыттайт. Биз үйрөтөбүз. Биз дарылабайбыз. Бул айырмачылык юристтердин сүйлөмү эмес. Бул дизайн чектөөсү, ал калган өнүмдү колдонууга коопсуз кылат.
Бул бир экранда кандай көрүнөт
Evolvin алты колдонмо стекин бир цикл менен алмаштырат — Тааныш, Бошотуу, Көзөмөлдөө. Эс тутум Таанышты мүмкүн кылат. Кармоо Бошотууну реалдуу кылат, ошондуктан бул жыйнактагы акыркы макала Focus session жөнүндө болду. Shadow Web Көзөмөлдөөнү чынчыл кылат, анткени сиз таштаган максаттар алардын таштоосун ыктымал кыймылдаткан ишенимге байланышкан бойдон калат.
Эгер сиз бул жыйнактын биринчи макаласын дагы окусаңыз, аргумент дал ушул жерде токтойт. Бир экран. Туруктуу эс тутум. AI кандай болууга уруксат бар экенине так сызык.
Циклди сынап көрүңүз. Же биз эмнени көрбөгөнүбүздү айтыңыз.
— Evolvin командасы