記憶するAIコーチ — そして決してさせないこと

OpenAIは2024年から2025年にかけて、ChatGPTの持続的な記憶を広範に展開しました — 2024年9月5日までにFree、Plus、Team、Enterpriseの各層、そして2025年4月にPlusとProでチャットをまたぐ参照が可能になりました。Piにはあります。Replikaは流行する前から持っていました。あなたを覚えているAIはもはや差別化要因ではありません — 標準装備です。誠実な問いは、記憶が自己探求に役立つかどうかではありません。どの記憶モデルが、人の内側に向けて差し向けるのに十分安全か、ということです。

私たちには意見があります。それを率直に述べます。

記憶が変えるもの

記憶のないChatGPTは、毎週火曜日に自己紹介を繰り返す優秀な見知らぬ人です。あなたは内なる批判者をもう一度名づけます。四人兄弟の長子として育ったことをもう一度説明します。すでに咀嚼し終えた別れをもう一度繰り返します。モデルは寛大ですが、弧を持ちません。弧こそが仕事です。

持続的な記憶を持つAIコーチは弧を抱きます。あなたが2月に語ったパターンを覚えています。あなたが3月に手放した目標、そしてその手放しを引き起こしたであろう信念を覚えています。同じ形が5月に部屋に戻ってくるとき — 同じ口論、別のパートナー。同じ自己攻撃、別の火曜日 — それは登場人物の紹介を求めません。それはこう言います。このパターンが現れるのは3回目です。少し座ってみますか。

それがShadow Webです。あなたが作業するにつれて更新される力指向グラフ。だからパターンは検索バーから呼び出すものではなく、見られ、重みづけされ、つながったものとして見えています。日記と地図のあいだの違いです。

私たちが決してさせないこと

このカテゴリーはこの点で混沌としているので、具体的に話します。ACM FAccT 2025で、StanfordのJared MooreとNick Haberが率いるチームが、CMUのWilliam Agnew、MinnesotaのStevie Chancellor、UT AustinのDesmond Ongとともに、大規模言語モデルが精神疾患を持つ人々に対してスティグマを表現し、特定のよくある重要な状態に対して不適切に応答すると結論する研究を発表しました。American Psychological Associationは同じ年にFTCにエスカレートし、APAのCEO Arthur C. Evans Jr.はNew York Timesに対して、一部のチャットボットは訓練を受けた臨床医が行うこととは正反対のアルゴリズムを使用していると語りました。あるティーンエイジャーが、Character.AIのボットとの数ヶ月にわたる会話の後に亡くなりました — その訴訟は係争中です。イタリアのGarante per la Protezione dei Dati Personaliは、2025年4月にReplikaの開発元Luka Inc.に対し、GDPR違反と子どもの年齢確認の不在を理由に500万ユーロの罰金を科しました。

ですから、私たちがモデルに決してさせない3つのこと。

それは診断しません。それはセラピストのふりをしません。それは人のふりをしません。コーチが聞いた何かが急性のリスクを示唆するとき — 自傷、虐待、危機 — それは一つのことを素早く行います。人間を示します。私たちはコーチングをします。治療はしません。この区別は弁護士の言葉ではありません。それは、製品の他のすべてを使用するのに安全にするための設計上の制約です。

これが一画面でどう見えるか

Evolvinは6つのアプリの積み重ねを一つのループに置き換えます — 気づき、手放し、追跡する。記憶が気づきを可能にします。Containmentが手放しを現実のものにします。だからこのセットの前の記事はFocus Sessionについてでした。Shadow Webが追跡を誠実なものにします。なぜなら、あなたが手放した目標は、おそらくそれを手放させた信念とつながったままだからです。

このセットの最初の記事も読んでいただいたなら、ここで議論が着地します。一つの画面。持続的な記憶。AIが何であることを許されるかについての明確な線。

ループを試してみてください。または私たちが見落としたことを教えてください。

— Evolvinチーム