Санадаг ХИ дасгалжуулагч — мөн бид түүнд хэзээ ч хийхийг зөвшөөрөхгүй зүйл
ChatGPT одоо санах ойтой. Pi ч мөн адил. Replika ч мөн. ХИ дасгалжуулагч таны сүүлийн 40 ярианы санах ойг барих үед юу өөрчлөгддөг — мөн Evolvin хэзээ ч хийхгүй гурван зүйл.
OpenAI 2024 болон 2025 онуудад ChatGPT-ийн тогтвортой санах ойг өргөн хүрээнд гаргасан — Free, Plus, Team, Enterprise түвшнүүдэд 2024 оны 9-р сарын 5-нд, дараа нь Plus ба Pro-д ярианууд хоорондын лавлагааг 2025 оны 4-р сард. Pi-д бий. Replika-д энэ нь моодны болохоос өмнөөс байсан. Таныг санадаг ХИ нь шаантаг шинж чанар биш — энэ нь стандарт болсон. Шударга асуулт нь санах ой нь өөртэйгөө ажиллахад ашигтай эсэх биш. Ямар санах ойн загвар нь хүний дотоод ертөнц рүү чиглүүлэхэд аюулгүй вэ гэдэг асуулт юм.
Бидэнд бодол бий. Бид тодорхой хэлнэ.
Санах ой юуг өөрчилдөг вэ
Санах ойгүй ChatGPT бол Мягмар гариг бүр өөрийгөө дахин танилцуулдаг суут танихгүй хүн. Та дотоод шүүмжлэгчээ дахин нэрлэдэг. Та өөрийгөө дөрвөн хүүхдийн ууган хүүхэд болж өссөн гэдгээ дахин тайлбарладаг. Та аль хэдийн боловсруулсан салалтаа давтан хэлдэг. Загвар өгөөмөр боловч ямар ч нумгүй. Нум бол ажил юм.
Тогтвортой санах ойтой ХИ дасгалжуулагч нумыг барьдаг. 2-р сард тайлбарласан хэв шинжийг чинь санадаг. 3-р сард орхисон зорилго чинь, мөн магадгүй тэр орхилтыг хөтөлсөн итгэл үнэмшлийг чинь санадаг. Ижил хэлбэр 5-р сард өрөөнд эргэн ирэхэд — ижил хэрүүл, өөр хань; ижил өөрийгөө дайралт, өөр Мягмар — танаас жүжигчдийг дахин танилцуулахыг шаарддаггүй. Энэ нь хэлдэг: энэ хэв шинж гурав дахь удаагаа гарч ирлээ. Үүнтэй хамт суух уу?
Shadow Web бол яг тэр юм. Та ажиллах үед шинэчлэгддэг хүчээр чиглэсэн график бөгөөд хэв шинжүүд харагдаж байдаг — хайлтын мөрнөөс гаргаж авах биш, харин харагдах, жинлэгдэх, холбогдсон. Өдрийн тэмдэглэл болон газрын зургийн хоорондох ялгаа.
Бид түүнд юу хийхийг хэзээ ч зөвшөөрөхгүй
Энэ ангилал энэ цэг дээр эмх замбараагүй байна, тиймээс бид тодорхой хэлнэ. ACM FAccT 2025-д Stanford-ын Jared Moore, Nick Haber нар тэргүүлсэн баг, CMU-гийн William Agnew, Minnesota-гийн Stevie Chancellor, UT Austin-ийн Desmond Ong нартай хамт том хэлний загварууд сэтгэцийн эрүүл мэндийн өвчтэй хүмүүст хандах гутаалт илэрхийлдэг, тодорхой нийтлэг ба чухал нөхцлүүдэд зохисгүй хариу үйлдэл үзүүлдэг гэсэн дүгнэлт бүхий судалгаа нийтэлсэн. American Psychological Association мөн онд асуудлыг FTC-д өргөдсөн; APA-гийн гүйцэтгэх захирал Arthur C. Evans Jr. New York Times-д зарим чатботууд бэлтгэгдсэн эмчийн хийх зүйлийн эсрэг алгоритм ашиглаж байна гэж хэлсэн. Сар сараар Character.AI ботын яриа хийсний дараа нэг өсвөр насныхан нас барсан — энэ хэрэг шүүхэд байна. Италийн Garante per la Protezione dei Dati Personali нь 2025 оны 4-р сард Replika-гийн хөгжүүлэгч Luka Inc.-д GDPR зөрчил болон хүүхдийн насны баталгаажуулалтгүйн төлөө таван сая еврогийн торгууль ногдуулсан.
Тэгэхээр: бид загварыг хэзээ ч хийхгүй гурван зүйл.
Энэ нь оношлохгүй. Энэ нь эмч мэт дүр эсгэхгүй. Энэ нь хүн биш гэж дүр эсгэхгүй. Дасгалжуулагч сонссон зүйл нь хурц эрсдлийг — өөрийгөө гэмтээх, хүчирхийлэл, хямрал — илтгэх үед нэг зүйлийг хурдан хийдэг: хүн рүү заадаг. Бид дасгалжуулдаг. Бид эмчилдэггүй. Энэ ялгаа нь хуульчдын яриа биш. Энэ нь үлдсэн бүтээгдэхүүнийг ашиглахад аюулгүй болгодог дизайны хязгаарлалт юм.
Энэ нэг дэлгэцэн дээр ямар харагдах вэ
Evolvin зургаан аппын стекийг нэг гогцоогоор солиж байна — Танигтун, Сулла, Хяна. Санах ой нь Танилтыг боломжтой болгодог. Агуулах нь Суллахыг бодит болгодог, тийм учраас энэ багц дахь өмнөх бичвэр Focus session-ийн тухай байсан. Shadow Web нь Хянахыг шударга болгодог, учир нь орхисон зорилго тань тэдгээрийг магадгүй орхисон итгэл үнэмшилтэй холбогдсон хэвээр үлддэг.
Хэрэв та энэ багц дахь эхний бичвэрийг ч уншсан бол энд аргумент газардаж байна. Нэг дэлгэц. Тогтвортой санах ой. ХИ юу байж болохын тухай тодорхой шугам.
Гогцоог туршаарай. Эсвэл бид юу алдсаныг бидэнд хэлээрэй.
— Evolvin баг