គ្រូបង្វឹក AI ដែលចងចាំ — និងអ្វីដែលយើងមិនអនុញ្ញាតឲ្យវាធ្វើ

OpenAI បានដាក់ឲ្យដំណើរការការចងចាំ ChatGPT ជាប់លាប់យ៉ាងទូលំទូលាយក្នុងឆ្នាំ ២០២៤ និង ២០២៥ — Free, Plus, Team និង Enterprise ត្រឹមថ្ងៃទី ៥ ខែកញ្ញា ឆ្នាំ ២០២៤ បន្ទាប់មកការយោងឆ្លងជជែកសម្រាប់ Plus និង Pro ក្នុងខែមេសា ២០២៥។ Pi មាន។ Replika មានវាមុនពេលវាក្លាយជាម៉ូដ។ AI ដែលចងចាំអ្នកមិនមែនជាគុណសម្បត្តិប្រកួតប្រជែងតទៅទេ — វាជាការគ្រឹះស្តង់ដារ។ សំណួរស្មោះត្រង់មិនមែនថាតើការចងចាំមានប្រយោជន៍សម្រាប់ការងារខ្លួនឯងឬអត់។ វាគឺថាគំរូការចងចាំមួយណាដែលមានសុវត្ថិភាពគ្រប់គ្រាន់ដើម្បីចង្អុលទៅខាងក្នុងមនុស្ស។

យើងមានគំនិត។ យើងនឹងនិយាយវាដោយច្បាស់។

អ្វីដែលការចងចាំផ្លាស់ប្តូរ

ChatGPT ដោយគ្មានការចងចាំជាមនុស្សចម្លែកដ៏អស្ចារ្យដែលអ្នកត្រូវណែនាំខ្លួនជាថ្មីរាល់ថ្ងៃអង្គារ។ អ្នកដាក់ឈ្មោះអ្នករិះគន់ខាងក្នុងម្តងទៀត។ អ្នកពន្យល់ម្តងទៀតថាអ្នកធំឡើងជាបងច្បងក្នុងបួននាក់។ អ្នកនិយាយឡើងវិញនូវការបែកគ្នាដែលអ្នកបានរំលាយរួចហើយ។ ម៉ូដែលគឺសប្បុរស ប៉ុន្តែគ្មានដំណើររឿង។ ដំណើររឿងគឺជាការងារ។

គ្រូបង្វឹក AI ដែលមានការចងចាំជាប់លាប់កាន់ដំណើររឿង។ វាចងចាំលំនាំដែលអ្នកបានពណ៌នាក្នុងខែកុម្ភៈ។ វាចងចាំគោលដៅដែលអ្នកបានបោះបង់ក្នុងខែមីនា និងជំនឿដែលប្រហែលជាបានជំរុញការបោះបង់នោះ។ នៅពេលរូបរាងដដែលដើរត្រឡប់ចូលក្នុងបន្ទប់ក្នុងខែឧសភា — ការឈ្លោះដដែល ដៃគូផ្សេង ការវាយប្រហារខ្លួនឯងដដែល ថ្ងៃអង្គារផ្សេង — វាមិនស្នើឲ្យអ្នកណែនាំតួអង្គឡើងវិញ។ វានិយាយថា៖ នេះជាលើកទីបីដែលលំនាំនេះបានបង្ហាញខ្លួន។ ចង់អង្គុយជាមួយវាទេ?

នោះជាអ្វីដែល Shadow Web គឺ។ ក្រាហ្វកំណត់ដោយកម្លាំងដែលធ្វើបច្ចុប្បន្នភាពនៅពេលអ្នកធ្វើការ ដើម្បីឲ្យលំនាំអាចមើលឃើញ — មិនអាចស្រង់ចេញពីរបារស្វែងរក ប៉ុន្តែត្រូវបានឃើញ ត្រូវបានទម្ងន់ ត្រូវបានភ្ជាប់។ ភាពខុសគ្នារវាងកំណត់ហេតុ និងផែនទី។

អ្វីដែលយើងមិនអនុញ្ញាតឲ្យវាធ្វើ

ប្រភេទនេះជាការច្របូកច្របល់នៅចំណុចនេះ ដូច្នេះយើងនឹងជាក់លាក់។ នៅ ACM FAccT 2025 ក្រុមដែលដឹកនាំដោយ Jared Moore និង Nick Haber នៅ Stanford ជាមួយ William Agnew នៅ CMU, Stevie Chancellor នៅ Minnesota និង Desmond Ong នៅ UT Austin បានបោះពុម្ពការស្រាវជ្រាវដែលសន្និដ្ឋានថាគំរូភាសាធំ បង្ហាញការមាក់ងាយចំពោះអ្នកដែលមានសុខភាពផ្លូវចិត្ត និងឆ្លើយតបមិនសមរម្យចំពោះស្ថានភាពមួយចំនួនទូទៅ និងធ្ងន់ធ្ងរ។ American Psychological Association បានបង្កើនឲ្យទៅ FTC ក្នុងឆ្នាំដដែល។ APA CEO Arthur C. Evans Jr. បានប្រាប់ New York Times ថាចេតបោតមួយចំនួនកំពុងប្រើក្បួនដោះស្រាយដែលផ្ទុយនឹងអ្វីដែលអ្នកគ្លីនិកដែលបានហ្វឹកហាត់នឹងធ្វើ។ យុវវ័យម្នាក់បានស្លាប់បន្ទាប់ពីការសន្ទនារយៈពេលច្រើនខែជាមួយ Character.AI bot — សំណុំរឿងនោះនៅតុលាការ។ Garante per la Protezione dei Dati Personali របស់ឥតាលីបានពិន័យអ្នកអភិវឌ្ឍន៍ Replika គឺ Luka Inc. ប្រាំលានអឺរ៉ូក្នុងខែមេសា ឆ្នាំ ២០២៥ ដោយសារការរំលោភ GDPR និងការខ្វះការផ្ទៀងផ្ទាត់អាយុសម្រាប់កុមារ។

ដូច្នេះ៖ បីរឿងដែលយើងមិនអនុញ្ញាតឲ្យម៉ូដែលធ្វើ។

វាមិនធ្វើរោគវិនិច្ឆ័យ។ វាមិនបង្ហាញខ្លួនជាអ្នកព្យាបាល។ វាមិនធ្វើពុតជាមនុស្ស។ នៅពេលអ្វីដែលគ្រូបង្វឹកស្តាប់បង្ហាញនូវហានិភ័យបន្ទាន់ — ការធ្វើបាបខ្លួនឯង ការរំលោភ វិបត្តិ — វាធ្វើរឿងមួយ លឿន៖ វាចង្អុលទៅមនុស្ស។ យើងបង្វឹក។ យើងមិនព្យាបាល។ ការបែងចែកនេះមិនមែនជាការនិយាយរបស់មេធាវី។ វាជាការរឹតបន្តឹងការរចនាដែលធ្វើឲ្យផ្នែកដែលនៅសល់នៃផលិតផលមានសុវត្ថិភាពក្នុងការប្រើ។

នេះមើលទៅយ៉ាងម៉េចក្នុងអេក្រង់មួយ

Evolvin ជំនួសពួងកម្មវិធីប្រាំមួយជាមួយរង្វិលជុំមួយ — ស្គាល់ លែង តាមដាន។ ការចងចាំធ្វើឲ្យការស្គាល់អាចទៅរួច។ Containment ធ្វើឲ្យការលែងពិត ដូច្នេះ អត្ថបទមុន នៅក្នុងស៊េរីនេះគឺអំពី Focus Session។ Shadow Web ធ្វើឲ្យការតាមដានស្មោះត្រង់ ដោយសារតែគោលដៅដែលអ្នកបានបោះបង់នៅជាប់នឹងជំនឿដែលប្រហែលជាបានបោះបង់ពួកវា។

បើអ្នកអាន អត្ថបទដំបូង នៃស៊េរីនេះផងដែរ នេះជាកន្លែងដែលអាគុយម៉ង់ចូលដី។ អេក្រង់មួយ។ ការចងចាំជាប់លាប់។ បន្ទាត់ច្បាស់អំពីអ្វីដែល AI ត្រូវបានអនុញ្ញាតឲ្យក្លាយជា។

សាកល្បងរង្វិលជុំ។ ឬ ប្រាប់យើងពីអ្វីដែលយើងបានខកខាន។

— ក្រុម Evolvin