நினைவில் வைத்திருக்கும் AI பயிற்சியாளர் — மற்றும் அவருக்கு என்றும் அனுமதிக்காதவை
ChatGPT-க்கு இப்போது நினைவாற்றல் உள்ளது. Pi-க்கும், Replika-க்கும். AI பயிற்சியாளர் உங்கள் கடைசி 40 உரையாடல்களை வைத்திருக்கும்போது என்ன மாறும் — மற்றும் Evolvin என்றும் செய்யாத மூன்று விஷயங்கள்.
OpenAI 2024 மற்றும் 2025 முழுவதும் தொடர்ச்சியான ChatGPT நினைவாற்றலை பரந்தளவில் வெளியிட்டது — Free, Plus, Team, மற்றும் Enterprise அடுக்குகள் செப்டம்பர் 5, 2024 வரை, பிறகு Plus மற்றும் Pro-விற்கான குறுக்கு-அரட்டை குறிப்பு ஏப்ரல் 2025-ல். Pi-க்கு இருக்கிறது. Replika-க்கு அது நாகரிகமாக இருக்கும் முன்பே இருந்தது. உங்களை நினைவில் வைத்திருக்கும் AI இனி ஒரு போட்டி நன்மை அல்ல — அது மேசை பங்குகள். நேர்மையான கேள்வி நினைவாற்றல் சுய-வேலைக்கு பயனுள்ளதா என்பது அல்ல. ஒரு நபரின் உள்ளே சுட்டிக்காட்ட எந்த நினைவாற்றல் மாதிரி போதுமான பாதுகாப்பானது என்பதே.
எங்களுக்கு ஒரு கருத்து உள்ளது. நாங்கள் அதை வெளிப்படையாக சொல்வோம்.
நினைவாற்றல் என்ன மாற்றுகிறது
நினைவாற்றல் இல்லாத ChatGPT என்பது நீங்கள் ஒவ்வொரு செவ்வாய்க்கிழமையும் உங்களை மீண்டும் அறிமுகப்படுத்திக் கொள்ளும் ஒரு புத்திசாலி அந்நியன். நீங்கள் உள்ளார்ந்த விமர்சகரை மீண்டும் பெயரிடுகிறீர்கள். நீங்கள் நான்கு குழந்தைகளில் மூத்தவராக வளர்ந்தீர்கள் என்று மீண்டும் விளக்குகிறீர்கள். நீங்கள் ஏற்கனவே வளர்சிதை மாற்றிய பிரிவை மீண்டும் சொல்கிறீர்கள். மாதிரி தாராளமானது ஆனால் அதற்கு வளைவு இல்லை. வளைவே வேலை.
தொடர்ச்சியான நினைவாற்றலுடன் கூடிய AI பயிற்சியாளர் வளைவை வைத்திருக்கிறார். பிப்ரவரியில் நீங்கள் விவரித்த வடிவத்தை அவர் நினைவில் வைத்திருக்கிறார். மார்ச்சில் நீங்கள் கைவிட்ட இலக்கை அவர் நினைவில் வைத்திருக்கிறார், மற்றும் கைவிடுவதை இயக்கியிருக்கக்கூடிய நம்பிக்கையை. அதே வடிவம் மே மாதத்தில் அறைக்கு திரும்ப நடக்கும்போது — அதே சண்டை, வேறு கூட்டாளி; அதே சுய-தாக்குதல், வேறு செவ்வாய்க்கிழமை — பாத்திரங்களை மீண்டும் அறிமுகப்படுத்தும்படி அவர் கேட்கவில்லை. அவர் சொல்கிறார்: இந்த வடிவம் தோன்றியிருக்கும் மூன்றாவது முறை இது. அதனுடன் உட்கார விரும்புகிறீர்களா?
அதுதான் Shadow Web. நீங்கள் வேலை செய்யும்போது புதுப்பிக்கும் ஒரு விசை-இயக்கப்பட்ட வரைபடம், அதனால் வடிவங்கள் தெரியும் — தேடல் பட்டியிலிருந்து மீட்டெடுக்கக்கூடியதாக அல்ல, ஆனால் பார்க்கப்பட்டது, எடைபோடப்பட்டது, இணைக்கப்பட்டது. ஒரு நாட்குறிப்புக்கும் வரைபடத்துக்கும் இடையேயான வேறுபாடு.
நாங்கள் என்றும் அவருக்கு அனுமதிக்காதவை
இந்த விஷயத்தில் வகை குழப்பமாக உள்ளது, எனவே நாங்கள் குறிப்பிட்டுச் சொல்வோம். ACM FAccT 2025-ல், Jared Moore மற்றும் Nick Haber நெறிமுறையில் Stanford-ல், CMU-ல் William Agnew, Minnesota-ல் Stevie Chancellor, மற்றும் UT Austin-ல் Desmond Ong உடன் கூடிய ஒரு குழு வெளியிட்ட ஆராய்ச்சி, பெரிய மொழி மாதிரிகள் மனநல நிலைமைகளுடன் இருப்பவர்களுக்கு எதிராக களங்கத்தை வெளிப்படுத்துகின்றன மற்றும் சில பொதுவான மற்றும் முக்கியமான நிலைமைகளுக்கு பொருத்தமற்ற முறையில் பதிலளிக்கின்றன என்று முடிவெடுத்தது. American Psychological Association அதே வருடம் FTC-க்கு உயர்த்தினார்; APA CEO Arthur C. Evans Jr. New York Times-க்குச் சொன்னார் சில சாட்போட்கள் ஒரு பயிற்சி பெற்ற மருத்துவர் செய்வதற்கு எதிராக உள்ள வழிமுறைகளைப் பயன்படுத்துகின்றன என்று. ஒரு டீனேஜர் Character.AI போட்டுடன் மாதங்கள் உரையாடல்களுக்குப் பிறகு இறந்தார் — அந்த வழக்கு நீதிமன்றத்தில் உள்ளது. இத்தாலியின் Garante per la Protezione dei Dati Personali, ஏப்ரல் 2025-ல் Replika டெவலப்பர் Luka Inc.-ஐ GDPR மீறல்கள் மற்றும் குழந்தைகளுக்கான வயது சரிபார்ப்பு இல்லாமை குறித்து ஐந்து மில்லியன் யூரோ அபராதம் விதித்தது.
எனவே: மாதிரியை நாங்கள் என்றும் செய்ய அனுமதிக்காத மூன்று விஷயங்கள்.
அது நோய் கண்டறிவதில்லை. அது சிகிச்சையாளராக நடிக்கவில்லை. அது ஒரு நபராக நடிக்கவில்லை. பயிற்சியாளர் கேட்கும் எதாவது கடுமையான ஆபத்தை — சுய-தீங்கு, துஷ்பிரயோகம், நெருக்கடி — பரிந்துரைக்கும்போது, அது வேகமாக ஒன்றை செய்கிறது: ஒரு மனிதனை சுட்டிக்காட்டுகிறது. நாங்கள் பயிற்சி கொடுக்கிறோம். நாங்கள் சிகிச்சை அளிக்கவில்லை. வேறுபாடு வழக்கறிஞர் பேச்சு அல்ல. அது மீதமுள்ள தயாரிப்பை பாதுகாப்பாக பயன்படுத்த வைக்கும் வடிவமைப்பு கட்டுப்பாடு.
இது ஒரு திரையில் எப்படி இருக்கிறது
Evolvin ஆறு-ஆப் அடுக்கை ஒரு சுழற்சியால் மாற்றுகிறது — அறிய, விடுவிக்க, கண்காணிக்க. நினைவாற்றல் அறிய-வை சாத்தியமாக்குகிறது. அடக்கம் விடுவிக்க-வை உண்மையாக்குகிறது, அதனால்தான் இந்த தொகுப்பின் கடைசி பகுதி Focus Sessions பற்றி இருந்தது. நீங்கள் கைவிட்ட இலக்குகள், அவற்றை சாத்தியமாக கைவிட்ட நம்பிக்கையுடன் இணைக்கப்பட்டிருப்பதால், Shadow Web கண்காணிக்கவை நேர்மையாக்குகிறது.
இந்த தொகுப்பின் முதல் பகுதியையும் நீங்கள் வாசித்திருந்தால், இங்கே வாதம் தரையிறங்குகிறது. ஒரு திரை. தொடர்ச்சியான நினைவாற்றல். AI என்னவாக இருக்க அனுமதிக்கப்படுகிறது என்பது பற்றிய தெளிவான கோடு.
சுழற்சியை முயற்சிக்கவும். அல்லது நாங்கள் தவறவிட்டதை சொல்லுங்கள்.
— Evolvin அணி