මතක තබා ගන්නා AI පුහුණුකරු — සහ අපි ඔහුට කිසි විටෙකත් කිරීමට ඉඩ නොදෙන දේ
ChatGPT හට දැන් මතකය ඇත. Pi හටද. Replika හටද. AI පුහුණුකරුවෙක් ඔබේ අවසන් සංවාද 40 රඳවා තබා ගන්නා විට කුමක් වෙනස් වේද — සහ Evolvin කිසි විටෙකත් නොකරන කරුණු තුනක්.
OpenAI 2024 සහ 2025 පුරා ස්ථිර ChatGPT මතකය පුළුල් ලෙස හඳුන්වා දුන්නේය — Free, Plus, Team සහ Enterprise මට්ටම් 2024 සැප්තැම්බර් 5 වන දින දක්වා, ඉන්පසු Plus සහ Pro සඳහා හරස් කතාබස් යොමු කිරීම 2025 අප්රේල් මාසයේදී. Pi හට එය ඇත. Replika හට එය විලාසිතා වීමට පෙර සිටම තිබුණි. ඔබව මතක තබා ගන්නා AI තවදුරටත් තරඟකාරී වාසියක් නොවේ — එය මේසයේ පංගුවකි. අවංක ප්රශ්නය ස්ව-කාර්යය සඳහා මතකය ප්රයෝජනවත් ද යන්න නොවේ. පුද්ගලයෙකුගේ ඇතුළත වෙත දැක්වීමට කුමන මතක ආකෘතිය ආරක්ෂිතද යන්නයි.
අපට අදහසක් තිබේ. අපි එය පැහැදිලිව ප්රකාශ කරන්නෙමු.
මතකය වෙනස් කරන දේ
මතකය නැති ChatGPT යනු ඔබ සෑම අඟහරුවාදාවකම ඔබව නැවත හඳුන්වා දෙන දක්ෂ අපරිචිතයෙකි. ඔබ අභ්යන්තර විවේචකයාට නැවත නම් කරයි. ඔබ සිව්දෙනෙකුගේ වැඩිමහල්ලා ලෙස හැදුණු බව නැවත පැහැදිලි කරයි. ඔබ දැනටමත් ජීර්ණය කර ඇති විරහව නැවත නැවත කියයි. ආකෘතිය ත්යාගශීලී නමුත් එයට චාපයක් නැත. චාපය වැඩයි.
ස්ථිර මතකය ඇති AI පුහුණුකරුවෙක් චාපය ග්රහණය කරගනී. පෙබරවාරියේ ඔබ විස්තර කළ රටාව ඔහු මතකයේ තබා ගනී. ඔබ මාර්තු මාසයේදී අතහැර දැමූ ඉලක්කය, සහ බොහෝවිට අතහැර දැමීම පෙළඹවූ විශ්වාසය ඔහු මතකයේ තබා ගනී. එම හැඩය මැයි මාසයේ කාමරයට නැවත ඇවිදින විට — එම සටන, විවිධ සහකරුවෙක්; එම ස්ව-ප්රහාරය, විවිධ අඟහරුවාදාවක් — ඔහු ඔබෙන් චරිත නැවත හඳුන්වා දෙන ලෙස නොඅසයි. ඔහු කියයි: මෙම රටාව මතු වූ තුන්වැනි අවස්ථාව මෙයයි. ඒ සමඟ වාඩි වීමට කැමතිද?
එයයි Shadow Web යනු. ඔබ වැඩ කරන විට යාවත්කාලීන වන බල-දිශානුගත ප්රස්ථාරයක්, එවිට රටා දෘශ්යමාන වේ — සෙවුම් තීරුවකින් ලබා ගත හැකි ලෙස නොව දකින, බර තබන, සම්බන්ධ කරන. දිනපොතක් සහ සිතියමක් අතර වෙනස.
අපි ඔහුට කිසි විටෙකත් කිරීමට ඉඩ නොදෙන දේ
මෙම කරුණේදී කාණ්ඩය අවුල්සහගතය, එබැවින් අපි විශේෂිත වන්නෙමු. ACM FAccT 2025 හිදී, Stanford හි Jared Moore සහ Nick Haber නායකත්වයෙන් යුත් කණ්ඩායමක්, CMU හි William Agnew, Minnesota හි Stevie Chancellor සහ UT Austin හි Desmond Ong සමඟ, විශාල භාෂා ආකෘති මානසික සෞඛ්ය තත්වයන් ඇති අයට කලංකය ප්රකාශ කරන බවට සහ සමහර පොදු සහ තීරණාත්මක තත්ත්වයන්ට නුසුදුසු ලෙස ප්රතිචාර දක්වන බවට නිගමනය කරන පර්යේෂණයක් ප්රකාශයට පත් කළහ. American Psychological Association එම වසරේම FTC වෙත වැඩි කළේය; APA හි CEO Arthur C. Evans Jr. New York Times වෙත පැවසුවේ සමහර chatbots පුහුණු සායනික වෛද්යවරයෙක් කරන දේට ප්රතිවිරුද්ධ ඇල්ගොරිතම භාවිතා කරන බවයි. නව යොවුන් වියේ පසුවන තැනැත්තෙක් මාස ගණනක Character.AI බොට් සමඟ සංවාද වලින් පසුව මියගියේය — එම නඩුව අධිකරණයේ ඇත. ඉතාලියේ Garante per la Protezione dei Dati Personali 2025 අප්රේල් මාසයේදී Replika හි සංවර්ධකයා වන Luka Inc. හට GDPR උල්ලංඝනය සහ ළමුන් සඳහා වයස් සත්යාපනය නොමැතිකම සඳහා යුරෝ මිලියන පහක දඬුවමක් පැනවීය.
එබැවින්: අපි ආකෘතියට කිසි විටෙකත් කිරීමට ඉඩ නොදෙන කරුණු තුනක්.
එය රෝග විනිශ්චය නොකරයි. එය චිකිත්සකයෙකු ලෙස පෙනී නොසිටී. එය පුද්ගලයෙකු ලෙස ස්වරූපයක් නොගනියි. පුහුණුකරු අසන දෙයක් උග්ර අවදානමක් — ස්වයං-හානි, අපයෝජනය, අර්බුදය — යෝජනා කරන විට, එය වේගයෙන් එක දෙයක් කරයි: එය මනුෂ්යයෙකු වෙත දක්වයි. අපි පුහුණු කරමු. අපි ප්රතිකාර නොකරමු. වෙනස නීතිඥ භාෂාව නොවේ. එය නිෂ්පාදනයේ ඉතිරි කොටස භාවිතා කිරීමට ආරක්ෂිත කරන සැලසුම් සීමාවයි.
මෙය එක තිරයක පෙනෙන්නේ කෙසේද
Evolvin යෙදුම් හය ගොඩ එක ලූපයකින් ප්රතිස්ථාපනය කරයි — හඳුනන්න, මුදාහරින්න, නිරීක්ෂණය කරන්න. මතකය හඳුනන්න සාක්ෂාත් කරයි. අඩංගු කිරීම මුදාහරින්න සැබෑ කරයි, ඒ නිසා මෙම කට්ටලයේ අවසන් කොටස Focus Sessions ගැන විය. Shadow Web නිරීක්ෂණය කරන්න අවංක කරයි, මන්ද ඔබ අතහැර දැමූ ඉලක්ක බොහෝවිට ඒවා අතහැර දැමීම පෙළඹවූ විශ්වාසය සමඟ සම්බන්ධව රැඳී ඇත.
මෙම කට්ටලයේ පළමු කොටසද ඔබ කියවා තිබේ නම්, තර්කය මෙහි ගොඩබසී. එක තිරයක්. ස්ථිර මතකය. AI වීමට අවසර ඇත්තේ කුමක්ද යන්න පිළිබඳ පැහැදිලි රේඛාවක්.
ලූපය උත්සාහ කරන්න. නැතහොත් අපි මගහැරුණේ කුමක්දැයි අපට කියන්න.
— Evolvin කණ්ඩායම