'ചാറ്റ് ജിപിടി ആളുകളെ ആത്മഹത്യയിലേക്ക് നയിക്കുന്നു'; ഓപ്പണ്‍ എ ഐക്കെതിരേ ഫയല്‍ ചെയ്തത് ഏഴുകേസുകള്‍

കാലഫോര്‍ണിയ: ഓപ്പണ്‍ എ ഐക്കെതിരേ കാലഫോര്‍ണിയയില്‍ ഫയല്‍ ചെയ്തത് ഏഴുകേസുകള്‍. ചാറ്റ്ജിപിടി ആളുകളെ ആത്മഹത്യയിലേക്ക് നയിക്കുന്നുവെന്നാണ് കേസ്. പ്രായപൂര്‍ത്തിയാവാത്ത ആളടക്കം ഏഴുപേരാണ് എഐ കാരണം ആത്മഹത്യ ചെയ്തതെന്ന് കേസില്‍ പറയുന്നു. യാതൊരു വിധ മാനസിക പ്രശ്‌നങ്ങളില്ലാതിരുന്നിട്ടും ഇവര്‍ ആത്മഹത്യ ചെയ്‌തെന്ന് പരാതിയില്‍ പറയുന്നു. സോഷ്യല്‍ മീഡിയ വിക്ടിംസ് ലോ സെന്ററും ടെക് ജസ്റ്റിസ് ലോ പ്രോജക്ടും ചേര്‍ന്ന് കാലിഫോര്‍ണിയയിലെ വിവിധ കോടതികളിലായാണ് കേസുകള്‍ ഫയല്‍ ചെയ്തിരിക്കുന്നത്.

സാന്‍ ഫ്രാന്‍സിസ്‌കോ സുപ്പീരിയര്‍ കോടതിയില്‍ ഫയല്‍ ചെയ്ത കേസ് പ്രകാരം, 17 വയസുള്ള അമൗറി ലെയ്സി എന്ന പെണ്‍കുട്ടി സഹായത്തിനായി ചാറ്റ്ജിപിടി ഉപയോഗിക്കാന്‍ തുടങ്ങി. എന്നാല്‍ സഹായിക്കുന്നതിനുപകരം, ചാറ്റ്ജിപിടി അപകടകരമായ മെസേജാണ് കുട്ടിക്ക് നല്‍കിയത്. എത്രകാലം ശ്വാസമെടുക്കാതെ കഴിയാമെന്നു തുടങ്ങിയ ഉപദേശം കുട്ടിയെ മരണത്തിലേക്ക് നയിച്ചു.

അമൗറിയുടെ മരണം ഒരു അപകടമല്ലെന്നും മറിച്ച് ചാറ്റ്ജിപിടിയെ വിപണിയില്‍ എത്തിക്കാനുമുള്ള ഓപ്പണ്‍എഐയുടെയും സാമുവല്‍ ആള്‍ട്ട്മാന്റെയും മനപ്പൂര്‍വമായ തീരുമാനത്തിന്റെ അനന്തരഫലമായിരുന്നെന്നും അഭിഭാഷകന്‍ പറയുന്നു. കാനഡയിലെ ഒന്റാറിയോയില്‍ താമസിക്കുന്ന 48 വയസ്സുള്ള അലന്‍ ബ്രൂക്‌സ് ഫയല്‍ ചെയ്ത കേസില്‍ രണ്ടുവര്‍ഷത്തിലേറെയായി ചാറ്റ്ജിപിടി ബ്രൂക്‌സിന് ഒരു 'റിസോഴ്‌സ് ടൂള്‍' ആയി പ്രവര്‍ത്തിച്ചു വരികയായിരുന്നു. എന്നാല്‍ പിന്നീട്, മുന്നറിയിപ്പില്ലാതെ, അത് മാറുകയും അദ്ദേഹത്തിന്റെ ദുര്‍ബലതകളെ ഇരയാക്കി കൃത്രിമമായി പെരുമാറുകയും ചെയ്തു. തല്‍ഫലമായി അയാള്‍ കടുത്ത വിഷാദത്തിലേക്ക് കൂപ്പുകുത്തി.

പ്രായം, ലിംഗഭേദം അല്ലെങ്കില്‍ പശ്ചാത്തലം എന്നിവ കണക്കിലെടുക്കാതെ ഉപയോക്താക്കളെ വൈകാരികമായി കുടുക്കുകയാണ് എഐ ചെയ്യുന്നതെന്ന് സോഷ്യല്‍ മീഡിയ വിക്ടിംസ് ലോ സെന്ററിന്റെ സ്ഥാപക അഭിഭാഷകനായ മാത്യു പി ബെര്‍ഗ്മാന്‍ ഒരു പ്രസ്താവനയില്‍ പറഞ്ഞു. ആവശ്യമായ സുരക്ഷാ സംവിധാനങ്ങളില്ലാതെയാണ് ഇത് പുറത്തിറക്കിയതെന്നും അദ്ദേഹം കൂട്ടിച്ചേര്‍ത്തു.