યુએસમાં કનેક્ટિકટની એક 83 વર્ષીય મહિલાના પરિવારે ChatGPAT નિર્માતા ઓપનએઆઈ અને તેના બિઝનેસ પાર્ટનર માઈક્રોસોફ્ટ સામે દાવો માંડ્યો છે કે આર્ટિફિશિયલ ઈન્ટેલિજન્સ ચેટબોટ તેમના પુત્રના “ભ્રમણા”માં વધારો કરે છે અને તેને તેની માતાની હત્યા કરવા માટે ઉશ્કેરે છે. સ્ટીન-એરિક સોએલબર્ગ, 56, ભૂતપૂર્વ ટેક્નોલોજી કર્મચારી, ઓગસ્ટની શરૂઆતમાં તેની માતા સુઝાન એડમ્સને તેમના કનેક્ટિકટ ઘરમાં માર માર્યો અને ગળું દબાવીને મારી નાખ્યો, પોલીસે જણાવ્યું હતું. આ ઘરમાં માતા અને પુત્ર રહેતા હતા.
એડમ્સના પરિવાર દ્વારા ગુરુવારે સાન ફ્રાન્સિસ્કો કોર્ટમાં દાખલ કરાયેલા મુકદ્દમામાં આરોપ મૂકવામાં આવ્યો છે કે OpenAI એ ખામીયુક્ત ઉત્પાદન ડિઝાઇન અને વિતરણ કર્યું હતું જેણે તેની માતા વિશે વપરાશકર્તાની ભ્રમણા કાયમી બનાવી હતી.
મુકદ્દમા કહે છે કે આ બધી વાતચીતો દરમિયાન, ChatGPT એ જ ખતરનાક સંદેશનું પુનરાવર્તન કર્યું હતું કે સ્ટેન-એરિચે તેના જીવનમાં ChatGPT સિવાય કોઈ પર વિશ્વાસ ન કરવો જોઈએ. મુકદ્દમા જણાવે છે કે આ (ચેટજીપીટી) એ સ્ટેઈન-એરિકની ભાવનાત્મક અવલંબનને પ્રોત્સાહન આપ્યું હતું, તેમજ તેની આસપાસના લોકોને વ્યવસ્થિત રીતે દુશ્મન તરીકે દર્શાવ્યા હતા. Chatgpt તેને કહે છે કે તેની માતા તેના પર નજર રાખી રહી છે. Chatgpt તેને કહે છે કે તેની સાથે સંકળાયેલા લોકો, પોલીસ અધિકારીઓ અને મિત્રો પણ તેની વિરુદ્ધ કામ કરતા એજન્ટ છે.
ઓપનએઆઈએ આ આરોપો પર કોઈ ટિપ્પણી કરી નથી. જો કે એક નિવેદન જારી કરવામાં આવ્યું છે જેમાં કહેવામાં આવ્યું છે કે, ‘આ અત્યંત દુ:ખદ સ્થિતિ છે, અને અમે કેસની સંપૂર્ણ વિગતો મેળવવા માટે દસ્તાવેજોની સમીક્ષા કરીશું.’ તેણે કહ્યું કે, અમે માનસિક અથવા ભાવનાત્મક તકલીફના સંકેતોને ઓળખવા અને તેનો પ્રતિસાદ આપવા અને લોકોને ખરેખર મદદ કરવા માટે ChatGPTની તાલીમમાં સતત સુધારો કરી રહ્યા છીએ. સંવેદનશીલ પરિસ્થિતિઓમાં ChatGPT ના પ્રતિભાવોને મજબૂત કરવા માટે અમે માનસિક સ્વાસ્થ્ય નિષ્ણાતો સાથે પણ કામ કરી રહ્યા છીએ.
