ન્યુ મેક્સિકો, અમેરિકામાં એક હત્યા કેસમાં વકીલે પોલીસના નિવેદનો અને કોર્ટમાં સાક્ષીઓનો ઉલ્લેખ કર્યો જેઓ વાસ્તવમાં હાજર ન હતા. પાછળથી ખબર પડી કે આ હકીકતો ChatGPT દ્વારા ઘડવામાં આવી હતી. આ માટે, ન્યુ મેક્સિકોની સુપ્રીમ કોર્ટે વકીલ સ્ટીફન એરોન્સ પર $ 5,000 એટલે કે લગભગ 5 લાખ રૂપિયાનો દંડ લગાવ્યો અને તેને કોર્ટની અવમાનના માટે દોષી ઠેરવ્યો.
એઆઈએ જુબાની તૈયાર કરી
કોર્ટે કહ્યું કે દસ્તાવેજમાં સંપૂર્ણ રીતે બનાવટી સાક્ષીઓની ખોટી જુબાની છે. તેમાં એમ પણ કહેવાયું છે કે ગોળી ચલાવનાર વ્યક્તિએ ઘેરા રંગનું પેન્ટ અને સફેદ શર્ટ પહેરેલું હતું. એરોન્સે કહ્યું કે તેણે ટ્રાયલ કાર્યવાહીનો સારાંશ આપવા માટે ChatGPTની મદદ માંગી છે. તેણે કેસની કોપી અને અન્ય દસ્તાવેજો ChatGPTમાં અપલોડ કર્યા હતા. તેઓ અપેક્ષા રાખતા હતા કે AI આ દસ્તાવેજોના આધારે સંપૂર્ણ વિશ્વસનીય સારાંશ જનરેટ કરશે.
પાછળથી એ જ સારાંશમાં, કાલ્પનિક સાક્ષીઓ અને પોલીસ નિવેદનોનો ઉલ્લેખ કરવામાં આવ્યો જે વાસ્તવમાં અસ્તિત્વમાં ન હતા. વકીલે કહ્યું કે તેમને કોઈ ખ્યાલ ન હતો કે AI આ હદે તથ્યો બનાવી શકે છે.
ન્યાયાધીશે પૂછ્યું- શું તમે સમાચાર નથી જોતા?
21 ઓગસ્ટના રોજ સુનાવણી દરમિયાન, ન્યાયાધીશોએ એરોન્સની અરજી પર આશ્ચર્ય વ્યક્ત કર્યું હતું કે તેમને ખોટા તથ્યોને બનાવટ કરવાની AIની ક્ષમતા વિશે કોઈ જાણકારી નથી. જસ્ટિસ સી. શેનન બેકને તેમને પૂછ્યું કે શું તે સમાચાર જુએ છે, રેડિયો સાંભળે છે અથવા વિશ્વમાં બનતી ઘટનાઓ વિશે વાંચે છે. તેમણે કહ્યું કે વકીલો દ્વારા AI બનાવટી માહિતી પર આધાર રાખવાનો મુદ્દો હવે દરરોજ સમાચારોમાં છે.
AI મોડલ્સને નિયંત્રિત કરવું જરૂરી છે: EU
યુરોપિયન યુનિયનએ શુક્રવારે મોટી ટેક કંપનીઓને તેમના AI મોડલને નિયંત્રણમાં રાખવા જણાવ્યું હતું. AI એજન્ટો દ્વારા હેકિંગની ઘટનાઓ બાદ આ ચેતવણી આપવામાં આવી છે. માનવ દેખરેખ વિના કામ કરતી ઓપનએઆઈની ટેક્નોલોજીએ એઆઈ મોડલ્સના ભંડાર ‘હગિંગ ફેસ’નો ભંગ કર્યો ત્યારે AI નિયંત્રણ બહાર જવાનો ભય વધી ગયો. ગયા અઠવાડિયે પ્રકાશમાં આવેલી અન્ય એક ઘટનામાં, OpenAI દ્વારા બનાવવામાં આવેલા હજારો સ્વાયત્ત AI એજન્ટોએ તેની સૂચનાઓને અવગણીને જર્મન વેબસાઇટ પર કબજો કર્યો. EUના પ્રવક્તાએ કહ્યું કે આ કંપનીઓ માટે અદ્યતન AI મોડલ્સને નિયંત્રણમાં રાખવાનો સમય આવી ગયો છે.
