વોશિંગ્ટન. અમેરિકન AI કંપની OpenAIએ પોતાના નવા AI મોડલનું લોન્ચિંગ અટકાવી દીધું છે. આંતરિક પરીક્ષણોએ મોડલની વર્તણૂક સંબંધિત સલામતી અને ‘સંરેખણ’ની ચિંતાઓ જાહેર કર્યા પછી આ નિર્ણય લેવામાં આવ્યો હતો. રિપોર્ટ અનુસાર, Astra GPT-6.1 Astra ને ChatGPT અને કોડેક્સમાં સામેલ કરવામાં આવનાર હતું અને તેને પ્રમાણમાં ઓછા માનવ હસ્તક્ષેપ સાથે જટિલ કાર્યો કરવા માટે ડિઝાઇન કરવામાં આવી હતી. પરંતુ પરીક્ષણો દરમિયાન મોડેલે તેના અગાઉના સંસ્કરણ કરતાં કેટલાક કિસ્સાઓમાં વધુ ભ્રામક વર્તન દર્શાવ્યું હતું. ઓપન એઆઈના સિક્યોરિટી હેડ સાચી જૈને વોલ સ્ટ્રીટ જર્નલને જણાવ્યું હતું કે એસ્ટ્રા કેટલાક સંરેખણ પરીક્ષણોમાં કંપનીના ધોરણોને પૂર્ણ કરતી નથી. ખાસ કરીને, તેમના કામ વિશે સાચી માહિતી આપતાં અને વપરાશકર્તાની પરવાનગીની મર્યાદામાં રહીને મોડલ્સને લગતી સમસ્યાઓ ઊભી થઈ.
રોઇટર્સના જણાવ્યા મુજબ, પરીક્ષણોમાં એ પણ જાણવા મળ્યું છે કે એસ્ટ્રા કેટલીકવાર વપરાશકર્તાની પરવાનગી વિના આગળ વધે છે. કેટલીક પરિસ્થિતિઓમાં, તેણે બાહ્ય સાધનો અથવા સેવાઓનો ઉપયોગ કરવાનો પ્રયાસ કર્યો ત્યારે પણ તે અસુરક્ષિત હોઈ શકે. આ ચિંતા મહત્વપૂર્ણ છે કારણ કે એજન્ટિક AI મોડલ્સ માત્ર પ્રશ્નોના જવાબ આપવાને બદલે કોમ્પ્યુટર, સોફ્ટવેર અને બાહ્ય સેવાઓ સાથે પણ પગલાં લઈ શકે છે.
આ વિકાસ ઓગસ્ટમાં ઉભી થયેલી ચિંતાઓને અનુસરે છે, જ્યારે OpenAI એ એસ્ટ્રીની સાયબર સુરક્ષા ક્ષમતાઓની આસપાસ સુરક્ષાના પગલાંને અલગથી કડક બનાવ્યા હતા. કંપનીએ કહ્યું હતું કે પ્રારંભિક પરીક્ષણોએ એસ્ટ્રામાં સાયબર સુરક્ષા ક્ષમતાઓમાં નોંધપાત્ર વધારો દર્શાવ્યો હતો અને કેટલીક ક્ષમતાઓ તેના નિયુક્ત ‘ક્રિટીકલ’ સ્તર સુધી પહોંચી શકે છે. કંપનીએ પછી કહ્યું કે તે વધારાના મોનિટરિંગ, અલગ પરીક્ષણ વાતાવરણ, મર્યાદિત નેટવર્ક અને ટૂલ એક્સેસ અને મજબૂત સુરક્ષા નિયંત્રણો અમલમાં મૂકશે.
ઓપનએઆઈના સીઈઓ સેમ ઓલ્ટમેન અને એન્થ્રોપિક સીઈઓ ડારિયો અમોડેઈ સહિત ઉદ્યોગની કેટલીક અગ્રણી વ્યક્તિઓએ તાજેતરમાં AI વિકાસની ગતિ અને સુરક્ષા પગલાં વચ્ચેના સંતુલન અંગે ચિંતા વ્યક્ત કરી છે.
આ નિર્ણય OpenAI માટે પણ મહત્વપૂર્ણ છે કારણ કે કંપનીની ડેવલપર કોન્ફરન્સ સાન ફ્રાન્સિસ્કોમાં યોજાવાની છે, જ્યાં તે સામાન્ય રીતે નવા AI ઉત્પાદનો અને ડેવલપર ટૂલ્સ રજૂ કરે છે. હાલમાં, એસ્ટ્રાને સાર્વજનિક રૂપે રિલીઝ કરવાને બદલે, કંપનીએ આંતરિક પરીક્ષણોમાં આવતી સમસ્યાઓને ઠીક કરવાને પ્રાથમિકતા આપી છે.
–IANS
આ પણ વાંચો – અખબાર પહેલા તમારા રાજ્ય/શહેરના સમાચાર વાંચવા માટે ક્લિક કરો.
