માઈક્રોસોફ્ટ મેનેજર દાવો કરે છે કે ઓપનએઆઈના DALL-E 3માં સુરક્ષા નબળાઈઓ છે જે વપરાશકર્તાઓને હિંસક અથવા સ્પષ્ટ ઈમેજો બનાવવાની મંજૂરી આપી શકે છે (જે તાજેતરમાં ટેલર સ્વિફ્ટને લક્ષ્ય બનાવ્યું હતું તે સમાન). ગીકવાયર મંગળવારે એવું નોંધવામાં આવ્યું હતું કે કંપનીની કાનૂની ટીમે માઇક્રોસોફ્ટ એન્જિનિયરિંગ લીડર શેન જોન્સના શોષણ વિશે લોકોને ચેતવણી આપવાના પ્રયાસોને અવરોધિત કર્યા છે. સ્વ-વર્ણનિત વ્હિસલબ્લોઅર હવે તેમનો સંદેશ કેપિટોલ હિલ પર લઈ જઈ રહ્યો છે.
જોન્સે યુએસ સેનેટર્સ પૅટી મરે (D-WA) અને મારિયા કેન્ટવેલ (D-WA), પ્રતિનિધિ એડમ સ્મિથ (D-WA 9મો ડિસ્ટ્રિક્ટ) અને વૉશિંગ્ટન સ્ટેટ એટર્ની જનરલ બોબ ફર્ગ્યુસન (D) ને સમર્થન આપ્યું હતું. ગીકવાયર જોન્સનો સંપૂર્ણ પત્ર પ્રકાશિત કર્યો.
જોન્સ દાવો કરે છે કે તેણે ડિસેમ્બરની શરૂઆતમાં DALL-E 3 ને સુરક્ષા રક્ષકોને બાયપાસ કરવાની મંજૂરી આપતા શોષણની શોધ કરી હતી. તે કહે છે કે તેણે માઈક્રોસોફ્ટમાં તેના ઉપરી અધિકારીઓને આ સમસ્યાની જાણ કરી હતી, જેમણે તેને “વ્યક્તિગત રીતે સીધા જ OpenAI ને આ મુદ્દાની જાણ કરવા” સૂચના આપી હતી. તે દાવો કરે છે કે આમ કર્યા પછી તેણે શોધ્યું કે ખામી “હિંસક અને ખલેલ પહોંચાડતી હાનિકારક છબીઓ” પેદા કરવાની મંજૂરી આપી શકે છે.
જોન્સે પછી એક LinkedIn પોસ્ટમાં તેના મુદ્દાને સાર્વજનિક કરવાનો પ્રયાસ કર્યો. “14 ડિસેમ્બર, 2023ની સવારે, મેં LinkedIn પર OpenAI ના બિનનફાકારક બોર્ડ ઓફ ડિરેક્ટર્સને જાહેરમાં એક પત્ર પ્રકાશિત કર્યો, જેમાં તેમને DALL·E 3 ની ઉપલબ્ધતાને સ્થગિત કરવા વિનંતી કરી,” જોન્સે લખ્યું. “કારણ કે માઈક્રોસોફ્ટ ઓપનએઆઈ પાસે બોર્ડ નિરીક્ષક છે અને મેં અગાઉ તેની નેતૃત્વ ટીમ સાથે મારી ચિંતાઓ શેર કરી હતી, મેં તરત જ માઇક્રોસોફ્ટને મેં પોસ્ટ કરેલા પત્રથી વાકેફ કર્યા.”
માઈક્રોસોફ્ટના પ્રતિભાવમાં તેમને તેમની પોસ્ટ દૂર કરવાની માગણી કરવામાં આવી હતી. “મારી નેતૃત્વ ટીમને પત્ર જાહેર કર્યાના થોડા સમય પછી, મારા મેનેજરે મારો સંપર્ક કર્યો અને મને જાણ કરી કે માઇક્રોસોફ્ટના કાનૂની વિભાગે મને પોસ્ટ દૂર કરવાની માંગ કરી છે,” તેણે તેના પત્રમાં લખ્યું. “તેઓએ મને કહ્યું કે માઇક્રોસોફ્ટનો કાનૂની વિભાગ ઇમેઇલ દ્વારા દૂર કરવાની વિનંતી માટે તેમના ચોક્કસ સમર્થન સાથે ખૂબ જ ટૂંક સમયમાં અનુસરશે, અને મારે કાનૂની ઇમેઇલની રાહ જોયા વિના તેને તાત્કાલિક દૂર કરવાની જરૂર છે.”
જોન્સે તેનું પાલન કર્યું, પરંતુ કહે છે કે તેને Microsoft ની કાનૂની ટીમ તરફથી ક્યારેય સારો પ્રતિસાદ મળ્યો નથી. તેણે લખ્યું, “મને તેની પાસેથી ક્યારેય કોઈ સમજૂતી કે સમર્થન મળ્યું નથી.” તેમનું કહેવું છે કે કંપનીના કાનૂની વિભાગ પાસેથી વધુ જાણવાના પ્રયાસોને અવગણવામાં આવ્યા હતા. “માઈક્રોસોફ્ટના કાનૂની વિભાગે હજી પણ મારી સાથે સીધો જવાબ આપ્યો નથી અથવા વાતચીત કરી નથી,” તેણે લખ્યું.
એન્ગેજેટે માઈક્રોસોફ્ટ અને ઓપનએઆઈનો સંપર્ક કર્યો, પરંતુ કોઈપણ કંપનીએ તરત જ જવાબ આપ્યો નહીં. જો અમને પ્રતિસાદ મળશે તો અમે આ લેખ અપડેટ કરીશું.
વ્હિસલબ્લોઅર્સ કહે છે કે ગયા અઠવાડિયે X પર પ્રસારિત થયેલા ટેલર સ્વિફ્ટના અશ્લીલ ડીપફેક્સ એ એક ઉદાહરણ છે કે જો અનચેક કરવામાં આવે તો સમાન નબળાઈઓ શું સર્જી શકે છે. 404 મીડિયા સોમવારે એવું નોંધવામાં આવ્યું હતું કે માઇક્રોસોફ્ટ ડિઝાઇનર, જે DALL-E 3 નો બેકએન્ડ તરીકે ઉપયોગ કરે છે, તે ડીપફેકર્સના ટૂલસેટનો ભાગ હતો જેણે વીડિયો બનાવ્યો હતો. પ્રકાશન દાવો કરે છે કે માઇક્રોસોફ્ટે સૂચિત કર્યા પછી તે ચોક્કસ ખામીને ઠીક કરી છે.
જોન્સે તારણ કાઢ્યું, “માઈક્રોસોફ્ટ આ નબળાઈઓ અને દુરુપયોગની સંભાવનાથી વાકેફ હતું.” તે અસ્પષ્ટ છે કે શું સ્વિફ્ટ ડીપફેક્સ બનાવવા માટે ઉપયોગમાં લેવાતા શોષણો ડિસેમ્બરમાં જોન્સના અહેવાલ સાથે સીધા સંબંધિત હતા.
જોન્સે વોશિંગ્ટન, ડીસીમાં તેમના પ્રતિનિધિઓને પગલાં લેવા વિનંતી કરી. તે સૂચવે છે કે યુએસ સરકાર ચોક્કસ AI નબળાઈઓની જાણ કરવા અને ટ્રેક કરવા માટે એક સિસ્ટમ બનાવે છે – તેમજ તેના જેવા કર્મચારીઓને રક્ષણ આપે છે જેઓ બોલે છે. “અમે કંપનીઓને તેમના ઉત્પાદનોની સલામતી અને જાહેર જોખમો જાહેર કરવાની તેમની જવાબદારી માટે જવાબદાર રાખવાની જરૂર છે,” તેઓએ લખ્યું. “મારા જેવા ચિંતિત કર્મચારીઓએ મૌન રહેવાથી ડરવું જોઈએ નહીં.”
આ લેખ મૂળ રૂપે Engadget પર દેખાયો https://www.engadget.com/Microsofts-legal-department-allegedly-silenced-an-engineer-who-raized-concerns-about-dall-e-3-215953212.html?src પ્રકાશિત પર =RSS