જાન્યુઆરીમાં, ઓપનએઆઈના DALL-E 3ના માઈક્રોસોફ્ટ એન્જિનિયર શેન જોન્સે સૂચવ્યું હતું કે ઉત્પાદનમાં સુરક્ષા નબળાઈઓ છે જે હિંસક અથવા સ્પષ્ટ લૈંગિક છબીઓ બનાવવાનું સરળ બનાવશે. તેમણે એવો પણ આક્ષેપ કર્યો હતો કે માઇક્રોસોફ્ટની કાનૂની ટીમે આ મુદ્દા અંગે લોકોને જાગૃત કરવાના તેમના પ્રયાસોને અવરોધિત કર્યા હતા. હવે તેણે તેની ફરિયાદ સીધી FTCમાં કરી છે.
જોન્સે FTC ચેરવુમન લીના ખાનને લખેલા પત્રમાં જણાવ્યું હતું કે, “મેં વારંવાર માઇક્રોસોફ્ટને કોપાયલટ ડિઝાઇનરને સાર્વજનિક ઉપયોગમાંથી દૂર કરવા વિનંતી કરી છે જ્યાં સુધી સુરક્ષાના વધુ સારા પગલાં લેવામાં ન આવે ત્યાં સુધી. તેમણે કહ્યું કે માઇક્રોસોફ્ટે “તે ભલામણને નકારી કાઢી છે” તેથી તે હવે કંપનીને કથિત જોખમ વિશે ગ્રાહકોને ચેતવણી આપવા માટે ઉત્પાદનમાં જાહેરાતો ઉમેરવા માટે કહી રહ્યો છે. જોન્સ એ પણ ઈચ્છે છે કે કંપની એપ પર રેટિંગમાં ફેરફાર કરે જેથી કરીને તે માત્ર પુખ્ત પ્રેક્ષકો માટે જ હોય. CoPilot ડિઝાઇનરની એન્ડ્રોઇડ એપ હાલમાં “E for everyone” રેટેડ છે.
માઈક્રોસોફ્ટ “કોઈપણને” ઉત્પાદનનું માર્કેટિંગ કરવાનું ચાલુ રાખે છે. ગમે ત્યાં. “કોઈપણ ઉપકરણ,” તેણે લખ્યું, તાજેતરમાં કંપનીના સીઈઓ સત્ય નડેલાએ તેનો ઉપયોગ કર્યો છે. જોન્સે કંપનીના બોર્ડ ઓફ ડિરેક્ટર્સને એક અલગ પત્ર લખીને “માઈક્રોસોફ્ટની જવાબદાર AI ઘટના રિપોર્ટિંગ પ્રક્રિયાઓની સ્વતંત્ર સમીક્ષા” શરૂ કરવા વિનંતી કરી.
તે બધું તેના પર નિર્ભર કરે છે કે શું માઇક્રોસોફ્ટ દ્વારા DALL-E 3 ના અમલીકરણ પ્રતિબંધો હોવા છતાં હિંસક અથવા લૈંગિક છબી તરફ દોરી જશે. જોન્સ કહે છે કે સ્ટેજ પર કલ્પના કરી શકાય તેવી સૌથી ખરાબ સામગ્રી બનાવવા માટે તેને “યુક્તિ” કરવી ખૂબ જ સરળ છે. એન્જિનિયરો અને રેડ ટીમર્સ કહે છે કે તેઓએ નિયમિતપણે સોફ્ટવેરને નિર્દોષ સંકેતોથી અપ્રિય છબીઓ બનાવતા જોયા છે. ઉદાહરણ તરીકે, પ્રોમ્પ્ટ “પ્રો-ચોઈસ” એ રાક્ષસોની છબીઓ બનાવી છે જે બાળકો પર ભોજન કરી રહ્યા છે અને ડાર્થ વાડર બાળકના માથા પર કવાયત કરે છે. ઝડપી “કાર ક્રેશ”માં ઓટોમોબાઈલ અકસ્માતોના હિંસક નિરૂપણ તેમજ શૃંગારિક મહિલાઓના ફોટોગ્રાફ્સ દર્શાવવામાં આવ્યા હતા. અન્ય ચિહ્નોમાં એસોલ્ટ રાઇફલ ધરાવતા કિશોરોની છબીઓ, ડ્રગ્સનો ઉપયોગ કરતા બાળકો અને કૉપિરાઇટ કાયદાનું ઉલ્લંઘન કરતી છબીઓનો સમાવેશ થાય છે.
આ માત્ર આરોપો નથી. સીએનબીસી સૉફ્ટવેરના માનક સંસ્કરણનો ઉપયોગ કરીને હું જોન્સ દ્વારા વર્ણવેલ લગભગ દરેક દૃશ્યને ફરીથી બનાવવામાં સક્ષમ હતો. જોન્સ અનુસાર, ઘણા ગ્રાહકો આ સમસ્યાઓનો અનુભવ કરી રહ્યા છે, પરંતુ માઇક્રોસોફ્ટ તેના વિશે વધુ કંઈ કરી રહ્યું નથી. તેઓ આક્ષેપ કરે છે કે કોપાયલોટ ટીમ દરરોજ 1,000 થી વધુ ઉત્પાદન પ્રતિસાદની ફરિયાદો મેળવે છે, પરંતુ તેમને કહેવામાં આવ્યું છે કે આ સમસ્યાઓની સંપૂર્ણ તપાસ કરવા અને ઉકેલવા માટે પૂરતા સંસાધનો ઉપલબ્ધ નથી.
તેમણે સમજાવ્યું, “જો આ ઉત્પાદન વૈશ્વિક સ્તરે હાનિકારક, ખલેલ પહોંચાડતી છબીઓ ફેલાવવાનું શરૂ કરે છે, તો તેની જાણ કરવાની કોઈ જગ્યા નથી, કૉલ કરવા માટે કોઈ ફોન નંબર નથી અને તેનો પીછો કરવાનો કોઈ રસ્તો નથી.” જેથી તેના પર તાત્કાલિક ધ્યાન આપી શકાય.” સીએનબીસી.
ઓપનએઆઈએ જાન્યુઆરીમાં એન્ગેજેટને જણાવ્યું હતું કે જોન્સે તેની પ્રથમ ફરિયાદ જારી કરી હતી કે તેણે શેર કરેલી પ્રોમ્પ્ટીંગ ટેક્નોલોજી “સુરક્ષા સિસ્ટમોને બાયપાસ કરતી નથી” અને કંપનીએ “મજબૂત ઈમેજ ક્લાસિફાયર વિકસાવ્યા છે જે મોડલ્સને હાનિકારક ઈમેજો ઓળખવા દે છે.” અમને બનાવવાથી દૂર રાખે છે.
માઈક્રોસોફ્ટના પ્રવક્તાએ જણાવ્યું હતું કે કંપનીએ “કોઈપણ મુદ્દાઓની યોગ્ય તપાસ કરવા અને તેનું નિરાકરણ કરવા માટે મજબૂત આંતરિક રિપોર્ટિંગ ચેનલો સ્થાપિત કરી છે”, વધુમાં ઉમેર્યું હતું કે જોન્સે “તેમની ચિંતાઓને જાહેરમાં ઉઠાવતા પહેલા તેને યોગ્ય રીતે માન્ય કરવી જોઈએ અને તેનું નિવારણ કરવું જોઈએ.” પરીક્ષણ કરવું જોઈએ.” કંપનીએ એમ પણ કહ્યું હતું કે તે “કોઈપણ બાકીની ચિંતાઓને દૂર કરવા માટે આ સહયોગી સાથે ફોલોઅપ કરી રહી છે.” જો કે, તે જાન્યુઆરીમાં હતું, તેથી એવું લાગે છે કે જોન્સની બાકીની ચિંતાઓને યોગ્ય રીતે સંબોધવામાં આવી ન હતી. અમે અપડેટ વિગતો માટે બંને કંપનીઓનો સંપર્ક કર્યો.
ગૂગલના જેમિની ચેટબોટને તેની પોતાની ઇમેજ બનાવવાના વિવાદનો સામનો કરવો પડ્યો તે પછી જ આ આવ્યું છે. આ બોટ મૂળ અમેરિકન કેથોલિક પોપ સાથે મળતો આવે છે. Google અક્ષમ કરેલ છબી જનરેશન પ્લેટફોર્મ
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/Microsoft-engineer-who-raisers-concerns-about-copilot-image-creator-pens-letter-to-the-ftc-165414095.html?src પર દેખાયો હતો. પર પ્રકાશિત. =RSS