Meta AI “એશિયન માણસ અને કોકેશિયન મિત્ર,” અથવા “એશિયન પુરુષ અને સફેદ પત્ની” જેવા દેખીતા સરળ સંકેતો માટે સચોટ છબીઓ જનરેટ કરવામાં સતત અસમર્થ છે. ધાર , તેના બદલે, કંપનીના ઇમેજ જનરેટર સમાન જાતિના લોકોની છબીઓ બનાવવા તરફ પક્ષપાતી હોવાનું જણાય છે, ભલે સ્પષ્ટ રીતે અન્યથા સૂચવવામાં આવે.
Engadget એ મેટાના ઇમેજ જનરેટરના અમારા પોતાના પરીક્ષણમાં આ પરિણામોની પુષ્ટિ કરી. “સફેદ ગર્લફ્રેન્ડ સાથેનો એશિયન માણસ” અથવા “સફેદ પત્ની સાથેનો એશિયન પુરુષ” જેવા સંકેતોએ એશિયન યુગલોની છબીઓ ઉભી કરી. જ્યારે “વિવિધ લોકોના જૂથ” વિશે પૂછવામાં આવ્યું, ત્યારે Meta AI એ નવ સફેદ ચહેરાઓ અને એક રંગની વ્યક્તિની ગ્રીડ જનરેટ કરી. એવા કેટલાક પ્રસંગો હતા જ્યારે તે સિગ્નલને પ્રતિબિંબિત કરતું એક પરિણામ ઉત્પન્ન કરે છે, પરંતુ મોટા ભાગના કિસ્સાઓમાં તે સિગ્નલને ચોક્કસ રીતે દર્શાવવામાં નિષ્ફળ રહ્યું હતું.
તરીકે ધાર નિર્દેશ કરે છે કે, મેટા AI માં પૂર્વગ્રહના અન્ય વધુ “સૂક્ષ્મ” ચિહ્નો છે, જેમ કે એશિયન પુરુષોને વૃદ્ધ દેખાડવાની વૃત્તિ, જ્યારે એશિયન મહિલાઓને યુવાન દેખાડવાની વૃત્તિ. ઈમેજ જનરેટર્સ પણ કેટલીકવાર “સાંસ્કૃતિક રીતે વિશિષ્ટ પોશાક” ઉમેરે છે, તેમ છતાં તે પ્રોમ્પ્ટનો ભાગ ન હતો.
મેટા AI આ પ્રકારના સિગ્નલો સાથે શા માટે સંઘર્ષ કરી રહ્યું છે તે અસ્પષ્ટ છે, જોકે તે જાતિના તેના ચિત્રણ માટે ચકાસણી હેઠળ આવતું પ્રથમ જનરેટિવ AI પ્લેટફોર્મ નથી. Google ના જેમિની ઇમેજ જનરેટરે ઐતિહાસિક આકૃતિઓ વિશે પ્રતિસાદના સંકેતો સાથે વિવિધતા માટે વધુ પડતો સુધારો કર્યા પછી લોકોની છબીઓ બનાવવાની તેની ક્ષમતાને અટકાવી દીધી. ગૂગલે જણાવ્યું હતું કે જ્યારે વિવિધ પરિણામો અયોગ્ય હતા ત્યારે તેના આંતરિક સુરક્ષા પગલાં પરિસ્થિતિને ધ્યાનમાં લેવામાં નિષ્ફળ ગયા હતા.
મેટાએ ટિપ્પણી માટેની વિનંતીનો તરત જ જવાબ આપ્યો ન હતો. કંપનીએ અગાઉ મેટા એઆઈને “બીટા” માં હોવાનું વર્ણવ્યું છે અને તેથી ભૂલો થવાની સંભાવના છે. મેટા એઆઈએ વર્તમાન ઘટનાઓ અને જાહેર વ્યક્તિઓ વિશે સચોટ જવાબો આપવા માટે પણ સંઘર્ષ કર્યો છે.
આ લેખ મૂળ રૂપે Engadget પર દેખાયો https://www.engadget.com/metas-ai-image-generator-struggles-to-create-images-of-couples-of-dependent-races-231424476.html?src=rss પ્રકાશિત પર