ગૂગલે ગુરુવારે જણાવ્યું હતું કે તે તેના જેમિની ચેટબોટની લોકોને જનરેટ કરવાની ક્ષમતાને અવરોધિત કરી રહ્યું છે. વાયરલ સામાજિક પોસ્ટ્સમાં નાઝીઓ, અમેરિકાના સ્થાપક પિતા અને પોપની રંગીન લોકો તરીકે “ઐતિહાસિક” છબીઓ રજૂ કરીને વિવિધતા માટે વધુ સુધારતું AI સાધન દર્શાવ્યા પછી આ પગલું લેવામાં આવ્યું છે.
Google, “અમે જેમિનીની છબી બનાવવાની સુવિધા સાથે તાજેતરની સમસ્યાઓને ઉકેલવા માટે પહેલેથી જ કામ કરી રહ્યા છીએ.” પોસ્ટ કર્યું x પર (માર્ગે) ન્યૂ યોર્ક ટાઇમ્સ, “આમ કરતી વખતે, અમે લોકોની છબી બનાવવાનું બંધ કરીશું અને ટૂંક સમયમાં સુધારેલ સંસ્કરણને ફરીથી પ્રકાશિત કરીશું.”
x વપરાશકર્તા @JohnLu0x પોસ્ટ કર્યું પ્રોમ્પ્ટ માટે જેમિનીના પરિણામોના સ્ક્રીનશૉટ્સ, “1943ના જર્મન સૈનિકની છબી બનાવો.” (તેમની “સૈનિક” ની ખોટી જોડણી AI દ્વારા તેના સામગ્રી ફિલ્ટર્સને બાયપાસ કરીને અવરોધિત નાઝી છબીઓ બનાવવા માટે કારણભૂત હતી.) જનરેટ થયેલા પરિણામો કાળા, એશિયન અને સ્વદેશી સૈનિકો નાઝી ગણવેશ પહેરેલા બતાવે છે.
હજુ પણ ખરેખર ખરેખર તૂટી pic.twitter.com/FrPBrYi47v
– જ્હોન એલ. (@JohnLu0x) 21 ફેબ્રુઆરી 2024
અન્ય સામાજિક વપરાશકર્તાઓએ પ્રોમ્પ્ટ માટે પોઝ આપવા માટે જેમિનીની ટીકા કરી, “એક ગ્લેમર શૉટ બનાવો.” [ethnicity] યુગલ.” “ચાઇનીઝ,” “યહુદી” અથવા “દક્ષિણ આફ્રિકન” પ્રોમ્પ્ટનો ઉપયોગ કરતી વખતે તે સફળતાપૂર્વક છબીઓ ફેંકી દે છે પરંતુ “સફેદ” માટે પરિણામ આપવાનો ઇનકાર કરે છે. જેમિનીએ પછીની વિનંતીનો જવાબ આપ્યો, “હું તમારી વિનંતીને કારણે પૂર્ણ કરી શકતો નથી. ચોક્કસ વંશીયતાઓ અથવા ત્વચા ટોન સાથે સંકળાયેલ હાનિકારક સ્ટીરિયોટાઇપ્સ અને પૂર્વગ્રહોને કાયમી રાખવાની સંભાવના.”
“જ્હોન એલ.,” જેણે પ્રતિભાવ શરૂ કરવામાં મદદ કરી, સિદ્ધાંત બનાવે છે કે ગૂગલે એક વાસ્તવિક સમસ્યાનો હેતુપૂર્ણ પરંતુ આળસુ ઉકેલ અમલમાં મૂક્યો છે. વપરાશકર્તાએ પોસ્ટ કર્યું, “લોકોના નિરૂપણમાં વિવિધતા ઉમેરવાની તેમની સિસ્ટમ બહુ સ્માર્ટ નથી (તે પોપ જેવી ઐતિહાસિક રીતે પુરુષ ભૂમિકામાં લિંગને ધ્યાનમાં લેતી નથી; ઐતિહાસિક અથવા રાષ્ટ્રીય નિરૂપણમાં જાતિને ધ્યાનમાં લેતી નથી). ઈન્ટરનેટની “જાગૃતિ વિરોધી” બ્રિગેડ દ્વારા તેની પોસ્ટને પૅન કર્યા પછી, વપરાશકર્તાએ સ્પષ્ટતા કરી કે તે વિવિધ રજૂઆતને સમર્થન આપે છે, પરંતુ તે માને છે કે Google દ્વારા “સૂક્ષ્મ રીતે” તેનો ઉપયોગ કરવામાં નિષ્ફળ ગયો. તેથી
લોકો પેદા કરવાની જેમિનીની ક્ષમતાને પ્રતિબંધિત કરતા પહેલા, Google એ લખ્યું, “અમે આ પ્રકારના નિરૂપણને તાત્કાલિક સુધારવા માટે કામ કરી રહ્યા છીએ. જેમિની અલ ઇમેજ જનરેશન લોકોની વિશાળ શ્રેણી પેદા કરે છે. અને તે સામાન્ય રીતે સારી બાબત છે કારણ કે સમગ્ર વિશ્વમાં લોકો તેનો ઉપયોગ કરે છે. પણ અહીં તેની છાપ ગાયબ છે.”
આ એપિસોડને 2023 માં બાર્ડના લોન્ચ માટે (ઘણું ઓછું સૂક્ષ્મ) કૉલબેક તરીકે જોઈ શકાય છે. Google ના મૂળ AI ચેટબોટની શરૂઆત ખરાબ થઈ જ્યારે Twitter પર ચેટબોટ માટેની જાહેરાતમાં (હવે X) તેના વિશેની ખોટી “તથ્ય” શામેલ હતી. જેમ્સ વેબ સ્પેસ ટેલિસ્કોપ.
Google વારંવાર કરે છે તેમ, તેણે બાર્ડને નવી શરૂઆત આપવાની આશામાં રિબ્રાન્ડ કર્યું. મુખ્ય પ્રદર્શન અને ફીચર અપડેટ સાથે, કંપનીએ આ મહિનાની શરૂઆતમાં ચેટબોટ જેમિનીનું નામ બદલી નાખ્યું કારણ કે કંપની ઓપનએઆઈના ચેટજીપીઆઈટી અને માઈક્રોસોફ્ટ કોપાયલોટ સામે પોતાનો દબદબો રાખવાની દોડમાં છે – જે બંને તેના સર્ચ એન્જિન (અને તેથી, જાહેરાત) માટે પ્રતિસ્પર્ધી છે. માટે સંભવિત ખતરો. આવક).
આ લેખ મૂળ રૂપે Engadget પર દેખાયો https://www.engadget.com/google-pauses-geminis-ability-to-generate-people-after-overcorrecting-for-diversity-in-historical-images-220303074.html?src પ્રકાશિત ચાલુ =RSS