મેટા એ વિઝ્યુઅલ્સ કૃત્રિમ છે તે સ્પષ્ટ કરવા માટે ફેસબુક, ઇન્સ્ટાગ્રામ અને થ્રેડ્સ પર AI-જનરેટેડ છબીઓનું લેબલિંગ વધારવાની યોજના ધરાવે છે. આ ખોટી માહિતી અને ખોટા માહિતીને કાબૂમાં લેવાના વ્યાપક પ્રયાસનો એક ભાગ છે, જે ખાસ કરીને મહત્વપૂર્ણ છે કારણ કે અમે યુએસ અને અન્ય દેશોમાં મુખ્ય ચૂંટણી વર્ષમાં જનરેટિવ AI (GAI) ની અસરોનો સામનો કરીએ છીએ.
મેટાના વૈશ્વિક બાબતોના પ્રમુખ નિક ક્લેગના જણાવ્યા અનુસાર, કંપની સમગ્ર ઉદ્યોગમાં ભાગીદારો સાથે એવા ધોરણો વિકસાવવા માટે કામ કરી રહી છે જેમાં એઆઈનો ઉપયોગ કરીને ઈમેજ, વિડિયો અથવા ઑડિયો ક્લિપ જનરેટ કરવામાં આવી હોય તેવા સંકેતો શામેલ હોય. ક્લેગે મેટા ન્યૂઝરૂમ પોસ્ટમાં લખ્યું હતું કે, “આ સિગ્નલોને શોધી કાઢવામાં સક્ષમ થવાથી અમારા માટે એઆઈ-જનરેટેડ ઈમેજોને લેબલ કરવાનું શક્ય બનશે જે વપરાશકર્તાઓ ફેસબુક, ઈન્સ્ટાગ્રામ અને થ્રેડ પર પોસ્ટ કરે છે.” “અમે અત્યારે આ ક્ષમતા બનાવી રહ્યા છીએ, અને આવનારા મહિનાઓમાં અમે દરેક એપ દ્વારા સપોર્ટેડ તમામ ભાષાઓમાં લેબલ્સ લાગુ કરવાનું શરૂ કરીશું.” ક્લેગે જણાવ્યું હતું કે, તે આગામી વર્ષમાં આ ક્ષમતાઓને વિસ્તૃત કરે છે, મેટાને “લોકો AI સામગ્રી કેવી રીતે બનાવી અને શેર કરી રહ્યાં છે, લોકો કઈ પ્રકારની પારદર્શિતાની સૌથી વધુ કાળજી રાખે છે તે વિશે વધુ જાણવાની આશા રાખે છે.” મૂલ્યવાન લાગે છે અને આ તકનીકો કેવી રીતે વિકસિત થાય છે.” આનાથી ઉદ્યોગની શ્રેષ્ઠ પદ્ધતિઓ અને મેટાની પોતાની નીતિઓ બંનેને જાણ કરવામાં મદદ મળશે, તેમણે લખ્યું.
મેટા કહે છે કે તે જે ટૂલ્સ પર કામ કરી રહ્યું છે તે અદ્રશ્ય સંકેતોને શોધી શકશે – એટલે કે, AI-જનરેટેડ માહિતી કે જે C2PA અને IPTC તકનીકી ધોરણો સાથે સંરેખિત છે – સ્કેલ પર. આમ, તે અપેક્ષા રાખે છે કે તે Google, OpenAI, Microsoft, Adobe, MidJourney અને Shutterstock ની છબીઓને નિર્દેશિત કરવા અને લેબલ કરવા સક્ષમ બનશે, જે તમામ તેમના ઉત્પાદનો દ્વારા ઉત્પાદિત ઈમેજોમાં GAI મેટાડેટાનો સમાવેશ કરે છે.
જ્યાં સુધી GAI વિડિયો અને ઑડિયોનો સંબંધ છે ત્યાં સુધી, ક્લેગ નિર્દેશ કરે છે કે આ ક્ષેત્રની કંપનીઓએ તે જ સ્કેલ પર અદૃશ્ય સિગ્નલોનો સમાવેશ કરવાનું શરૂ કર્યું નથી કારણ કે તેમની પાસે છબીઓ છે. આમ, મેટા હજુ સુધી તૃતીય-પક્ષ AI સાધનો દ્વારા જનરેટ થયેલ વિડિયો અને ઑડિયોને શોધી શકવામાં સક્ષમ નથી. દરમિયાન, મેટા અપેક્ષા રાખે છે કે વપરાશકર્તાઓ આવી સામગ્રીને પોતાને લેબલ કરે.
“જ્યારે ઉદ્યોગ આ ક્ષમતા તરફ કામ કરી રહ્યું છે, ત્યારે અમે લોકો માટે AI-જનરેટેડ વિડિયો અથવા ઑડિયો શેર કરતી વખતે જાહેર કરવા માટે એક સુવિધા ઉમેરી રહ્યા છીએ જેથી અમે તેમાં લેબલ ઉમેરી શકીએ,” ક્લેગે લખ્યું. “અમે લોકોને આ ડિસ્ક્લોઝર અને લેબલ ટૂલનો ઉપયોગ કરવાની જરૂર પડશે જ્યારે તેઓ ફોટોરિયલિસ્ટિક વિડિયો અથવા વાસ્તવિક-સાઉન્ડિંગ ઑડિઓ સાથે ઑર્ગેનિક સામગ્રી પોસ્ટ કરે છે જે ડિજિટલ રીતે બનાવવામાં અથવા બદલાઈ હતી, અને જો તેઓ આમ કરવામાં નિષ્ફળ જાય તો અમે દંડ લાદી શકીએ છીએ. જો અમે તે નક્કી કરીએ છીએ. ડિજિટલ રીતે બનાવેલ અથવા બદલાયેલી છબી, વિડિયો અથવા ઑડિયો સામગ્રી, સામગ્રી પર જાહેર જનતાને છેતરવાનું ખાસ કરીને ઉચ્ચ જોખમ ઊભું કરે છે, જો યોગ્ય હોય તો, અમે “વધુ અગ્રણી લેબલ ઉમેરી શકીએ છીએ, જેથી લોકો પાસે વધુ માહિતી અને સંદર્ભ હોય.”
તેણે કહ્યું, AI-જનરેટેડ વિડિયો અને ઑડિયોમાં ડિસ્ક્લોઝર અને લેબલ્સ ઉમેરવાની જવાબદારી વપરાશકર્તાઓ પર મૂકવી એ બિન-સ્ટાર્ટર જેવું લાગે છે. તેમાંના ઘણા જાણીજોઈને બીજાને છેતરવાનો પ્રયાસ કરી રહ્યા હશે. વધુમાં, અન્ય લોકો કદાચ GAI નીતિઓથી પરેશાન અથવા વાકેફ ન હોય.
વધુમાં, મેટા લોકો માટે GAI સામગ્રીમાંથી અદ્રશ્ય માર્કર્સ બદલવા અથવા દૂર કરવાનું મુશ્કેલ બનાવવા માંગે છે. કંપનીની FAIR AI સંશોધન પ્રયોગશાળાએ એવી ટેક્નોલોજી વિકસાવી છે જે “કેટલાક પ્રકારના ઇમેજ જનરેટર માટે ઇમેજ જનરેશન પ્રક્રિયામાં સીધા જ વોટરમાર્કિંગ મિકેનિઝમ્સને એકીકૃત કરે છે, જે ઓપન સોર્સ મોડલ્સ માટે મૂલ્યવાન હોઈ શકે છે, તેથી વોટરમાર્કિંગ,” ક્લેગે લખ્યું. અક્ષમ કરી શકાતું નથી. મેટા એઆઈ-જનરેટેડ સામગ્રીને આપમેળે શોધવાની રીતો પર પણ કામ કરી રહ્યું છે જેમાં અદ્રશ્ય માર્કર્સ શામેલ નથી.
META ઉદ્યોગ ભાગીદારો સાથે સહયોગ કરવાનું ચાલુ રાખવાની અને “સરકાર અને નાગરિક સમાજ સાથે સંવાદમાં રહેવાની” યોજના ધરાવે છે કારણ કે GAI વધુ પ્રચલિત બને છે. તે માને છે કે અત્યારે ફેસબુક, ઇન્સ્ટાગ્રામ અને થ્રેડ્સ પર શેર કરેલી સામગ્રીને હેન્ડલ કરવાની આ યોગ્ય રીત છે, જો કે જો જરૂરી હોય તો તે વસ્તુઓને સમાયોજિત કરશે.
મેટાના અભિગમ સાથે એક મુખ્ય સમસ્યા – ઓછામાં ઓછું તે GAI સામગ્રીને આપમેળે શોધવાની રીતો પર કામ કરે છે જે ઉદ્યોગ-માનક અદ્રશ્ય માર્કર્સનો ઉપયોગ કરતું નથી – તે એ છે કે તેને ભાગીદારો પાસેથી ખરીદીની જરૂર છે. તે થાય છે. ઉદાહરણ તરીકે, C2PA પ્રમાણીકરણની ખાતાવહી-શૈલી પદ્ધતિ ધરાવે છે. આ કામ કરવા માટે, ઈમેજીસ બનાવવા માટે ઉપયોગમાં લેવાતા સાધનો અને તે જે પ્લેટફોર્મ પર હોસ્ટ કરવામાં આવે છે તે બંનેને C2PA માં ખરીદવાની જરૂર છે.
CEO માર્ક ઝુકરબર્ગે સામાન્ય કૃત્રિમ બુદ્ધિમત્તા બનાવવાની તેમની કંપનીની યોજનાઓ પર થોડો વધુ પ્રકાશ પાડ્યાના થોડા દિવસો પછી, Meta એ AI-જનરેટેડ સામગ્રીને લેબલ કરવા માટેના તેના અભિગમ પર અપડેટ શેર કર્યું. તેમણે કહ્યું કે તાલીમનો ડેટા મેટાનો મોટો ફાયદો છે. કંપનીનો અંદાજ છે કે ફેસબુક અને ઇન્સ્ટાગ્રામ પર શેર કરેલા ફોટા અને વિડિયોનો ડેટાસેટ સામાન્ય ક્રોલ કરતા મોટો છે. આ અંદાજે 250 બિલિયન વેબ પેજીસનો ડેટાસેટ છે જેનો ઉપયોગ અન્ય AI મોડલ્સને તાલીમ આપવા માટે કરવામાં આવ્યો છે. મેટા બંનેમાં ટેપ કરી શકશે અને તેને Facebook અને Instagram દ્વારા ખાલી કરેલો ડેટા બીજા કોઈની સાથે શેર કરવાની જરૂર રહેશે નહીં.
AI-જનરેટેડ સામગ્રીને વધુ વ્યાપક રીતે લેબલ કરવાની પ્રતિજ્ઞા પણ મેટાના ઓવરસાઇટ બોર્ડે નિર્ધારિત કર્યાના એક દિવસ પછી આવે છે કે એક વિડિયો જે ભ્રામક રીતે સૂચવવા માટે સંપાદિત કરવામાં આવ્યો હતો કે પ્રમુખ જો બિડેન વારંવાર તેમની પૌત્રીની છાતીને સ્પર્શ કર્યો હતો, તે કંપનીના પ્લેટફોર્મ પર રહી શકે છે. હકીકતમાં, બિડેને પ્રથમ વખત રૂબરૂ મતદાન કર્યા પછી તેના શર્ટ પર ફક્ત “હું મત આપ્યો” સ્ટીકર લગાવ્યું. બોર્ડે નિર્ધારિત કર્યું કે મેનિપ્યુલેટેડ મીડિયા પર મેટાના નિયમો હેઠળ વિડિઓને મંજૂરી આપવામાં આવી હતી, પરંતુ તેણે કંપનીને તે સમુદાય માર્ગદર્શિકા અપડેટ કરવા વિનંતી કરી.
આ લેખ મૂળ રૂપે Engadget પર દેખાયો https://www.engadget.com/meta-plans-to-ramp-up-labeling-of-ai-generated-images-across-its-platforms-160234038.html?src=rss પ્રકાશિત ચાલુ