મેટાનું ઓવરસાઇટ બોર્ડ ફરી એકવાર AI-જનરેટેડ કન્ટેન્ટ માટે સોશિયલ નેટવર્કના નિયમો અપનાવી રહ્યું છે. બોર્ડે બે કેસો સ્વીકાર્યા છે જે AI-જનરેટેડ જાહેર વ્યક્તિઓની સ્પષ્ટ છબીઓ સાથે સંબંધિત છે.
જ્યારે META ના નિયમો પહેલાથી જ Facebook અને Instagram પર નગ્નતાને પ્રતિબંધિત કરે છે, ત્યારે બોર્ડે એક નિવેદનમાં જણાવ્યું હતું કે તે અન્વેષણ કરવા માંગે છે કે “META ની નીતિઓ અને તેની અમલીકરણ પદ્ધતિઓ સ્પષ્ટ AI-જનરેટેડ છબીઓને સંબોધવામાં અસરકારક છે.” કેટલીકવાર “ડીપફેક પોર્ન” તરીકે ઓળખવામાં આવે છે, સ્ત્રી સેલિબ્રિટીઓ, રાજકારણીઓ અને અન્ય જાહેર હસ્તીઓની AI દ્વારા જનરેટ કરેલી છબીઓ ઓનલાઈન ઉત્પીડનનું મુખ્ય સ્વરૂપ બની ગઈ છે અને તેના કારણે દુરુપયોગની લહેર ઉભી થઈ છે. બે કેસ સાથે, ઓવરસાઇટ બોર્ડ મેટા પર તેના પ્લેટફોર્મ પર આવી હેરાનગતિને દૂર કરવા માટે નવા નિયમો અપનાવવા દબાણ કરી શકે છે.
ઓવરસાઇટ બોર્ડે જણાવ્યું હતું કે તે વધુ હેરાનગતિ ટાળવાના પ્રયાસમાં દરેક કેસના કેન્દ્રમાં બે જાહેર વ્યક્તિઓનું નામ આપી રહ્યું નથી, જો કે તે દરેક પોસ્ટની આસપાસના સંજોગોનું વર્ણન કરે છે.
એક કેસમાં એક નગ્ન ભારતીય મહિલાની AI-જનરેટ કરેલી છબી દર્શાવતી Instagram પોસ્ટનો સમાવેશ થાય છે, જે એક એકાઉન્ટ દ્વારા પોસ્ટ કરવામાં આવી હતી જે “માત્ર ભારતીય મહિલાઓની AI-જનરેટેડ છબીઓ શેર કરે છે.” પોસ્ટની જાણ મેટાને કરવામાં આવી હતી પરંતુ 48 કલાક પછી રિપોર્ટ બંધ કરવામાં આવ્યો હતો કારણ કે તેની સમીક્ષા કરવામાં આવી ન હતી. તે જ વપરાશકર્તાએ તે નિર્ણયની અપીલ કરી હતી પરંતુ અપીલ પણ બંધ કરવામાં આવી હતી અને તેની ક્યારેય સમીક્ષા કરવામાં આવી ન હતી. વપરાશકર્તાએ ઓવરસાઇટ બોર્ડને અપીલ કરી અને બોર્ડ આ મામલો ઉઠાવવા માટે સંમત થયા પછી મેટાએ આખરે પોસ્ટ દૂર કરી.
બીજા કેસમાં એઆઈ આર્ટને સમર્પિત જૂથમાં ફેસબુક પોસ્ટ સામેલ છે. પ્રશ્નમાંની પોસ્ટમાં “એક નગ્ન સ્ત્રીની AI દ્વારા જનરેટ કરેલી છબી દર્શાવવામાં આવી હતી જેમાં એક પુરુષ તેના સ્તનોને સ્પર્શ કરે છે.” આ મહિલાનો હેતુ “એક અમેરિકન જાહેર વ્યક્તિ” જેવો હતો જેનું નામ પોસ્ટના કૅપ્શનમાં પણ હતું. પોસ્ટ આપમેળે દૂર કરવામાં આવી હતી કારણ કે તે પહેલાથી જ જાણ કરવામાં આવી હતી અને મેટાની આંતરિક સિસ્ટમો તેને અગાઉની પોસ્ટ સાથે મેચ કરવામાં સક્ષમ હતી. વપરાશકર્તાએ તેને દૂર કરવાના નિર્ણયની અપીલ કરી હતી પરંતુ અપીલ “આપમેળે બંધ” થઈ ગઈ હતી. પછી વપરાશકર્તાએ ઓવરસાઇટ બોર્ડને અપીલ કરી, જેણે કેસને ધ્યાનમાં લેવા સંમત થયા.
એક નિવેદનમાં, ઓવરસાઇટ બોર્ડના સહ-અધ્યક્ષ હેલી થોર્નિંગ-શ્મિટે જણાવ્યું હતું કે મેટાની નીતિઓ કેવી રીતે લાગુ કરવામાં આવે છે તેમાં સંભવિત અસમાનતાનું મૂલ્યાંકન કરવા બોર્ડે વિવિધ દેશોમાંથી બે કેસ હાથ ધર્યા છે. “અમે જાણીએ છીએ કે મેટા અન્ય કરતા કેટલાક બજારો અને ભાષાઓમાં સામગ્રીને મધ્યસ્થ કરવા માટે ઝડપી અને વધુ અસરકારક છે,” થોર્નિંગ-શ્મિટે કહ્યું. “યુએસમાંથી એક અને ભારતમાંથી એક કેસ લઈને, અમે જોવા માંગીએ છીએ કે શું META વૈશ્વિક સ્તરે તમામ મહિલાઓને ન્યાયી રીતે સુરક્ષિત કરી રહ્યું છે.”
ઓવરસાઇટ બોર્ડ આગામી બે અઠવાડિયા માટે જાહેર ટિપ્પણી માંગી રહ્યું છે અને આગામી થોડા અઠવાડિયામાં META માટેની નીતિ ભલામણો સાથે તેનો નિર્ણય પ્રકાશિત કરશે. છેતરપિંડીથી સંપાદિત કરેલા વિડિયોને સમાવિષ્ટ કરતી સમાન પ્રક્રિયા તાજેતરમાં મેટા તેના પ્લેટફોર્મ પર વધુ AI-જનરેટેડ સામગ્રી માટે સંમત થવામાં પરિણમી છે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/metas-oversight-board-will-rule-on-ai-generated-sexual-images-100047138.html?src=rss પર દેખાયો હતો.