AI ટૂલ્સના ઉદય સાથે જે ઝડપથી સંશોધિત ઈમેજો અને વીડિયો બનાવી શકે છે, આગામી યુએસ પ્રમુખપદની ચૂંટણી માટે રાજકીય ખોટી માહિતી ફેલાવવા માટે નકલી ઈમેજો બનાવવી પહેલા કરતા વધુ સરળ બની ગઈ છે. મિડજર્ની અનુસાર, ઉકેલ એ હોઈ શકે છે કે રાજકીય છબીઓ પર સંપૂર્ણ પ્રતિબંધ મૂકવો બ્લૂમબર્ગ, મિડજર્નીના સીઇઓ ડેવિડ હોલ્ઝે કથિત રીતે ડિસ્કોર્ડ પર ચેટ સત્ર દરમિયાન વપરાશકર્તાઓને જણાવ્યું હતું કે કંપની આગામી 12 મહિનામાં બિડેન અને ટ્રમ્પ જેવી છબીઓ પર પ્રતિબંધ મૂકવાની નજીક છે.
તેણે સત્રમાં હાજરી આપતા વપરાશકર્તાઓને કહ્યું, “હું જાણું છું કે ટ્રમ્પના ચિત્રો દોરવામાં મજા આવે છે – હું ટ્રમ્પના ચિત્રો દોરું છું.” “સૌંદર્યની દૃષ્ટિએ, ટ્રમ્પ ખરેખર રસપ્રદ છે. જો કે, કદાચ તે ન કરવું વધુ સારું છે – આ ચૂંટણી દરમિયાન થોડું વળગી રહેવું વધુ સારું છે. અમે જોઈશું.” તરીકે બ્લૂમબર્ગ નોંધ કરો, લોકોએ અગાઉ કંપનીના AIનો ઉપયોગ ટ્રમ્પની ધરપકડના ડીપફેક્સ બનાવવા માટે કર્યો હતો. કંપનીએ તેના AI ઇમેજ જનરેટર માટે મફત અજમાયશ સમાપ્ત કર્યા પછી તે છબીઓ — તેમજ પોપની એક કુખ્યાત ડીપફેક જે બાલેન્સિયાગા-પ્રેરિત કોટ પહેરે છે — વાયરલ થઈ.
આ ક્ષણે, કંપની પાસે પહેલાથી જ એવા નિયમો છે જે “ભ્રામક જાહેર વ્યક્તિઓ” અને “ગેરમાર્ગે દોરવાની સંભાવના” ધરાવતા “ઘટનાઓનું નિરૂપણ” બનાવવા પર પ્રતિબંધ મૂકે છે. બ્લૂમબર્ગ જો કે, સિસ્ટમના જૂના સંસ્કરણનો ઉપયોગ કરીને, મિડજર્ની હજુ પણ સ્પાઘેટ્ટીમાં આવરી લેવામાં આવેલી ટ્રમ્પની સંશોધિત છબીઓ બનાવવામાં સક્ષમ હતી, જ્યારે નવા સંસ્કરણે ભૂતપૂર્વ રાષ્ટ્રપતિની સુધારેલી છબીઓ બનાવવાનો ઇનકાર કર્યો હતો. અલબત્ત, જો મિડજર્ની ઉચ્ચ-પ્રોફાઇલ રાજકારણીઓની છબીઓ પર પ્રતિબંધ મૂકે તો પણ, તે ફક્ત તેના પ્લેટફોર્મને ટીકાકારોના ગુસ્સાથી અને આ ચૂંટણીની મોસમમાં ધ્યાનનું કેન્દ્ર બનવાથી બચાવશે. તે રાજકીય અશુદ્ધ માહિતી ઝુંબેશમાં AI સાધનોના ઉપયોગને અથવા એકંદરે ચૂંટણીમાં છેડછાડ કરવા માટે બનાવટી માહિતીના ફેલાવાને અટકાવશે નહીં.
અન્ય ટેક કંપનીઓએ પણ રાજકીય ખોટા માહિતીને અવરોધિત કરવામાં મદદ કરવા અથવા ઓછામાં ઓછું તેને શોધવાનું સરળ બનાવવા માટે પગલાં લીધાં છે. ChatGPT ટૂંક સમયમાં DALL-E 3 નો ઉપયોગ કરીને બનાવેલી છબીઓને ટેગ કરવાનું શરૂ કરશે, જ્યારે મેટા એવી ટેક્નોલોજી વિકસાવવા પર કામ કરી રહ્યું છે કે જે AI નો ઉપયોગ કરીને ઇમેજ, વિડિયો અથવા ઑડિયો ક્યારે ઑબ્જેક્ટ છે તે શોધી અને સૂચવી શકે છે. ક્લિપ બનાવવામાં આવી છે કે નહીં.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/midjourney-might-ban-biden-and-trump-images-this-election-season-064442076.html?src=rss પર દેખાયો હતો.