ડેલ-ઇ અને સ્ટેબલ ડિફ્યુઝન માત્ર શરૂઆત હતી. જેમ જેમ જેનરિક AI સિસ્ટમો પ્રસરી રહી છે અને કંપનીઓ તેમના સ્પર્ધકોથી તેમની ઓફરને અલગ પાડવા માટે કામ કરે છે, ત્યારે સમગ્ર ઈન્ટરનેટ પરના ચેટબોટ્સ ઈમેજીસને સંપાદિત કરવાની તેમજ તેને બનાવવાની શક્તિ મેળવી રહ્યા છે – જેમાં શટરસ્ટોક અને એડોબ અગ્રણી છે. પરંતુ તે નવી AI-સશક્તિકરણ ક્ષમતાઓ સાથે પરિચિત મુશ્કેલીઓ પણ આવે છે, જેમ કે અસ્તિત્વમાં છે તે ઑનલાઇન આર્ટવર્ક અને છબીઓની અનધિકૃત મેનીપ્યુલેશન અથવા સંપૂર્ણ ચાંચિયાગીરી. વોટરમાર્કિંગ ટેક્નોલોજી બાદમાં ઘટાડવામાં મદદ કરી શકે છે, જ્યારે MIT સીસેલ દ્વારા વિકસાવવામાં આવેલી નવી “ફોટોગાર્ડ” ટેક્નોલોજી અગાઉને રોકવામાં મદદ કરી શકે છે.
PhotoGuard એ ઇમેજમાં પિક્સેલને પસંદગીયુક્ત રીતે બદલીને એવી રીતે કામ કરે છે કે તેઓ AI ની ઇમેજ શું છે તે સમજવાની ક્ષમતાને અવરોધે. તે “મુશ્કેલીઓ,” જેમ કે સંશોધન ટીમ તેનો ઉલ્લેખ કરે છે, તે માનવ આંખ માટે અદ્રશ્ય છે પરંતુ મશીનો દ્વારા સરળતાથી વાંચી શકાય છે. આ આર્ટિફેક્ટ્સને રજૂ કરવાની “એનકોડર” એટેક પદ્ધતિ એ લક્ષ્ય ઇમેજના મોડેલના સુપ્ત પ્રતિનિધિત્વને લક્ષ્યાંકિત કરે છે – જટિલ ગણિત જે ઇમેજમાં દરેક પિક્સેલની સ્થિતિ અને રંગનું વર્ણન કરે છે – અનિવાર્યપણે એઆઈને તે શું જોઈ રહ્યું છે તે સમજવાથી અટકાવે છે.
વધુ અદ્યતન, અને કોમ્પ્યુટેશનલી સઘન, “પ્રસરણ” હુમલો પદ્ધતિ AI ની નજરમાં એક અલગ છબી તરીકે છૂપાવે છે. તે લક્ષ્યની છબીને વ્યાખ્યાયિત કરશે અને તેના લક્ષ્ય સાથે વધુ સમાન બનવા માટે તેની છબીના વિક્ષેપને ઑપ્ટિમાઇઝ કરશે. કોઈપણ સંપાદન કે જે AI આ “રોગપ્રતિકારક” છબીઓ પર કરવાનો પ્રયાસ કરે છે તે સિમ્યુલેટેડ “લક્ષ્ય” છબીઓ પર લાગુ કરવામાં આવશે જે અવાસ્તવિક દેખાતી જનરેટ કરેલી છબી તરફ દોરી જશે.
“”એન્કોડર એટેક મોડલને એવું વિચારવા માટે યુક્તિ કરે છે કે ઇનપુટ ઇમેજ (એડિટ કરવાની) બીજી કોઇ ઇમેજ છે (ઉદાહરણ તરીકે ગ્રે ઇમેજ), “હાદી સલમાન, MIT ડોક્ટરલ સ્ટુડન્ટ અને પેપરના લીડ ઓથરે એન્ગેજેટને કહ્યું. “જ્યારે સ્પ્રેડ એટેક મોડલને અમુક ટાર્ગેટ ઇમેજ માટે એડિટીંગ કરવા માટે યુક્તિ કરે છે (જે કેટલીક ગ્રે પણ હોઈ શકે છે અથવા રેન્ડમ ઇમેજને ક્રોપિંગ ટેકનિક દ્વારા રેન્ડમ ઇમેજને સુરક્ષિત કરી શકાતી નથી). અથવા ચિત્રને ફ્લિપ કરીને, ડિજિટલ અવાજ ઉમેરીને કામ કરી શકે છે.
ડેલ-ઇ અને સ્ટેબલ ડિફ્યુઝન માત્ર શરૂઆત હતી. જેમ જેમ જેનરિક AI સિસ્ટમો પ્રસરી રહી છે અને કંપનીઓ તેમના સ્પર્ધકોથી તેમની ઓફરને અલગ પાડવા માટે કામ કરે છે, ત્યારે સમગ્ર ઈન્ટરનેટ પરના ચેટબોટ્સ ઈમેજીસને સંપાદિત કરવાની તેમજ તેને બનાવવાની શક્તિ મેળવી રહ્યા છે – જેમાં શટરસ્ટોક અને એડોબ અગ્રણી છે. પરંતુ તે નવી AI-સશક્તિકરણ ક્ષમતાઓ સાથે પરિચિત મુશ્કેલીઓ પણ આવે છે, જેમ કે અસ્તિત્વમાં છે તે ઑનલાઇન આર્ટવર્ક અને છબીઓની અનધિકૃત મેનીપ્યુલેશન અથવા સંપૂર્ણ ચાંચિયાગીરી. વોટરમાર્કિંગ ટેક્નોલોજી બાદમાં ઘટાડવામાં મદદ કરી શકે છે, જ્યારે MIT સીસેલ દ્વારા વિકસાવવામાં આવેલી નવી “ફોટોગાર્ડ” ટેક્નોલોજી અગાઉને રોકવામાં મદદ કરી શકે છે.