OctoML કહે છે કે તેણે તપાસના દિવસો બાદ સિવિટાસ સાથેના તેના વ્યવસાયિક સંબંધોનો અંત લાવી દીધો છે એવું જાણવા મળ્યું હતું કે ટેક્સ્ટ-ટુ-ઇમેજ પ્લેટફોર્મનો ઉપયોગ છબીઓ બનાવવા માટે કરવામાં આવી રહ્યો હતો જેને “બાળ પોર્નોગ્રાફી તરીકે વર્ગીકૃત કરી શકાય છે.” Civitai અગાઉ ઈમેજ જનરેશન માટે OctoML ના OctoAI પર આધાર રાખતી હતી. જ્યારે OctoML એ શરૂઆતમાં સંકેત આપ્યો હતો કે તે સિવીટી સાથે કામ કરવાનું ચાલુ રાખશે અને હાનિકારક ઈમેજોના સર્જનને રોકવા માટે નવા પગલાં રજૂ કરશે, શનિવારે કહ્યું કે તેણે હવે આ પ્લેટફોર્મ સાથે સંપૂર્ણ રીતે સંબંધ તોડવાનો નિર્ણય કર્યો છે.
અનુસાર 404 મીડિયા5 ડિસેમ્બરના અહેવાલમાં, આંતરિક સંદેશાવ્યવહાર દ્વારા બહાર આવ્યું હતું કે OctoML જાણતા હતા કે કેટલાક સિવીટી વપરાશકર્તાઓ લૈંગિક રીતે સ્પષ્ટ સામગ્રી બનાવી રહ્યા છે જેમાં વાસ્તવિક લોકોની બિન-સંમતિ વિનાની છબીઓ શામેલ છે. અને બાળકોનું અભદ્ર નિરૂપણ. આ સપ્તાહના અંતમાં એક ફોલોઅપ રિપોર્ટમાં, પ્રકાશનએ નોંધ્યું હતું કે OctoML એ બહાર નીકળવાના નિર્ણયની જાહેરાત કરતા પહેલા Civity પર તમામ NSFW સામગ્રીના જનરેશનને બ્લોક કરવા માટે એક ફિલ્ટર બહાર પાડ્યું હતું. Civitai એ આ અઠવાડિયાની શરૂઆતમાં તપાસના જવાબમાં નવી મધ્યસ્થતા પદ્ધતિઓ પણ ઉમેરી, જેમાં Civitai Safe Helper (Miner) નામના ફરજિયાત એમ્બેડિંગનો સમાવેશ થાય છે, જે મોડેલને બાળકોની છબીઓ બનાવવાથી અટકાવે છે “જ્યારે પુખ્ત વિષયો અથવા કીવર્ડ્સ શોધાય છે.” અટકે છે. 404,
એન્ડ્રીસેન હોરોવિટ્ઝ-સમર્થિત સિવીટીએ અગાઉ વપરાશકર્તાઓને ઇનામ માટે વાસ્તવિક લોકોની વાસ્તવિક છબીઓ બનાવવા માટે પડકાર ફેંક્યો હતો. નવેમ્બરમાં, જાણવા મળ્યું કે તેનો ઉપયોગ સેલિબ્રિટીઓ, પ્રભાવકો અને ખાનગી નાગરિકોના બિન-સહમતિ વિનાના ડીપફેક બનાવવા માટે કરવામાં આવી રહ્યો છે, જે ઘણા કિસ્સાઓમાં જાતીય સ્વભાવના હતા. વિષયોમાં મુખ્યત્વે મહિલાઓ હતી. અનુસાર 404 મીડિયાત્યારથી Civitai એ “ચોક્કસ” હસ્તીઓ દર્શાવતી NSFW સામગ્રીના નિર્માણને રોકવા માટે ફિલ્ટર ઉમેર્યું છે.
તેમ છતાં, OctoML – જે એમેઝોન વેબ સર્વિસના સર્વર્સનો ઉપયોગ કરે છે – હવે તેમાં સામેલ થવા માંગતું નથી. માટે એક નિવેદનમાં 404 મીડિયા શનિવારે, OctoMLએ જણાવ્યું હતું કે, “અમે સિવીટી સાથેના અમારા વ્યવસાયિક સંબંધોને સમાપ્ત કરવાનો નિર્ણય લીધો છે. આ નિર્ણય AI ના સલામત અને જવાબદાર ઉપયોગની ખાતરી કરવા માટેની અમારી પ્રતિબદ્ધતા સાથે સુસંગત છે.
આ લેખ મૂળ રૂપે Engadget પર દેખાયો https://www.engadget.com/controversial-ai-image-platform-civitai-has-been-dropped-by-its-cloud-computing-provider-195530538.html?src=rss પ્રકાશિત ચાલુ