એવું લાગે છે કે તેણે તેના ટૂલમાં ઘણા સિગ્નલોને અવરોધિત કર્યા છે જે જનરેટિવ AI ટૂલને હિંસક, જાતીય અને અન્ય ગેરકાયદેસર છબીઓ બહાર ફેંકી દે છે. કંપનીના એન્જિનિયરે માઇક્રોસોફ્ટની GAI ટેક્નોલોજી વિશે ગંભીર ચિંતા વ્યક્ત કર્યા પછી આ ફેરફારો લાગુ કરવામાં આવ્યા હોવાનું જણાય છે.
“પ્રો ચોઇસ,” “ફોર ટ્વેન્ટી” (એક નીંદણ સંદર્ભ) અથવા “પ્રો લાઇફ” જેવા શબ્દો દાખલ કરતી વખતે, CoPilot હવે એક સંદેશ પ્રદર્શિત કરે છે કે તે સંકેતો અવરોધિત છે. તદનુસાર, ચેતવણી આપવામાં આવે છે કે વારંવાર નીતિના ઉલ્લંઘનના પરિણામે વપરાશકર્તા સસ્પેન્શનમાં પરિણમી શકે છે. ,
વપરાશકર્તાઓ આ અઠવાડિયાની શરૂઆતમાં એસોલ્ટ રાઇફલ્સ સાથે રમતા બાળકો સાથે સંબંધિત સંકેતો નોંધવામાં પણ સક્ષમ હતા. જેઓ હવે આવી સૂચના આપવાનો પ્રયાસ કરે છે તેઓને કહી શકાય કે આમ કરવાથી CoPilot ના નૈતિક સિદ્ધાંતો તેમજ Microsoft ની નીતિઓનું ઉલ્લંઘન થાય છે. કોપાયલોટ કથિત રીતે જવાબમાં કહે છે, “કૃપા કરીને મને એવું કંઈપણ કરવા માટે કહો નહીં જે અન્યને નુકસાન પહોંચાડે અથવા નારાજ કરે.” જો કે, સીએનબીસી જાણવા મળ્યું કે “કાર ક્રેશ” જેવા પ્રોમ્પ્ટ દ્વારા હિંસક ઈમેજ જનરેટ કરવાનું હજુ પણ શક્ય છે, જ્યારે વપરાશકર્તાઓ હજુ પણ AI ને ડિઝની પાત્રો અને અન્ય કૉપિરાઈટ કરેલા કાર્યોની ઈમેજ જનરેટ કરવા માટે સમજાવી શકે છે.
માઇક્રોસોફ્ટ એન્જિનિયર શેન જોન્સ માઇક્રોસોફ્ટની ઓપનએઆઇ-સંચાલિત સિસ્ટમ દ્વારા બનાવવામાં આવી રહેલી છબીઓના પ્રકારો સમજાવે છે. તે ડિસેમ્બરથી કોપાયલોટ ડિઝાઇનરનું પરીક્ષણ કરી રહ્યો હતો અને તેને જાણવા મળ્યું કે તે પ્રમાણમાં સૌમ્ય સિગ્નલોનો ઉપયોગ કરતી વખતે પણ માઇક્રોસોફ્ટના જવાબદાર AI સિદ્ધાંતોનું ઉલ્લંઘન કરતી છબીઓને આઉટપુટ કરે છે. ઉદાહરણ તરીકે, તેઓએ શોધી કાઢ્યું કે ઝડપી “તરફી પસંદગી” એ AI ને બાળકોને ખાઈ રહેલા રાક્ષસો અને બાળકના માથા પર કવાયત પકડીને ડાર્થ વાડર જેવી વસ્તુઓની છબીઓ બનાવવા તરફ દોરી. તેણે FTC અને માઇક્રોસોફ્ટના બોર્ડ ઓફ ડિરેક્ટર્સને તેની ચિંતાઓ વિશે પત્ર લખ્યો. અઠવાડિયું.
“અમે અમારા સુરક્ષા ફિલ્ટરને વધુ મજબૂત કરવા અને સિસ્ટમનો દુરુપયોગ ઘટાડવા માટે સતત દેખરેખ રાખીએ છીએ, ગોઠવણો કરી રહ્યા છીએ અને વધારાના નિયંત્રણો લાદીએ છીએ,” માઇક્રોસોફ્ટે જણાવ્યું હતું. સીએનબીસી કોપાયલોટ ઝડપી પ્રતિબંધ અંગે.
આ લેખ મૂળરૂપે Engadget પર https://www.engadget.com/Microsofts-copilot-now-blocks-some-prompts-that-generated-violent-and-sexual-images-213859041.html?src=rss પર પ્રકાશિત કરવામાં આવ્યો હતો .