દાયકાઓથી ઇન્ટરનેટ પર સૌથી વિવાદાસ્પદ મુદ્દાઓમાંથી એક છે. આપેલ પ્લેટફોર્મ પર કઈ સામગ્રીને મંજૂરી આપવી જોઈએ તે નક્કી કરવાની સાથે સાથે વિષયવસ્તુને ધ્યાનમાં લેતા કોઈપણ વ્યક્તિ માટે તેનો સામનો કરવો મુશ્કેલ વિષય છે. નિર્માતા વિચારે છે કે તે મદદ કરી શકે છે અને સામગ્રી મધ્યસ્થતા કૌશલ્યોનું પરીક્ષણ કરી રહ્યું છે. તે મોટા મલ્ટિમોડલ મોડલ્સનો ઉપયોગ કરી રહ્યું છે “એક સામગ્રી મધ્યસ્થતા સિસ્ટમનું નિર્માણ કરવા જે માપી શકાય તેવું, સુસંગત અને કસ્ટમાઇઝ કરી શકાય તેવું છે.”
કંપની કહે છે કે GPT-4 માત્ર સામગ્રીના મધ્યસ્થતાના નિર્ણયોમાં મદદ કરી શકતું નથી, પરંતુ નીતિઓ વિકસાવવા અને નીતિ ફેરફારો પર ઝડપથી પુનરાવર્તિત પણ કરી શકે છે, “મહિનાથી કલાકો સુધીના ચક્રને ઘટાડીને.” તે દાવો કરે છે કે મોડેલ સામગ્રી નીતિઓમાં વિવિધ નિયમો અને ઘોંઘાટનું વિશ્લેષણ કરી શકે છે અને કોઈપણ અપડેટ્સને ઝડપથી સ્વીકારી શકે છે. OpenAI દાવો કરે છે કે આના પરિણામે સામગ્રીના વધુ સુસંગત લેબલિંગમાં પરિણમે છે.
OpenAI ના લિલિયન વેંગ, વિક ગોયલ અને “અમે માનીએ છીએ કે આ ડિજિટલ પ્લેટફોર્મના ભવિષ્ય વિશે વધુ સકારાત્મક દૃષ્ટિકોણ પ્રદાન કરે છે, જ્યાં AI પ્લેટફોર્મ-વિશિષ્ટ નીતિ અનુસાર ઓનલાઈન ટ્રાફિકને નિયંત્રિત કરવામાં મદદ કરી શકે છે અને મોટી સંખ્યામાં માનવ મધ્યસ્થીઓના માનસિક બોજને દૂર કરી શકે છે. ” એન્ડ્રીયા વાલોને લખ્યું. “OpenAI API ઍક્સેસ ધરાવતી કોઈપણ વ્યક્તિ પોતાની AI-સહાયિત મોડરેશન સિસ્ટમ બનાવવા માટે આ અભિગમનો અમલ કરી શકે છે.” OpenAI દાવો કરે છે કે GPT-4 મોડરેશન ટૂલ કંપનીઓને લગભગ છ મહિનાનું કામ એક દિવસમાં પૂર્ણ કરવામાં મદદ કરી શકે છે.
તે સારી રીતે દસ્તાવેજીકૃત કરવામાં આવ્યું છે કે આઘાતજનક સામગ્રીની જાતે સમીક્ષા કરવાથી માનવ મધ્યસ્થીઓના માનસિક સ્વાસ્થ્ય પર નોંધપાત્ર અસર પડી શકે છે, ખાસ કરીને જ્યારે તે ગ્રાફિક સામગ્રીની વાત આવે છે. 2020 માં, મેટાએ તેના 11,000 થી વધુ મધ્યસ્થીઓને ઓછામાં ઓછા $ 1,000 વળતરમાં માનસિક સ્વાસ્થ્ય સમસ્યાઓ માટે ચૂકવણી કરી જે ફેસબુક પર પોસ્ટ કરેલી સામગ્રીની સમીક્ષા કરવાથી ઊભી થઈ શકે છે.
દાયકાઓથી ઇન્ટરનેટ પર સૌથી વિવાદાસ્પદ મુદ્દાઓમાંથી એક છે. આપેલ પ્લેટફોર્મ પર કઈ સામગ્રીને મંજૂરી આપવી જોઈએ તે નક્કી કરવાની સાથે સાથે વિષયવસ્તુને ધ્યાનમાં લેતા કોઈપણ વ્યક્તિ માટે તેનો સામનો કરવો મુશ્કેલ વિષય છે. નિર્માતા વિચારે છે કે તે મદદ કરી શકે છે અને સામગ્રી મધ્યસ્થતા કૌશલ્યોનું પરીક્ષણ કરી રહ્યું છે. તે મોટા મલ્ટિમોડલ મોડલ્સનો ઉપયોગ કરી રહ્યું છે “એક સામગ્રી મધ્યસ્થતા સિસ્ટમનું નિર્માણ કરવા જે માપી શકાય તેવું, સુસંગત અને કસ્ટમાઇઝ કરી શકાય તેવું છે.”