ડીપફેક છબીઓ પર ઇન્ડોનેશિયાએ મસ્કના AI ચેટબોટ ગ્રોકની ઍક્સેસને અવરોધિત કરી ↗
મહિલાઓ અને બાળકોને લક્ષ્ય બનાવતી છબીઓ સહિત - બિન-સહમતિ વિનાના જાતીય ડીપફેક જનરેટ કરવા માટે ઉપયોગમાં લેવાતા, ઇન્ડોનેશિયાએ ગ્રોકને અસ્થાયી રૂપે અવરોધિત કર્યું. સરકારે તેને માનવ અધિકારો અને જાહેર સલામતીના મુદ્દા તરીકે રજૂ કર્યો, નાની ટેક અસુવિધા તરીકે નહીં.
દબાણ બિંદુ સ્પષ્ટ છે: જો કોઈ સાધન આદેશ પર વાસ્તવિક લોકોને "કપડાં ઉતારી" શકે છે, તો પુરાવાનો ભાર પલટી જાય છે. પ્લેટફોર્મ્સે દર્શાવવું પડશે કે તેઓ તેને અટકાવી શકે છે, ફક્ત પ્રતિજ્ઞા લેવી પડશે નહીં કે તેઓ તેના વિશે વિચારી રહ્યા છે.
એલોન મસ્ક કહે છે કે યુકે વાણી સ્વાતંત્ર્યને દબાવવા માંગે છે કારણ કે X પર સંભવિત પ્રતિબંધનો સામનો કરવો પડી રહ્યો છે ↗
ગ્રોક દ્વારા સંમતિ વિના જાતીય રીતે સ્પષ્ટ છબીઓ જનરેટ કરવામાં આવ્યા બાદ યુકેના મંત્રીઓએ ખુલ્લેઆમ દંડ ફટકાર્યો - અને એક્સને પણ બ્લોક કર્યો -. મસ્કે પરિચિત વાણી સ્વતંત્રતા ફ્રેમિંગ સાથે પાછળ હટ્યા... પરંતુ યુકેમાં કાનૂની મુદ્રા "ડિબેટ ક્લબ" થી "પાલન સમયમર્યાદા" તરફ સરકી રહી છે
ઓફકોમને ઝડપથી આગળ વધવા માટે દબાણ કરવામાં આવી રહ્યું છે, અને કાયદા ઘડનારાઓ એ જ ભયાનક પેટર્ન તરફ ઈશારો કરી રહ્યા છે: એકવાર છબીઓ ફેલાઈ જાય, પછી નુકસાન નીતિ અપડેટ માટે ધીરજથી રાહ જોતું નથી.
🧑💻 OpenAI કથિત રીતે કોન્ટ્રાક્ટરોને ભૂતકાળની નોકરીઓમાંથી વાસ્તવિક કાર્ય અપલોડ કરવા કહી રહ્યું છે ↗
OpenAI, એક તાલીમ ડેટા ભાગીદાર સાથે મળીને, કોન્ટ્રાક્ટરોને ભૂતકાળ (અને વર્તમાન) નોકરીઓ - દસ્તાવેજો, સ્પ્રેડશીટ્સ, ડેક, રિપો - માંથી વાસ્તવિક કાર્ય કલાકૃતિઓ અપલોડ કરવા માટે કહી રહ્યું છે. જણાવેલ ધ્યેય ઓફિસ-પ્રકારના કાર્યોમાં AI એજન્ટોનું મૂલ્યાંકન અને સુધારણા કરવાનો છે.
ચીકણું થોડું સ્પષ્ટ છે, અને થોડું અવાસ્તવિક છે: કોન્ટ્રાક્ટરોને સંવેદનશીલ માહિતી જાતે જ સાફ કરવાનું કહેવામાં આવે છે. ઝડપથી આગળ વધતી પાઇપલાઇનમાં આટલો વિશ્વાસ મૂકવા જેવો છે - જેમ કે કોઈને પ્રેમથી ઓવન મીટ્સનો ઉપયોગ કરીને બોમ્બ ડિફ્યુઝ કરવાનું કહેવું.
🗂️ ઓપનએઆઈ કોન્ટ્રાક્ટરોને એઆઈ એજન્ટોના પ્રદર્શનનું મૂલ્યાંકન કરવા માટે ભૂતકાળની નોકરીઓમાંથી કામ અપલોડ કરવા કહી રહ્યું છે ↗
એક અલગ રિપોર્ટમાં આ જ સેટઅપ અને તે શા માટે ગોપનીયતા અને IP વકીલોને ચેતવણી આપે છે તે અંગે ચર્ચા કરવામાં આવી છે. ભલે દરેક વ્યક્તિ સદ્ભાવનાથી કામ કરી રહી હોય, વાસ્તવિક કોર્પોરેટ દસ્તાવેજો સાથે કામ કરતી વખતે "ગોપનીય સામગ્રી દૂર કરો" એ એક અસ્પષ્ટ સૂચના છે.
તે મોટી વ્યૂહરચના તરફ પણ સંકેત આપે છે: AI એજન્ટો હવે ફક્ત વાતોડિયા કો-પાયલોટ નથી રહ્યા - તેમને વાસ્તવિક કાર્યની ગૂંચવણભરી, બહુ-ફાઇલ વાસ્તવિકતાની નકલ કરવા માટે તાલીમ આપવામાં આવી રહી છે. વ્યવહારુ, હા. અને થોડું... અરેરે.
🏦 વીમામાં જવાબદાર AI ને આગળ વધારવા માટે આલિયાન્ઝ અને એન્થ્રોપિક ફોર્જ ગ્લોબલ પાર્ટનરશિપ ↗
આલિયાન્ઝ અને એન્થ્રોપિકે ત્રણ ટ્રેક પર કેન્દ્રિત વૈશ્વિક ભાગીદારીની જાહેરાત કરી: કર્મચારી ઉત્પાદકતા, એજન્ટિક AI દ્વારા ઓપરેશનલ ઓટોમેશન અને ડિઝાઇન દ્વારા પાલન. વીમો દાંત સાથે કાગળકામ છે, તેથી અહીં "એજન્ટિક" નો મૂળભૂત અર્થ ઓડિટ ટ્રેલ્સ ગુમાવ્યા વિના જટિલ વર્કફ્લોને સ્વચાલિત કરવાનો છે.
વાત એ છે કે: કૂલ ઓટોમેશન કરો, પણ રસીદો રાખો. નિયમન કરાયેલ ઉદ્યોગોમાં, જવાબદારી પિનાટામાં ફેરવાયા વિના આ એકમાત્ર રસ્તો છે.
🕵️♂️ X પર Grok AI ના જવાબમાં નિવેદન ↗
યુકે ડેટા પ્રોટેક્શન રેગ્યુલેટર કહે છે કે તેણે X અને xAI નો સંપર્ક કરીને સ્પષ્ટતા માંગી હતી કે તેઓ વ્યક્તિગત ડેટાને કેવી રીતે હેન્ડલ કરી રહ્યા છે અને લોકોના અધિકારોનું રક્ષણ કેવી રીતે કરી રહ્યા છે, કારણ કે ગ્રોક દ્વારા જનરેટ કરેલી સામગ્રીની ચિંતાઓ છે. તે ફક્ત "સામગ્રી મધ્યસ્થતા" જ નથી - તે એ પણ છે કે લોકોના ડેટા પર કાયદેસર રીતે પ્રક્રિયા કરવામાં આવી રહી છે કે નહીં, અને અધિકારોનું રક્ષણ કરવામાં આવી રહ્યું છે કે નહીં.
આ એક પ્રકારનું નિયમનકારી પગલું છે જે નમ્ર લાગે છે, પરંતુ જો જવાબો અસ્પષ્ટ આવે છે... અથવા ટાળી શકાય તેવું, અથવા બંને, તો તે શાંતિથી અત્યંત ગંભીર બની જાય છે.
વારંવાર પૂછાતા પ્રશ્નો
ઇન્ડોનેશિયાએ ગ્રોક એઆઈની ઍક્સેસ કેમ અવરોધિત કરી?
મહિલાઓ અને બાળકોને લક્ષ્ય બનાવતી છબીઓ સહિત, બિન-સહમતિ વિનાના જાતીય ડીપફેક જનરેટ કરવા માટે ઉપયોગમાં લેવાતા અહેવાલ બાદ ઇન્ડોનેશિયાએ ગ્રોકને અસ્થાયી રૂપે અવરોધિત કરી દીધું. અધિકારીઓએ આ પગલાને માનવ અધિકાર અને જાહેર સલામતીના મુદ્દા તરીકે રજૂ કર્યો, નાના ટેક વિવાદ તરીકે નહીં. અંતર્ગત સંદેશ એ છે કે "અમે તેને પછીથી ઠીક કરીશું" જ્યારે સાધનો તાત્કાલિક, બદલી ન શકાય તેવું નુકસાન પહોંચાડી શકે છે ત્યારે તે ઓછું પડે છે.
X પર ગ્રોક દ્વારા જનરેટ કરાયેલા ડીપફેક્સ દેખાયા પછી યુકે શું વિચારી રહ્યું છે?
સંમતિ વિના લૈંગિક રીતે સ્પષ્ટ છબીઓ બનાવવા માટે ગ્રોકનો ઉપયોગ કરવામાં આવ્યા બાદ યુકેના મંત્રીઓએ જાહેરમાં દંડ અને X ને અવરોધિત કરવાની શક્યતા અંગે ચર્ચા કરી. રાજકીય અને નિયમનકારી સ્વર ખુલ્લી ચર્ચા નહીં, પરંતુ અમલીકરણ યોગ્ય પાલન તરફ આગળ વધી રહ્યો છે. કાયદા ઘડનારાઓ જે મુદ્દા પર પાછા ફરતા રહે છે તે સમય છે: એકવાર છબીઓ ફેલાય પછી, પ્લેટફોર્મ અપડેટ કરેલી નીતિઓ પ્રકાશિત કરે તે પહેલાં પીડિતોને નુકસાનનો સામનો કરવો પડે છે.
જ્યારે નિયમનકારો AI ઇમેજ ટૂલ્સ માટે "પુરાવાના ભારને ઉલટાવે છે" ત્યારે તેનો શું અર્થ થાય છે?
"પ્રૂફ ફ્લિપ્સનો બોજ" નો વિચાર એ છે કે પ્લેટફોર્મ્સને ફક્ત ખાતરીપૂર્વકના રક્ષણાત્મક પગલાં લેવાને બદલે, ચોક્કસ નુકસાન - જેમ કે બિન-સહમતિ વિનાની "કપડા ઉતારવાની" છબીઓ બનાવવા - અટકાવવાની જરૂર પડી શકે છે તે બતાવવાની જરૂર પડી શકે છે. વ્યવહારમાં, આ કંપનીઓને સ્પષ્ટ નિયંત્રણો, માપી શકાય તેવા અમલીકરણ અને સ્પષ્ટ નિષ્ફળતા સંભાળવા તરફ ધકેલે છે. તે એ પણ સંકેત આપે છે કે "ઇરાદો" મૂર્ત પરિણામો અને પુનરાવર્તિત નિવારણ કરતાં ઓછો મહત્વપૂર્ણ છે.
પ્લેટફોર્મ્સ AI-જનરેટેડ બિન-સહમતિપૂર્ણ ડીપફેક્સનું જોખમ કેવી રીતે ઘટાડી શકે છે?
એક સામાન્ય અભિગમ સ્તરીય નિવારણ છે: વાસ્તવિક લોકો સાથે જોડાયેલા સંકેતો અને આઉટપુટને પ્રતિબંધિત કરો, "કપડાં ઉતારવા" શૈલી વિનંતીઓને અવરોધિત કરો, અને સંમતિ વિના જાતીય છબીઓ જનરેટ કરવાના પ્રયાસોને શોધો અને અટકાવો. ઘણી પાઇપલાઇન્સ દર મર્યાદા, મજબૂત ઓળખ અને દુરુપયોગ દેખરેખ અને સામગ્રી ફેલાય પછી ઝડપી દૂર કરવાના કાર્યપ્રવાહ ઉમેરે છે. ધ્યેય ફક્ત નીતિ ભાષા નથી, પરંતુ એવા સાધનો છે જે વિરોધી ઉપયોગ હેઠળ ટકી રહે છે.
ઓપનએઆઈના કોન્ટ્રાક્ટર વાસ્તવિક કામના દસ્તાવેજો અપલોડ કરવાથી ચિંતા કેમ વધી રહી છે?
અહેવાલો કહે છે કે OpenAI (એક તાલીમ ડેટા ભાગીદાર સાથે) કોન્ટ્રાક્ટરોને ઓફિસ-ટાસ્ક AI એજન્ટોનું મૂલ્યાંકન અને સુધારણા કરવા માટે વાસ્તવિક કાર્ય કલાકૃતિઓ - દસ્તાવેજો, સ્પ્રેડશીટ્સ, ડેક અને રિપો અપલોડ કરવા માટે કહી રહ્યું છે. ચિંતાની વાત એ છે કે કોન્ટ્રાક્ટરોને સંવેદનશીલ વિગતો જાતે જ સાફ કરવાનું કહેવામાં આવે છે, જે ભૂલ-સંભવિત હોઈ શકે છે. ગોપનીયતા અને IP વકીલો ચિંતા કરે છે કે આ "ગોપનીય સામગ્રી દૂર કરો" સૂચના વાસ્તવિક કોર્પોરેટ સામગ્રી માટે ખૂબ અસ્પષ્ટ છે.
વીમામાં "એજન્ટિક AI" પર એન્થ્રોપિક સાથે આલિયાન્ઝની ભાગીદારીનું શું મહત્વ છે?
આલિયાન્ઝ અને એન્થ્રોપિકે કર્મચારી ઉત્પાદકતા, એજન્ટિક AI નો ઉપયોગ કરીને ઓપરેશનલ ઓટોમેશન અને ડિઝાઇન દ્વારા પાલન પર કેન્દ્રિત વૈશ્વિક ભાગીદારીનું વર્ણન કર્યું. વીમા કાર્યપ્રવાહ જટિલ અને ભારે નિયંત્રિત છે, તેથી "એજન્ટિક" ઘણીવાર જવાબદારી ગુમાવ્યા વિના બહુ-પગલાંની પ્રક્રિયાઓને સ્વચાલિત કરવાનું સૂચવે છે. ઓડિટ ટ્રેલ્સ અને "રસીદો રાખો" પર ભાર એક વ્યવહારુ વાસ્તવિકતાને પ્રતિબિંબિત કરે છે: ઓટોમેશન ફક્ત ત્યારે જ નિયંત્રિત ઉદ્યોગોમાં માપવામાં આવે છે જ્યારે તે નિરીક્ષણ અને રક્ષણાત્મક રહે છે.