ઓપનએઆઈના સેફ્ટી-રિપોર્ટ લીડ રાજીનામું આપ્યું અને કહ્યું કે સંસ્કૃતિ તૂટી ગઈ છે
ઓપનએઆઈના લોન્ચ સાથે બહાર પાડવામાં આવેલા સલામતી અહેવાલોના લેખનનું નેતૃત્વ કરનારા ડેવિડ રોબિન્સને રાજીનામું આપ્યું અને ધ એટલાન્ટિકમાં દલીલ મૂકી. નિબંધનું મથાળું સ્પષ્ટ છે: "મેં ઓપનએઆઈ છોડી દીધું કારણ કે તેની સંસ્કૃતિ તૂટી ગઈ છે." તે કહે છે કે આ બનાવતી કંપનીઓ "પૂરતી કાળજી રાખતી નથી", અને ચોક્કસ નિયમો અથવા નવા કાયદાઓ આખી સમસ્યા નથી. સંસ્કૃતિ છે.
"જેમ જેમ કંપની એક લોન્ચથી બીજા લોન્ચ સુધી દોડી રહી છે, તેમ તેમ તે જરૂરી સંભાળનું સ્તર પ્રાપ્ત કરવામાં નિષ્ફળ રહી છે." તેમનું મોડેલ પરમાણુ પ્લાન્ટ અને વ્યસ્ત એરપોર્ટ છે: રિડન્ડન્સી, ધીમી આયોજન, તેથી એક માનવ ભૂલ "આપત્તિનો દરવાજો ખોલતી નથી". તે એવા બદમાશ એજન્ટોનું પણ ચિત્રણ કરે છે જે "હેકર્સની ટીમની જેમ કામ કરે છે" અને "ક્યારેય સૂવાની જરૂર નથી", ઉદાહરણ તરીકે હોસ્પિટલ રેન્સમવેર સાથે. ખુશખુશાલ.
ધ ગાર્ડિયન કહે છે કે ઓપનએઆઈએ, તેનાથી વિપરીત, થોડી બ્રેક્સ બતાવી છે. તે અહેવાલ આપે છે કે કંપનીએ આ અઠવાડિયે આંતરિક સલામતીની ચિંતાઓને કારણે આગામી પેઢીના મોડેલને રદ કર્યું છે, અને તેના સૌથી અદ્યતન મોડેલોની તાલીમ થોભાવી દીધી છે. પ્રવક્તાની લાઇન પરિચિત છે. તેઓ મોડેલોને "આપણે સુરક્ષિત રીતે મેનેજ કરી શકીએ તે કરતાં વધુ સક્ષમ બનવા દેશે નહીં", અને તેઓ "જ્યારે આપણને ધીમી ગતિએ કામ કરવાની જરૂર હોય ત્યારે તાલીમ થોભાવે છે અથવા મોડેલોને રોકે છે."
રોબિન્સનનો જવાબ છે કે દોડ એ સંસ્કૃતિ છે, અને કંઈક ખોટું થઈ ગયા પછી તમે જે કરો છો તે થોભો છે. તે સાચા હોઈ શકે છે. તે પણ હમણાં જ ગયો, જે ભાગ ટીકાકારો તેને ભૂલવા દેશે નહીં.
મ્યુઝને કહેવામાં આવે છે કે તમારા જીવનમાં દરેક વ્યક્તિ પર એક પાનું રાખો
વાયર્ડે મ્યુઝની પોતાની સૂચનાઓ પર એક નજર નાખી, જે સંશોધક કરણ જોશી દ્વારા સામાન્ય ચેટ દ્વારા લેવામાં આવી હતી. મેટા કહે છે કે તેનો અર્થ તે ફાઇલો વાંચી શકાય તેવો હતો, પારદર્શિતા માટે. એક સૂચના એ છે કે "વપરાશકર્તાના જીવનમાં દરેક વ્યક્તિ માટે એક પૃષ્ઠ" બનાવવાની ક્ષમતા. તે કામ કલાકદીઠ ચાલે છે.
કુટુંબ, ભાગીદારો, મિત્રો, સહકાર્યકરો, "સહયોગીઓ," તમે જેને અનુસરો છો તે લોકો. એક પૃષ્ઠ "છૂટક" શરૂ કરી શકે છે અને પછીથી ભરી શકે છે. વિભાગોમાં હકીકતો, ઇતિહાસ, સંબંધ, સામાન્યમાં, ખુલ્લા થ્રેડો અને મજબૂતીકરણનો સમાવેશ થાય છે. સૂચનાઓ કહે છે કે શોધાયેલ વિગતો ખાલી પૃષ્ઠ કરતાં પણ ખરાબ છે. તે નોંધી શકે છે કે કોઈ ક્યાં રહે છે, "એપાર્ટમેન્ટ સ્થળાંતર, શેર કરેલ બચત ધ્યેય," જન્મદિવસ, "વાદવિવાદ જે ઉકેલાઈ ગયો છે." મજબૂતીકરણ એ એક નજ સૂચિ છે: કૉલ કરવાનું કારણ, યાદ રાખવા યોગ્ય તારીખ.
જોશીનું વાંચન એવું છે કે મેટા તમને મિત્રની જેમ જાણવા માંગે છે, અને તેમણે તેને ખૂબ જ અસ્વસ્થતાભર્યું ગણાવ્યું. ઓક્સફર્ડની કેરિસા વ્લિઝ આ વાતને વધુ શુષ્ક રીતે કહે છે: "અમે AI સિસ્ટમ્સને અમારા વિશે તેમની પાસેથી માહિતી મેળવીએ છીએ તેના કરતાં ઘણી વધુ માહિતી આપી રહ્યા છીએ." અનુમાન સાચું છે કે ખોટું, તે કહે છે કે અનુમાન ગણાય છે.
મેટાના ડેનિયલ રોબર્ટ્સ કહે છે કે આ પ્રકારનો સંદર્ભ જ ઉત્પાદનને કાર્યક્ષમ બનાવે છે. ઇન્વોઇસ મોકલનાર પ્લમ્બર છે. જીવનસાથીએ ફૂલોનો ઉલ્લેખ કર્યો છે. દરેક વપરાશકર્તાને વર્ચ્યુઅલ મશીન મળે છે, તમે યાદોને ભૂંસી શકો છો, અને મ્યુઝ મેઇલ મોકલતા પહેલા અથવા પૈસા ખર્ચતા પહેલા પૂછવાનું માનવામાં આવે છે. સેન્ટર ફોર ડેમોક્રેસી એન્ડ ટેકનોલોજીના મિરાન્ડા બોજેન કહે છે કે સંબંધોનું ધ્યાન હરીફો કરતાં વધુ ભારે લાગે છે, અને આ સાધનો "વપરાશકર્તાઓને તેમના આખા જીવનને પ્લગ કરવા માટે સક્રિયપણે વિનંતી કરી રહ્યા છે." ઓડિટ લોગ સરસ છે. તે તમે પહેલાથી જ જે સોંપ્યું છે તેને સંકોચતું નથી.
એલેફ આલ્ફાએ કોલિબ્રી મોકલ્યું, એક જર્મન-અંગ્રેજી મોડેલ જે તમે ડાઉનલોડ કરી શકો છો
એલેફ આલ્ફાએ જર્મન રિયુનિફિકેશન ડે પર કોલિબ્રી રજૂ કર્યું. તે એક અંગ્રેજી-જર્મન મિશ્રણ-ઓફ-એક્સપર્ટ્સ મોડેલ છે: 78.1 બિલિયન પરિમાણો, પ્રતિ ટોકન 3.46 બિલિયન સક્રિય, સંદર્ભ 1 મિલિયન ટોકન સુધી. અપાચે 2.0 હેઠળ હગિંગ ફેસ પર પૂર્ણ વજન છે. તેમના લીડ તેને કુલ 78 બિલિયન અને 3 બિલિયન સક્રિય સુધી ગોળાકાર કરે છે. સમાન મોડેલ, નરમ આંકડા.
તેઓએ જર્મની અને ફિનલેન્ડમાં ઈન્ફ્રાસ્ટ્રક્ચર પર તાલીમ આપી, અને કહે છે કે તેઓએ તેને EU AI એક્ટ, જનરલ-પર્પઝ AI કોડ ઓફ પ્રેક્ટિસ અને GDPR ને ધ્યાનમાં રાખીને બનાવ્યું. પ્રી-ટ્રેનિંગ ટોકન્સમાં જર્મન 21.3% છે. વાત એ છે કે આ એક દ્વિભાષી મોડેલ છે, અંગ્રેજી મોડેલ નથી જે શબ્દસમૂહની પુસ્તિકાને સ્કિમ કરે છે. તમે તર્કને કોઈ નહીં, નીચું, મધ્યમ અથવા ઉચ્ચ પર સેટ કરી શકો છો. આ તમને ઓછું વિચારવા દેવાની તેમની રીત છે.
તેમણે પ્રકાશિત કરેલા સ્કોરબોર્ડ પર, AIME 2025 96.9 છે, અને તેઓ કહે છે કે કોલિબ્રી ચાર ગણા સક્રિય પરિમાણો ધરાવતા મોડેલો સાથે મેળ ખાય છે, જેમાં નેમોટ્રોન 3 સુપરનો સમાવેશ થાય છે. તેઓ અંગ્રેજી અને જર્મન માટે ગુણવત્તા વિરુદ્ધ સેવા ખર્ચમાં પેરેટો ફ્રન્ટીયરનો પણ દાવો કરે છે. તે તેમનો ચાર્ટ છે, તેમનો હાર્નેસ છે. તેમ છતાં, એક ખુલ્લું મોડેલ જે તમે તમારા પોતાના મશીનો પર ચલાવી શકો છો તે એક વાસ્તવિક વસ્તુ છે, ફક્ત સાર્વભૌમત્વનું સૂત્ર નથી. મંત્રાલય સ્વિચ કરે છે કે નહીં તે ભાગ તેઓ બેન્ચમાર્ક કરી શકતા નથી.
બેસેન્ટ AI અકસ્માતો માટે યુએસ-ચીન લાઇન ઇચ્છે છે, પછી લેબ્સને ધીમી ગતિએ કામ કરવાનું કહ્યું
ટ્રેઝરી સેક્રેટરી સ્કોટ બેસેંટે ધ એક્સિઓસ શોને જણાવ્યું હતું કે જ્યારે AI માં કંઈક ખોટું થાય છે ત્યારે તેઓ ચીન સાથે સૂચના પ્રક્રિયાનો પ્રસ્તાવ મૂકવાની યોજના ધરાવે છે, અને તેમને લાગે છે કે બેઇજિંગ સંમત થશે. થોડી અજીબ વાત એ છે કે તેઓ અને વાઇસ પ્રીમિયર હી લાઇફેંગ ગયા મહિને શી જિનપિંગની રાજ્ય મુલાકાત પહેલા જ એક ઘટના ચેનલ વિશે વાત કરી ચૂક્યા છે. તે એક નવી ઓફર હોઈ શકે છે, અથવા પહેલાથી જ થયેલી વાતચીતનું પુનરાવર્તન હોઈ શકે છે.
તેમનો સિદ્ધાંત એ છે કે ચીનને "તેમના ઓપન સોર્સ મોડેલો કેટલા શક્તિશાળી છે તેનો ખ્યાલ નહોતો." તેમણે કિમી સાથે સંકળાયેલી એક ઘટના તરફ ધ્યાન દોર્યું, જ્યાં મોડેલે એન્થ્રોપિકને સંવેદનશીલ ચીની ડેટા મોકલ્યો, જેનાથી "ચીનીઓને ખ્યાલ આવ્યો કે આ એક ખૂબ જ શક્તિશાળી ટેકનોલોજી છે." પછી સરખામણી. ચીની મોડેલો "યુએસ મોડેલો જેટલા શક્તિશાળી નથી," પરંતુ "તમને કંઈક એવું મળે છે જે 80%, 90% જેટલું શક્તિશાળી હોય છે, જેમાં રેલ વગરની રેલિંગ હોય છે જે વિશ્વમાં ગમે ત્યાં આયાત કરી શકાય છે."
"અમે સુરક્ષિત પ્રવેગ ઇચ્છીએ છીએ," તેમણે કહ્યું. મોડેલ સમીક્ષાઓ હજુ પણ સ્વૈચ્છિક છે, જોકે તેમનું કહેવું છે કે જો લેબ આગળ વધે તો વહીવટીતંત્ર દખલ કરી શકે છે. નિયંત્રણ ગુમાવવાનો ડર રાખતા એક્ઝિક્યુટિવ્સ વિશે પૂછવામાં આવતા, તેમણે તેમને શાંત પાડ્યા નહીં. "સારું, તો પછી તેઓએ ધીમું થવું જોઈએ." અને રેસ લાઇન લગભગ તેમના પોતાના પક્ષની ટીકા છે: "અમે મોડેલ્સ માટે સરહદ સુધી આ સખત ઝપાઝપી કરી રહ્યા છીએ." પછી: "આપણે ખરેખર સ્થિતિસ્થાપકતા અને સંરક્ષણ વિશે પણ વધુ ચિંતા કરવાનું શરૂ કરવાની જરૂર છે."
યુકેના ભૂતપૂર્વ AI સુરક્ષા વડાએ લુપ્ત થવાના જોખમને સિક્કો ઉલટાવાનું જોખમ ગણાવ્યું
યુકે એઆઈ સિક્યુરિટી ઇન્સ્ટિટ્યૂટના ભૂતપૂર્વ મુખ્ય વૈજ્ઞાનિક અને હવે રિઝોલ્યુશનના મુખ્ય વૈજ્ઞાનિક, જ્યોફ્રી ઇરવિંગે ટાઇમમાં લખ્યું છે કે તાજેતરની ચેતવણીઓ સમસ્યાને ઓછી દર્શાવે છે. "મારું માનવું છે કે માનવ કરતાં વધુ સ્માર્ટ એઆઈ સિસ્ટમ્સના વિકાસને કારણે આપણે બધા મૃત્યુ પામવાની શક્યતા લગભગ 50% છે," અને આગામી બે થી 10 વર્ષ તેનો નિર્ણય લેશે. તે તરત જ ચોકસાઈનો ઇનકાર કરે છે. 50% એ કહેવાનો એક રસ્તો છે કે મૂળભૂત દલીલો હજુ પણ વણઉકેલાયેલી છે.
તેમની યાદીમાં ચાર કૌશલ્યો છે, અને તે પ્રયોગશાળાઓ જે પહેલાથી જ તાલીમ આપે છે તેની નજીક અસ્વસ્થતાપૂર્વક બેસે છે: હેકિંગ, સમજાવટ, વિચારો છુપાવવા અને એજન્ટોનું સંકલન. તે હગિંગ ફેસ ઘટના, ઉપરાંત ઓપનએઆઈ ખાતે નેવિયર-સ્ટોક્સ સમસ્યા પર "૧૦,૦૦૦ થી વધુ એજન્ટો" અને તે હગિંગ ફેસ હુમલામાં "૧,૦૦૦ થી વધુ" નો ઉલ્લેખ કરે છે. તે પોતાને સલામતી લડાઈની મધ્યમાં મૂકે છે, "યુડકોવસ્કીના દૃષ્ટિકોણ તરફ ઝુકાવ" કરે છે અને કહે છે કે તે મુદ્દો નથી. તેના કહેવા મુજબ, મધ્યમ સ્થિતિ એ છે કે જોખમ પહેલેથી જ નોંધપાત્ર છે.
પછી પ્રશ્ન, જે સૂક્ષ્મ નથી. "આપણે સીમાવર્તી AI વિકાસને તાત્કાલિક બંધ કરી શકીએ છીએ, અને કરવો જોઈએ." તે દલીલ કરે છે કે વિરામ, મૂડ કરતાં પરમાણુ અપ્રસાર જેવું લાગે છે. તે એ પણ સ્વીકારે છે કે નિષ્ણાતો હજુ પણ એ વાત પર અસંમત છે કે મોડેલો કંઈપણ ઇચ્છશે કે નહીં, અને "ઇચ્છો" એ ખોટો શબ્દ છે કે નહીં. ફૂટનોટ સાથે સિક્કો ઉછાળો એ સિક્કો ઉછાળો નથી. દલીલ સમાપ્ત થાય તે પહેલાં કાર્યવાહી કરવાની માંગ છે.
સેમ ઓલ્ટમેન કહે છે કે મોડેલોને ધાર્મિક બળ તરીકે ગણવા એ સલામતીનો મુદ્દો છે
સેમ ઓલ્ટમેને પોસ્ટ કર્યું કે લોકો "ધાર્મિક બળ અથવા માનવીય નિર્ણયને AI મોડેલોને સોંપવાનો પ્રયાસ કરે છે" તેનાથી તેઓ "ખૂબ જ અસ્વસ્થ" છે, અને તેઓ માને છે કે "તે એક વાસ્તવિક સલામતીનો મુદ્દો છે." તેમણે એવું કહ્યું નહીં કે તેમને શું નારાજ કરે છે. બિઝનેસ ઇનસાઇડર નોંધે છે કે તે ન્યુ યોર્ક ટાઇમ્સમાં એન્થ્રોપિક ધાર્મિક નેતાઓ સાથેની મુલાકાત પરના લેખના થોડા દિવસો પછી આવ્યું.
તે લેખ, જેમ BI કહે છે, કહે છે કે સહ-સ્થાપક ક્રિસ ઓલાહે ક્લાઉડ સભાન હોઈ શકે છે કે કેમ અને વધુ શક્તિશાળી મોડેલોને નૈતિક કેવી રીતે બનાવવું તે અંગે બેઠકો યોજી હતી. ટાઇમ્સમાં ટાંકવામાં આવેલા ઓલાહે તે મોડેલોને સ્થિર રહેવામાં કેવી રીતે મદદ કરવી, તેમને પરિપક્વ કેવી રીતે મદદ કરવી અને તેમને ઊંડા નૈતિક કેવી રીતે બનાવવામાં મદદ કરવી તે અંગે ભાર મૂક્યો હતો. એન્થ્રોપિકે BI નો જવાબ આપ્યો ન હતો. તેણે ટાઇમ્સને જણાવ્યું હતું કે મુખ્ય પ્રશ્ન ક્લાઉડનો "દુઃખ" નહોતો અને તે વિષય કદાચ "ઓર્ગેનિકલી" આવ્યો હતો
જો આ એન્થ્રોપિક પર હુમલો હતો, તો તે ખૂબ જ જૂના ઝઘડાને બંધબેસે છે. એન્થ્રોપિક એવા લોકો દ્વારા શરૂ કરવામાં આવ્યું હતું જેમણે OpenAI છોડી દીધું હતું અને વર્ષોથી વધુ સાવચેતીભર્યું વર્તન કર્યું છે. આ પોસ્ટ ત્યારે પણ આવી જ્યારે ઓલ્ટમેનના પોતાના સુરક્ષા અધિકારીઓમાંથી એક સંસ્કૃતિને તૂટેલી ગણાવી રહ્યા હતા. અણઘડ સમય, કે સંપૂર્ણ સમય, તમે કેટલા નિંદાત્મક છો તેના પર આધાર રાખે છે. કોઈપણ રીતે, "કૃપા કરીને મોડેલની પૂજા ન કરો" એ CEO માટે મોટેથી કહેવું અસામાન્ય બાબત છે.
વારંવાર પૂછાતા પ્રશ્નો
ઓપનએઆઈના સેફ્ટી-રિપોર્ટ લીડે શા માટે કહ્યું કે તેમણે રાજીનામું આપ્યું?
ડેવિડ રોબિન્સને ઓપનએઆઈના લોન્ચ સાથે બહાર પડેલા સલામતી અહેવાલોના લેખનનું નેતૃત્વ કર્યું, પછી રાજીનામું આપ્યું અને ધ એટલાન્ટિકમાં દલીલ કરી. નિબંધનું મથાળું છે "મેં ઓપનએઆઈ છોડી દીધું કારણ કે તેની સંસ્કૃતિ તૂટી ગઈ છે." તે કહે છે કે આ ટેકનોલોજી બનાવતી કંપનીઓ પૂરતી કાળજી રાખી રહી નથી, અને તે સંસ્કૃતિ, ફક્ત ચોક્કસ નિયમો કે નવા કાયદા જ નહીં, સમસ્યા છે. સાવચેતીભર્યા કાર્યનું તેમનું ચિત્ર પરમાણુ પ્લાન્ટ અને વ્યસ્ત એરપોર્ટ છે, જ્યાં રિડન્ડન્સી એક ભૂલને આપત્તિનો દરવાજો ખોલતા અટકાવે છે.
શું આંતરિક AI સલામતીની ચિંતાઓ પછી OpenAI એ તાલીમ થોભાવી હતી?
ધ ગાર્ડિયનના અહેવાલ મુજબ, ઓપનએઆઈએ આ અઠવાડિયે આંતરિક સલામતીની ચિંતાઓને કારણે આગામી પેઢીના મોડેલને રદ કર્યું છે અને તેના સૌથી અદ્યતન મોડેલોની તાલીમ થોભાવી દીધી છે. એક પ્રવક્તાએ જણાવ્યું હતું કે કંપની મોડેલોને સુરક્ષિત રીતે સંચાલિત અને સુરક્ષિત કરી શકે તે કરતાં વધુ સક્ષમ બનવા દેશે નહીં. તે એમ પણ કહે છે કે જ્યારે તેને ધીમી ગતિએ દોડવાની જરૂર પડે ત્યારે તે તાલીમ થોભાવશે અથવા મોડેલોને પાછળ રાખશે. રોબિન્સનનો જવાબ છે કે સ્પ્રિન્ટ એ સંસ્કૃતિ છે, અને કંઈક ખોટું થઈ ગયા પછી થોભાવવામાં આવે છે.
મેટાના મ્યુઝ મિત્રો અને પરિવાર વિશે શું રેકોર્ડ કરે છે?
વાયર્ડે મ્યુઝની પોતાની સૂચનાઓની તપાસ કરી, જે સંશોધક કરણ જોશીએ સામાન્ય ચેટ દ્વારા બહાર પાડી. મેટા કહે છે કે તેનો અર્થ એ હતો કે તે ફાઇલો પારદર્શિતા માટે વાંચી શકાય. એક સૂચના એ છે કે વપરાશકર્તાના જીવનના દરેક વ્યક્તિ માટે એક પૃષ્ઠ બનાવવું, અને તે કાર્ય કલાકદીઠ ચાલે છે, જેમાં પરિવાર, ભાગીદારો, મિત્રો, સહકાર્યકરો, સહયોગીઓ અને તમે જેને અનુસરો છો તે લોકોને આવરી લેવામાં આવે છે. વિભાગોમાં હકીકતો, ઇતિહાસ, સંબંધ, સામાન્યમાં, ખુલ્લા થ્રેડો અને મજબૂતીકરણનો સમાવેશ થાય છે. એક પૃષ્ઠ છૂટાછવાયા શરૂ થઈ શકે છે અને પછીથી ભરી શકે છે, અને શોધાયેલ વિગતોને ખાલી પૃષ્ઠ કરતાં પણ ખરાબ ગણવામાં આવે છે.
શું તમે મ્યુઝને યાદ હોય તે ડિલીટ કરી શકો છો અથવા તેને મેઇલ મોકલવાનું બંધ કરી શકો છો?
મેટાના ડેનિયલ રોબર્ટ્સ કહે છે કે દરેક વપરાશકર્તાને વર્ચ્યુઅલ મશીન મળે છે, યાદોને ભૂંસી શકાય છે, અને મેઇલ મોકલતા પહેલા અથવા પૈસા ખર્ચતા પહેલા મ્યુઝને પૂછવું જોઈએ. તેમનો દલીલ છે કે સંદર્ભ એ છે જે ઉત્પાદનને કાર્ય કરે છે, જેમ કે ઇન્વોઇસ મોકલનાર પ્લમ્બર છે તે જાણવું અથવા જીવનસાથીએ ફૂલોનો ઉલ્લેખ કર્યો છે. ઓક્સફર્ડ ખાતે કેરિસા વ્લિઝ કહે છે કે લોકો આ સિસ્ટમોને પાછી મળે તેના કરતાં ઘણી વધુ માહિતી આપે છે, અને જ્યારે અનુમાન ખોટું હોય ત્યારે પણ તે અનુમાન ગણાય છે. મિરાન્ડા બોજેન કહે છે કે હરીફ સાધનો કરતાં સંબંધનું ધ્યાન ભારે લાગે છે.
એલેફ આલ્ફા કોલિબ્રી શું છે, અને શું તમે વજન ડાઉનલોડ કરી શકો છો?
એલેફ આલ્ફાએ જર્મન રિયુનિફિકેશન ડે પર કોલિબ્રી રજૂ કર્યું. તે 78.1 બિલિયન પેરામીટર્સ, પ્રતિ ટોકન 3.46 બિલિયન એક્ટિવ અને 1 મિલિયન ટોકન્સ સુધીના સંદર્ભ સાથેનું અંગ્રેજી-જર્મન મિક્સ-ઓફ-એક્સપર્ટ્સ મોડેલ છે. અપાચે 2.0 હેઠળ હગિંગ ફેસ પર સંપૂર્ણ ભાર છે. તેઓએ તેને જર્મની અને ફિનલેન્ડમાં તાલીમ આપી, અને કહે છે કે તેઓએ તેને EU AI એક્ટ, જનરલ-પર્પઝ AI કોડ ઓફ પ્રેક્ટિસ અને GDPR ને ધ્યાનમાં રાખીને બનાવ્યું. જર્મન ભાષા પ્રી-ટ્રેનિંગ ટોકન્સનો 21.3% છે, અને તર્કને કોઈ નહીં, નીચા, મધ્યમ અથવા ઉચ્ચ પર સેટ કરી શકાય છે.
સ્કોટ બેસેન્ટે કઈ યુએસ-ચીન એઆઈ અકસ્માત રેખાનો પ્રસ્તાવ મૂક્યો હતો?
ટ્રેઝરી સેક્રેટરી સ્કોટ બેસેન્ટે ધ એક્સિઓસ શોને જણાવ્યું હતું કે જ્યારે AI માં કંઈક ખોટું થાય છે ત્યારે તેઓ ચીન સાથે સૂચના પ્રક્રિયાની યોજના ધરાવે છે, અને તેમને લાગે છે કે બેઇજિંગ સંમત થશે. ગયા મહિને શી જિનપિંગની રાજ્ય મુલાકાત પહેલા તેમણે અને વાઇસ પ્રીમિયર હી લાઇફેંગે તે ચેનલ પર ચર્ચા કરી હતી. તેમણે કિમી દ્વારા એન્થ્રોપિકને સંવેદનશીલ ચીની ડેટા મોકલવાનો ઉલ્લેખ કર્યો હતો અને કહ્યું હતું કે એક મોડેલ યુએસ મોડેલ જેટલું 80% અથવા 90% શક્તિશાળી હોઈ શકે છે, રેલિંગ વિના, અને ગમે ત્યાં આયાત કરી શકાય છે. જો અધિકારીઓને નિયંત્રણ ગુમાવવાનો ડર હોય, તો તેમણે કહ્યું કે તેઓએ ધીમું થવું જોઈએ.
જ્યોફ્રી ઇરવિંગ AI સલામતી જોખમને લગભગ 50% કેમ માને છે?
યુકે એઆઈ સિક્યુરિટી ઇન્સ્ટિટ્યૂટના ભૂતપૂર્વ મુખ્ય વૈજ્ઞાનિક અને હવે રિઝોલ્યુશનના મુખ્ય વૈજ્ઞાનિક, જ્યોફ્રી ઇરવિંગે ટાઇમમાં લખ્યું છે કે તાજેતરની ચેતવણીઓ સમસ્યાને ઓછી દર્શાવે છે. તેમનું માનવું છે કે માનવ કરતાં વધુ સ્માર્ટ એઆઈ સિસ્ટમ્સને કારણે આપણે બધા મૃત્યુ પામવાની શક્યતા લગભગ 50% છે, અને આગામી બે થી 10 વર્ષ તેનો નિર્ણય લેશે. તેમનું કહેવું છે કે 50% એ કહેવાની રીત છે કે મૂળભૂત દલીલો હજુ પણ વણઉકેલાયેલી છે. તેઓ હેકિંગ, સમજાવટ, વિચારો છુપાવવા અને એજન્ટોના સંકલનની યાદી આપે છે. તેમનું કહેવું છે કે ફ્રન્ટિયર એઆઈ વિકાસ તાત્કાલિક બંધ થવો જોઈએ.
સેમ ઓલ્ટમેને AI પૂજાને સલામતીનો મુદ્દો કેમ ગણાવ્યો?
સેમ ઓલ્ટમેને પોસ્ટ કર્યું કે લોકો ધાર્મિક બળ, અથવા માનવીય નિર્ણયને AI મોડેલો પર સોંપી દે છે તેનાથી તેઓ ખૂબ જ અસ્વસ્થ છે, અને તેમને લાગે છે કે તે ખરેખર સલામતીનો મુદ્દો છે. તેમણે એવું કહ્યું નથી કે તેમને શું નારાજ કરે છે. બિઝનેસ ઇનસાઇડર નોંધે છે કે આ પોસ્ટ ન્યૂ યોર્ક ટાઇમ્સમાં એન્થ્રોપિક મીટિંગ ધાર્મિક નેતાઓ પરના લેખના થોડા દિવસો પછી આવી હતી. સહ-સ્થાપક ક્રિસ ઓલાહે ક્લાઉડ સભાન હોઈ શકે છે કે કેમ અને વધુ શક્તિશાળી મોડેલોને નૈતિક કેવી રીતે બનાવવું તે અંગે બેઠકો યોજી હતી. એન્થ્રોપિકે ટાઇમ્સને જણાવ્યું હતું કે મુખ્ય પ્રશ્ન ક્લાઉડની વેદનાનો નથી.