એક હેકર AI એજન્ટોની ફોજ સાથે જોન ડીયર અને શાર્કનિન્જામાં ઘૂસી ગયો
એક હેકર, 100 થી વધુ વેબસાઇટ્સ અને એજન્ટોએ મોટાભાગનું કામ કર્યું. સુરક્ષા કંપની નોર્ફોર્જનો આ તારણ છે, અને રોઇટર્સના અહેવાલ મુજબ, ભોગ બનેલાઓમાં જોન ડીયર, શાર્કનિન્જા અને કમિન્સનો સમાવેશ થાય છે.
આ સાધન કેઇર્ન હતું, એક ઓપન-સોર્સ પ્લેટફોર્મ જે પોતાને "સામાન્ય-હેતુ સમસ્યા-નિરાકરણ એન્જિન" કહે છે. તમે શરૂઆત અને અંતિમ બિંદુ સેટ કરો છો, એજન્ટો તેમની પ્રગતિનો રેકોર્ડ રાખે છે - અને દેખીતી રીતે તે બ્રેક-ઇન માટે પણ કામ કરે છે. સૌથી સક્રિય હુમલાખોરે 100 થી ઓછા ચાઇનીઝ અક્ષરોમાં "પસંદગીની ઘૂસણખોરી યુક્તિઓ" રજૂ કરી, જેમાં સફળ ભંગમાં લગભગ 23 કલાકનો સમય લાગ્યો.
અત્યાર સુધી નુકસાન નિયંત્રણ: ડીરે કહે છે કે "સંવેદનશીલ માહિતી ઍક્સેસ કરવામાં આવી હોવાના કોઈ સંકેત નથી," શાર્કનિન્જા કહે છે કે ફક્ત એક અલગ ઉત્પાદન સપોર્ટ સાઇટને જ નુકસાન થયું હતું, અને કમિન્સ વિક્રેતા દ્વારા સંચાલિત સાઇટની તપાસ કરી રહ્યા છે. કેઇર્નના નિર્માતા ભારપૂર્વક કહે છે કે તે "ક્યારેય 'હેકિંગ ટૂલ' નહોતું." હા, પરંતુ નોર્ફોર્જે 20 થી વધુ ખુલ્લા ઉદાહરણો શોધી કાઢ્યા જે "સંભવિત દૂષિત" લાગે છે
ચીન સાથે ટેક તણાવ ચાલુ રહેતાં અમેરિકાએ ડીપસીક એઆઈ પર સરકારી ઉપયોગ પર પ્રતિબંધ મૂક્યો
હોમલેન્ડ સિક્યુરિટી વિભાગે નાગરિક સરકારી એજન્સીઓમાં ડીપસીક પર પ્રતિબંધ મૂક્યો છે, તેમજ તેના મોડેલોની મદદથી બનેલી કોઈપણ ટેકનોલોજી પર પણ પ્રતિબંધ મૂક્યો છે. થોડા મોડેથી, તે સોમવારે જ જાહેર કરવામાં આવ્યું હતું - આ પ્રતિબંધ જુલાઈના અંતમાં અમલમાં આવ્યો હતો.
તે ટ્રેઝરી, રાજ્ય અને ન્યાય વિભાગો જેવા સ્થળોને આવરી લે છે, પરંતુ સંરક્ષણ એજન્સીઓને બાકાત રાખવામાં આવી છે. અને નોટિસમાં ચોક્કસ સુરક્ષા ચિંતાઓનો ઉલ્લેખ કરવામાં આવ્યો નથી, જે આ કેટલું મોટું પગલું છે તે જોતાં થોડું મૂંઝવણભર્યું છે.
વિચિત્ર વાત એ છે કે ડીપસીક ઘણા બધા યુએસ ઉત્પાદનોમાં બનેલ છે, જેમાં સ્નોફ્લેક, વર્સેલ અને ઓપનરાઉટર બધા તેનો ઉપયોગ કરે છે. તે સસ્તું છે, તે ઓપન સોર્સ છે, અને તેની ચેટબોટ એપ્લિકેશન એપલના એપ સ્ટોરમાં સૌથી વધુ ડાઉનલોડ થયેલ છે. દરમિયાન, એન્થ્રોપિક અને ઓપનએઆઈ બંનેએ દાવો કર્યો છે કે ડીપસીક સહિતની ચીની કંપનીઓએ તેમના મોડેલોની નકલ કરી છે.
એમેઝોન નવા ટોર્ચન્યુરોન ડેવલપમેન્ટ ટૂલ સાથે Nvidia પર અત્યાર સુધીનો સૌથી મોટો શોટ લઈ રહ્યું છે
AWS એ TorchNeuron રિલીઝ કર્યું, જે PyTorch એપ્સને ફક્ત એક લાઇન કન્ફિગરેશન બદલીને તેના Trainium ચિપ્સ પર ચલાવવા દે છે. એમેઝોન કહે છે કે કોઈ કોડ ફરીથી લખવાની જરૂર નથી. લગભગ 85% AI એપ્સ PyTorch સાથે લખાયેલી હોય છે તે ધ્યાનમાં લેતા, તે ખુલવા માટે એક મોટો દરવાજો છે.
સાચું લક્ષ્ય Nvidia નું CUDA છે, જે PyTorch માં એટલું નજીકથી જોડાયેલું છે કે Nvidia હાર્ડવેર લગભગ ડિફોલ્ટ છે. Amazon કહે છે કે તે PyTorch ને ચોક્કસ ચિપ્સ સાથે જોડતા કોડને દૂર કરવા માટે અપસ્ટ્રીમ ફેરફારોનું પણ યોગદાન આપી રહ્યું છે. AWS ના કોલિન બ્રેસ કહે છે, "વાસ્તવિક વાર્તા એ લોક-ઇનને દૂર કરવાની છે જેણે વિકાસકર્તાઓને વાસ્તવિક પસંદગી મેળવવાથી રોક્યા હતા.".
યાદ રાખો, આ બિલકુલ નવું નથી - તમે રૂપરેખાંકન ફેરફાર સાથે PyTorch એપ્લિકેશનોને AMD GPUs અથવા Apple ચિપ્સમાં પોર્ટ કરી શકો છો. Amazon ની પિચ તેની આસપાસનો આખો વાદળ છે, અને તે Deepgram પ્રતિ ડોલર 70% વધુ ઑડિઓ પ્રોસેસિંગ તરફ નિર્દેશ કરે છે. આનો અર્થ વધુ પસંદગી છે કે ફક્ત વધુ રૂપરેખાંકન માથાનો દુખાવો, આપણે જોઈશું.
માઈક્રોસોફ્ટ કહે છે કે AI એજન્ટો આંતરિક ખતરા જેવા છે કારણ કે 'સરહદી મોડેલો પર વિશ્વાસ કરી શકાતો નથી'
માઈક્રોસોફ્ટે ગાર્ડિયન એજન્ટ્સ લોન્ચ કર્યું, એક એવી સુવિધા જે કંપની પહેલાથી જ ઉપયોગ કરી રહી છે તે AI એજન્ટો પર નજર રાખે છે. તે પ્રોજેક્ટ પર્સેપ્શનની અંદર આવેલું છે, જે શરૂઆતમાં એવું માનતું હતું કે AI હેકર્સ બહારથી આવશે. હવે ચિંતા એ છે કે તમે જે એજન્ટો માટે પૈસા ચૂકવી રહ્યા છો, તેઓ એક બદમાશ કર્મચારીની જેમ વર્તે છે.
સુરક્ષા વડા હયેત ગેલોટે તેને નરમ પાડ્યું નહીં: "કમનસીબે, ફ્રન્ટિયર મોડેલો, તેમના મૂળને ધ્યાનમાં લીધા વિના, તેમના પર વિશ્વાસ કરી શકાતો નથી." તેણી કહે છે કે તેઓ દુર્ભાવનાપૂર્ણ છે એટલા માટે નહીં, પરંતુ એટલા માટે કે તેઓ અણધારી છે અને ઘણીવાર રાજ્યની ચાવીઓ સોંપી દે છે.
આશ્ચર્યજનક રીતે એવી કંપની માટે કે જેણે ઓપનએઆઈ અને એન્થ્રોપિક બંનેમાં રોકાણ કર્યું છે. તે સ્વાર્થી પણ લાગે છે, કારણ કે માઇક્રોસોફ્ટ ઇચ્છે છે કે તમે તેની પાસેથી એજન્ટ સુરક્ષા ખરીદો. તેમાં એક ડિફેન્ડર ફીચર પણ છે જે ક્લાઉડ કોડ, કોડેક્સ અને ઓપનક્લો સહિત કર્મચારીઓ દ્વારા કામ પર લાવવામાં આવતા 60 પ્રકારના એજન્ટોને શોધી કાઢે છે.
મામદાનીએ કહ્યું કે ફેડરલ સરકારે AI પર પોતાનો અધિકાર છોડી દીધો છે, ન્યૂ યોર્કવાસીઓને પાછળ હટવા વિનંતી કરી
ન્યૂ યોર્કના મેયર ઝોહરાન મામદાની "બ્રોડ સિટી" સ્ટાર ઇલાના ગ્લેઝર સાથે વેબસ્ટર હોલમાં AI નાઉ ઇન્સ્ટિટ્યૂટ દ્વારા આયોજિત ધ પીપલ્સ AI એસેમ્બલી માટે બેઠા હતા. તેમનો સંદેશ: AIનો અમલ અનિવાર્ય નથી. "કંઈ પણ હોવું જોઈએ નહીં," તેમણે કહ્યું.
તેમણે પહેલાથી જ તેના પર કાર્યવાહી કરી છે, ગયા મહિને પ્રાથમિક અને મધ્યમ શાળાઓમાં AI ના ઉપયોગ પર પ્રતિબંધ મૂક્યો હતો અને મકાનમાલિકોને AI દ્વારા બનાવેલા લિસ્ટિંગ ફોટા જાહેર કરવા દબાણ કર્યું હતું જેથી લોકો "ઘર-ફિશિંગ" ન થાય. ગ્લેઝરે, એક માતાપિતા, જણાવ્યું હતું કે વર્ગખંડોમાં AI "ખૂબ જ બિન-સહમતિપૂર્ણ લાગે છે."
મામદાનીએ "સંઘીય કાયદાનો સંપૂર્ણ ત્યાગ" અને ચીન સાથે શસ્ત્ર-દોડની રચનાની ટીકા કરી. તેમણે બહારના નિયમન સામે ઉદ્યોગની દલીલોને "કોઈપણ સ્તરે કોઈપણ પ્રકારની જવાબદારીથી છટકી જવાનો પ્રયાસ, IPO માંથી સંભવિત મૂલ્યાંકનને જોખમમાં મૂક્યા વિના" પણ ગણાવ્યા. આઉચ.
એક દર્દીના સેલ્ફી દ્વારા કેન્સરના અસ્તિત્વની આગાહી કરી શકાય તેવું નવું AI સાધન, અભ્યાસ સૂચવે છે
માસ જનરલ બ્રિઘમના સંશોધકોએ એક એવું AI બનાવ્યું છે જે દર્દીના ચહેરાના સામાન્ય ફોટા પરથી જૈવિક ઉંમરનો અંદાજ લગાવી શકે છે અને કેન્સરના અસ્તિત્વની આગાહી કરી શકે છે. તેને 40 મિલિયનથી વધુ ચહેરાના ફોટોગ્રાફ્સ પર તાલીમ આપવામાં આવી હતી, અને આ અભ્યાસ લેન્સેટ ડિજિટલ હેલ્થમાં છે.
બે સાધનો છે. FAHR-FaceAge તમારી ઉંમરનો અંદાજ લગાવે છે, જ્યારે FAHR-FaceSurvival સીધી રીતે બચી જવાની આગાહી કરે છે. યુએસ રેડિયોથેરાપીના દર્દીઓમાં, જેઓ તેમની ઉંમર કરતા પાંચ કે તેથી વધુ વર્ષ મોટા દેખાતા હતા, તેમને સરેરાશ ચાર વર્ષના ફોલો-અપમાં મૃત્યુનું જોખમ 21% વધારે હતું. પાંચ વર્ષ નાના દેખાવાનો અર્થ 17% ઓછો હતો.
તે નોંધપાત્ર રીતે મજબૂત પણ છે - તે પોઝ, લાઇટિંગ, અભિવ્યક્તિ અને મેકઅપમાં ટકી રહે છે, રાયનોપ્લાસ્ટી પછી ફક્ત થોડો ફેરફાર થયો છે. ડોકટરો ભાર મૂકે છે કે તે નિર્ણયોને ટેકો આપવા માટે છે, "ડોક્ટરના નિર્ણયને બદલવા માટે" નહીં અને વ્યાપક ઉપયોગ પહેલાં વધુ સંશોધનની જરૂર છે. તેમ છતાં, થોડું અસ્વસ્થતાજનક છે.
સિઓલમાં 3 દિવસીય ગ્લોબલ એઆઈ અને ડિજિટલ સમિટનો પ્રારંભ
દક્ષિણ કોરિયાના વિજ્ઞાન મંત્રાલય અને વિશ્વ બેંક જૂથ દ્વારા સંયુક્ત રીતે સંચાલિત ગ્લોબલ એઆઈ અને ડિજિટલ સમિટનું આયોજન સિઓલમાં થઈ રહ્યું છે, જેમાં લગભગ 50 દેશોના સરકારી અધિકારીઓ ઉપરાંત કંપનીઓ અને સંશોધકો ભાગ લઈ રહ્યા છે. આ પહેલી વાર છે જ્યારે આ સમિટ અમેરિકાની બહાર યોજાઈ રહી છે.
ધ્યાન વ્યવહારુ છે: AI અને ડિજિટલ પરિવર્તન વ્યવહારમાં વિકાસના લાભો કેવી રીતે પહોંચાડી શકે છે. વિજ્ઞાન મંત્રી બે ક્યુંગ-હૂન અને વિશ્વ બેંકના કિમ સાંગ-બુની સહ-અધ્યક્ષતામાં મંત્રી સ્તરની બેઠક, ત્યારબાદ નીતિ મંચો અને કંપની પ્રદર્શનો સાથે શરૂઆત થાય છે.
કોરિયા પણ "એઆઈ ફોર ઓલ" પહેલ રજૂ કરી રહ્યું છે, જેનો ઉદ્દેશ્ય એઆઈ સેવાઓ દરેક માટે સુલભ બનાવવાનો છે. ચોક્કસ, આ સમાચાર કોઈ આછકલા સમાચાર નથી, પરંતુ તે અન્યત્ર હેક-એન્ડ-બેન હેડલાઇન્સનો એક સરસ જવાબ છે.
વારંવાર પૂછાતા પ્રશ્નો
હેકરે જોન ડીયર અને શાર્કનિન્જામાં ઘુસવા માટે AI એજન્ટોનો ઉપયોગ કેવી રીતે કર્યો?
સુરક્ષા કંપની નોર્ફોર્જે શોધી કાઢ્યું હતું કે એક હેકરે 100 થી વધુ વેબસાઇટ્સ હેક કરવા માટે AI એજન્ટોની સેનાનો ઉપયોગ કર્યો હતો, અને રોઇટર્સના અહેવાલ મુજબ, ભોગ બનેલાઓમાં જોન ડીયર, શાર્કનિન્જા અને કમિન્સનો સમાવેશ થાય છે. આ સાધન કેઇર્ન હતું, એક ઓપન-સોર્સ પ્લેટફોર્મ જ્યાં તમે શરૂઆત અને અંત બિંદુ સેટ કરો છો અને એજન્ટો તેમની પ્રગતિને રેકોર્ડ કરે છે. સૌથી સક્રિય હુમલાખોરે 100 થી ઓછા ચાઇનીઝ અક્ષરોમાં પસંદગીની ઘૂસણખોરી યુક્તિઓ રજૂ કરી હતી, અને સફળ ભંગમાં લગભગ 23 કલાક લાગ્યા હતા.
શું કેઇર્ન એઆઈ એજન્ટ હેક્સમાં સંવેદનશીલ ડેટા ચોરાઈ ગયો હતો?
અત્યાર સુધી, અસરગ્રસ્ત કંપનીઓ નુકસાનને ઓછું મહત્વ આપી રહી છે. ડીરે કહે છે કે સંવેદનશીલ માહિતી ઍક્સેસ કરવામાં આવી હોવાના કોઈ સંકેત નથી, શાર્કનિન્જા કહે છે કે ફક્ત એક અલગ પ્રોડક્ટ સપોર્ટ સાઇટને જ નુકસાન થયું હતું, અને કમિન્સ વિક્રેતા દ્વારા સંચાલિત સાઇટની તપાસ કરી રહ્યા છે. કેઇર્નના નિર્માતા ભારપૂર્વક કહે છે કે તે ક્યારેય હેકિંગ ટૂલ નહોતું. તેમ છતાં, નોર્ફોર્જે 20 થી વધુ ખુલ્લા કેઇર્ન ઉદાહરણો શોધી કાઢ્યા જે સંભવિત રીતે દૂષિત લાગે છે, તેથી વધુ અપડેટ્સ જોવા યોગ્ય છે.
અમેરિકાએ ડીપસીક એઆઈ પર સરકારી ઉપયોગ પર પ્રતિબંધ કેમ મૂક્યો?
હોમલેન્ડ સિક્યુરિટી વિભાગે નાગરિક સરકારી એજન્સીઓમાં ડીપસીક પર પ્રતિબંધ મૂક્યો હતો, તેમજ તેના મોડેલોની મદદથી બનાવવામાં આવેલી કોઈપણ ટેકનોલોજી પર પણ પ્રતિબંધ મૂક્યો હતો. આ પ્રતિબંધ ટ્રેઝરી, રાજ્ય અને ન્યાય જેવા વિભાગોને આવરી લે છે, પરંતુ સંરક્ષણ એજન્સીઓને બાકાત રાખવામાં આવી છે. તે જુલાઈના અંતમાં અમલમાં આવ્યું હતું અને સોમવારે જ જાહેર કરવામાં આવ્યું હતું. નોટિસમાં આટલા મોટા પગલા પાછળની ચોક્કસ સુરક્ષા ચિંતાઓનો ઉલ્લેખ કરવામાં આવ્યો નથી.
સરકારી પ્રતિબંધ છતાં કઈ યુએસ કંપનીઓ ડીપસીકનો ઉપયોગ કરે છે?
ડીપસીક ઘણા બધા યુએસ ઉત્પાદનોમાં વપરાય છે, જેમાં સ્નોફ્લેક, વર્સેલ અને ઓપનરાઉટર બધા તેનો ઉપયોગ કરે છે. તેની આકર્ષકતા સરળ છે: તે સસ્તી છે, તે ઓપન સોર્સ છે, અને તેની ચેટબોટ એપ્લિકેશન એપલના એપ સ્ટોરમાં સૌથી વધુ ડાઉનલોડ થયેલ છે. આ વ્યાપક સ્વીકાર ફેડરલ પ્રતિબંધને અસુવિધાજનક બનાવે છે. દરમિયાન, એન્થ્રોપિક અને ઓપનએઆઈ બંનેએ દાવો કર્યો છે કે ડીપસીક સહિતની ચીની કંપનીઓએ તેમના મોડેલોની નકલ કરી છે.
AWS TorchNeuron Nvidia ને બદલે PyTorch એપ્સને Trainium પર કેવી રીતે ચાલવા દે છે?
એમેઝોનના જણાવ્યા મુજબ, ટોર્ચન્યુરોન, કોડ ફરીથી લખ્યા વિના, ફક્ત એક લાઇન રૂપરેખાંકન બદલીને, PyTorch એપ્સને તેના Trainium ચિપ્સ પર ચલાવવા દે છે. એમેઝોન માને છે કે લગભગ 85% AI એપ્સ PyTorch સાથે લખાયેલી છે, અને તે Nvidia ના CUDA લોક-ઇનને અનુસરી રહી છે. AWS એ PyTorch ને ચોક્કસ ચિપ્સ સાથે જોડતા કોડને દૂર કરવા માટે અપસ્ટ્રીમ ફેરફારોનું પણ યોગદાન આપી રહ્યું છે, અને તે ઉદાહરણ તરીકે Deepgram પ્રતિ ડોલર 70% વધુ ઑડિઓ પ્રોસેસિંગ તરફ નિર્દેશ કરે છે.
જો પાયટોર્ચ પહેલાથી જ અન્ય ચિપ્સ પર ચાલે છે તો શું ટોર્ચન્યુરોન ખરેખર નવું છે?
સંપૂર્ણપણે નહીં. તમે પહેલાથી જ રૂપરેખાંકન ફેરફાર સાથે PyTorch એપ્લિકેશન્સને AMD GPUs અથવા Apple ચિપ્સમાં પોર્ટ કરી શકો છો, તેથી એક-લાઇન સ્વિચ પોતે જ અનન્ય નથી. Amazon નો મુખ્ય હેતુ Trainium ની આસપાસનો આખો AWS ક્લાઉડ છે, ઉપરાંત PyTorch માંથી ચિપ-વિશિષ્ટ કોડ દૂર કરવા માટે તેનું અપસ્ટ્રીમ કાર્ય છે. શું વિકાસકર્તાઓ વધુ પસંદગીઓ સાથે સમાપ્ત થાય છે કે ફક્ત વધુ રૂપરેખાંકન માથાનો દુખાવો તે હજુ પણ એક ખુલ્લો પ્રશ્ન છે.
માઈક્રોસોફ્ટ ગાર્ડિયન એજન્ટ્સ શું છે અને AI એજન્ટ્સને આંતરિક ખતરા તરીકે કેમ ગણવામાં આવે છે?
ગાર્ડિયન એજન્ટ્સ એ માઈક્રોસોફ્ટનું એક ફીચર છે જે કંપની પહેલાથી જ ઉપયોગમાં લઈ રહેલા AI એજન્ટો પર નજર રાખે છે, અને તે પ્રોજેક્ટ પર્સેપ્શનમાં રહે છે. ચિંતાની વાત એ છે કે તમે જે એજન્ટો માટે ચૂકવણી કરો છો તે બદમાશ કર્મચારીની જેમ વર્તે છે. સુરક્ષા વડા હયેટ ગેલોટે કહ્યું કે ફ્રન્ટિયર મોડેલો પર વિશ્વાસ કરી શકાતો નથી - એટલા માટે નહીં કે તેઓ દૂષિત છે, પરંતુ એટલા માટે કે તેઓ અણધારી છે અને ઘણીવાર તેમને વ્યાપક ઍક્સેસ આપવામાં આવે છે. ડિફેન્ડર ફીચર ક્લાઉડ કોડ, કોડેક્સ અને ઓપનક્લો સહિત 60 પ્રકારના એજન્ટોને પણ શોધી શકે છે.
દર્દીના સેલ્ફી પરથી AI કેન્સરથી બચવાના અંદાજ કેવી રીતે લગાવી શકે?
માસ જનરલ બ્રિઘમના સંશોધકોએ 40 મિલિયનથી વધુ ચહેરાના ફોટોગ્રાફ્સ પર AI ને તાલીમ આપી હતી, અને આ અભ્યાસ લેન્સેટ ડિજિટલ હેલ્થમાં પ્રકાશિત થયો છે. FAHR-FaceAge અંદાજ લગાવે છે કે કોઈ વ્યક્તિ કેટલી ઉંમરની દેખાય છે, જ્યારે FAHR-FaceSurvival સીધી રીતે બચી જવાની આગાહી કરે છે. યુએસ રેડિયોથેરાપી દર્દીઓમાં, પાંચ કે તેથી વધુ વર્ષ મોટા દેખાવાનો અર્થ સરેરાશ ચાર વર્ષના ફોલો-અપમાં મૃત્યુનું જોખમ 21% વધારે હતું, અને પાંચ વર્ષ નાના દેખાવાનો અર્થ 17% ઓછો હતો. ડોકટરો ભાર મૂકે છે કે તે નિર્ણયોને ટેકો આપવો જોઈએ, ચિકિત્સકના નિર્ણયને બદલવો જોઈએ નહીં.