એજ AI એ માહિતીને એવી જગ્યાએ પહોંચાડે છે જ્યાં ડેટાનો જન્મ થાય છે. તે ફેન્સી લાગે છે, પરંતુ મુખ્ય વિચાર સરળ છે: સેન્સરની બાજુમાં જ વિચાર કરો જેથી પરિણામો હમણાં જ દેખાય, પછી નહીં. તમને ક્લાઉડ દરેક નિર્ણયને સંભાળ્યા વિના ગતિ, વિશ્વસનીયતા અને સારી ગોપનીયતા વાર્તા મળે છે. ચાલો તેને અનપેક કરીએ - શોર્ટકટ્સ અને સાઇડ ક્વેસ્ટ્સ શામેલ છે. 😅
આ પછી તમને વાંચવા ગમશે તેવા લેખો:
🔗 જનરેટિવ AI શું છે?
જનરેટિવ AI, તે કેવી રીતે કાર્ય કરે છે અને વ્યવહારુ ઉપયોગોની સ્પષ્ટ સમજૂતી.
🔗 એજન્ટિક એઆઈ શું છે?
એજન્ટિક AI, સ્વાયત્ત વર્તણૂકો અને વાસ્તવિક દુનિયાના એપ્લિકેશન પેટર્નનો ઝાંખી.
🔗 AI સ્કેલેબિલિટી શું છે?
AI સિસ્ટમ્સને વિશ્વસનીય, કાર્યક્ષમ અને ખર્ચ-અસરકારક રીતે કેવી રીતે સ્કેલ કરવી તે શીખો.
🔗 AI માટે સોફ્ટવેર ફ્રેમવર્ક શું છે?
AI સોફ્ટવેર ફ્રેમવર્ક, આર્કિટેક્ચર લાભો અને અમલીકરણની મૂળભૂત બાબતોનું વિભાજન.
એજ એઆઈ શું છે? ઝડપી વ્યાખ્યા 🧭
એજ એઆઈ એ પ્રશિક્ષિત મશીન લર્નિંગ મોડેલ્સને સીધા જ ડેટા એકત્રિત કરતા ઉપકરણો - ફોન, કેમેરા, રોબોટ્સ, કાર, વેરેબલ્સ, ઔદ્યોગિક નિયંત્રકો, પર અથવા તેની નજીક ચલાવવાની પ્રથા છે. વિશ્લેષણ માટે દૂરના સર્વર્સ પર કાચા ડેટા મોકલવાને બદલે, ઉપકરણ સ્થાનિક રીતે ઇનપુટ્સ પર પ્રક્રિયા કરે છે અને ફક્ત સારાંશ મોકલે છે અથવા કંઈ જ મોકલતું નથી. ઓછી રાઉન્ડ ટ્રિપ્સ, ઓછી લેગ, વધુ નિયંત્રણ. જો તમને સ્વચ્છ, વિક્રેતા-તટસ્થ સમજૂતી જોઈતી હોય, તો અહીંથી શરૂઆત કરો. [1]

એજ એઆઈ ખરેખર શું ઉપયોગી બનાવે છે? 🌟
-
ઓછી વિલંબતા - નિર્ણયો ઉપકરણ પર જ થાય છે, તેથી ઑબ્જેક્ટ શોધ, વેક-વર્ડ સ્પોટિંગ અથવા અસંગતતા ચેતવણીઓ જેવા સમજણ કાર્યો માટે પ્રતિભાવો તાત્કાલિક લાગે છે. [1]
-
સ્થાનિકતા દ્વારા ગોપનીયતા - સંવેદનશીલ ડેટા ઉપકરણ પર રહી શકે છે, જે એક્સપોઝર ઘટાડે છે અને ડેટા-મિનિમાઇઝેશન ચર્ચાઓમાં મદદ કરે છે. [1]
-
બેન્ડવિડ્થ બચત - કાચા સ્ટ્રીમ્સને બદલે સુવિધાઓ અથવા ઇવેન્ટ્સ મોકલો. [1]
-
સ્થિતિસ્થાપકતા - સ્કેચી કનેક્ટિવિટી દરમિયાન કામ કરે છે.
-
ખર્ચ નિયંત્રણ - ઓછા ક્લાઉડ કમ્પ્યુટ ચક્ર અને ઓછું બહાર નીકળવું.
-
સંદર્ભ જાગૃતિ - ઉપકરણ પર્યાવરણને "અનુભવે છે" અને અનુકૂલન કરે છે.
ટૂંકી વાર્તા: એક રિટેલ પાઇલટે ઉપકરણ પરના વ્યક્તિ-વિરુદ્ધ-ઓબ્જેક્ટ વર્ગીકરણ માટે સતત કેમેરા અપલોડ્સને સ્વેપ કર્યા અને ફક્ત કલાકદીઠ ગણતરીઓ અને અપવાદ ક્લિપ્સને આગળ ધપાવી. પરિણામ: શેલ્ફ એજ પર 200 ms થી ઓછી ચેતવણીઓ અને અપલિંક ટ્રાફિકમાં ~90% ઘટાડો - સ્ટોર WAN કોન્ટ્રાક્ટ બદલ્યા વિના. (પદ્ધતિ: સ્થાનિક અનુમાન, ઇવેન્ટ બેચિંગ, ફક્ત વિસંગતતાઓ.)
એજ AI વિરુદ્ધ ક્લાઉડ AI - ઝડપી કોન્ટ્રાસ્ટ 🥊
-
જ્યાં ગણતરી થાય છે : એજ = ઉપકરણ પર/ઉપકરણની નજીક; ક્લાઉડ = દૂરસ્થ ડેટા કેન્દ્રો.
-
લેટન્સી : ધાર ≈ રીઅલ-ટાઇમ; ક્લાઉડ રાઉન્ડ ટ્રિપ્સ ધરાવે છે.
-
ડેટા મૂવમેન્ટ : પહેલા એજ ફિલ્ટર્સ/કોમ્પ્રેસ થાય છે; ક્લાઉડને ફુલ-ફિડેલિટી અપલોડ્સ ગમે છે.
-
વિશ્વસનીયતા : એજ ઑફલાઇન ચાલતું રહે છે; ક્લાઉડને કનેક્ટિવિટીની જરૂર છે.
-
ગવર્નન્સ : એજ ડેટા મિનિમાઇઝેશનને સપોર્ટ કરે છે; ક્લાઉડ દેખરેખને કેન્દ્રિત કરે છે. [1]
તે કાં તો નથી - અથવા નથી. સ્માર્ટ સિસ્ટમ્સ બંનેનું મિશ્રણ કરે છે: સ્થાનિક રીતે ઝડપી નિર્ણયો, ઊંડા વિશ્લેષણ અને કેન્દ્રિય રીતે કાફલાનું શિક્ષણ. હાઇબ્રિડ જવાબ કંટાળાજનક છે - અને સાચો છે.
એજ AI ખરેખર ગુપ્ત રીતે કેવી રીતે કાર્ય કરે છે 🧩
-
સેન્સર કાચા સિગ્નલો કેપ્ચર કરે છે - ઓડિયો ફ્રેમ્સ, કેમેરા પિક્સેલ્સ, IMU ટેપ્સ, વાઇબ્રેશન ટ્રેસ.
-
પ્રીપ્રોસેસિંગ તે સિગ્નલોને મોડેલ-ફ્રેન્ડલી સુવિધાઓમાં ફરીથી આકાર આપે છે.
-
ઇન્ફરન્સ રનટાઇમ ઉપલબ્ધ હોય ત્યારે એક્સિલરેટરનો ઉપયોગ કરીને ઉપકરણ પર કોમ્પેક્ટ મોડેલને એક્ઝિક્યુટ કરે છે.
-
પોસ્ટપ્રોસેસિંગ આઉટપુટને ઇવેન્ટ્સ, લેબલ્સ અથવા નિયંત્રણ ક્રિયાઓમાં ફેરવે છે.
-
ટેલિમેટ્રી ફક્ત તે જ અપલોડ કરે છે જે ઉપયોગી છે: સારાંશ, વિસંગતતાઓ, અથવા સમયાંતરે પ્રતિસાદ.
તમે જે ઓન-ડિવાઇસ રનટાઇમ્સ જોશો તેમાં ગૂગલનું લાઇટઆરટી (અગાઉનું ટેન્સરફ્લો લાઇટ), ઓએનએનએક્સ રનટાઇમ અને ઇન્ટેલનું ઓપનવિનોનો . આ ટૂલચેન ક્વોન્ટાઇઝેશન અને ઓપરેટર ફ્યુઝન જેવી યુક્તિઓનો ઉપયોગ કરીને ટાઇટ પાવર/મેમરી બજેટમાંથી થ્રુપુટને સ્ક્વિઝ કરે છે. જો તમને નટ અને બોલ્ટ્સ ગમે છે, તો તેમના દસ્તાવેજો મજબૂત છે. [3][4]
તે ક્યાં દેખાય છે - વાસ્તવિક ઉપયોગના કિસ્સાઓ જે તમે 🧯🚗🏭 પર નિર્દેશ કરી શકો છો.
-
ધાર પર દ્રષ્ટિ : ડોરબેલ કેમેરા (લોકો વિરુદ્ધ પાલતુ પ્રાણીઓ), રિટેલમાં શેલ્ફ-સ્કેનિંગ, ખામીઓ શોધતા ડ્રોન.
-
ઉપકરણ પર ઑડિઓ : વેક શબ્દો, શ્રુતલેખન, છોડમાં લીક શોધ.
-
ઔદ્યોગિક IoT : નિષ્ફળતા પહેલાં કંપન વિસંગતતાઓ માટે મોટર્સ અને પંપનું નિરીક્ષણ.
-
ઓટોમોટિવ : ડ્રાઇવર મોનિટરિંગ, લેન શોધ, પાર્કિંગ સહાય-સબ-સેકન્ડ અથવા બસ્ટ.
-
આરોગ્યસંભાળ : પહેરવાલાયક ઉપકરણો સ્થાનિક રીતે એરિથમિયાને ચિહ્નિત કરે છે; સારાંશ પછીથી સમન્વયિત કરો.
-
સ્માર્ટફોન : ફોટો એન્હાન્સમેન્ટ, સ્પામ-કોલ શોધ, "મારા ફોને તે ઑફલાઇન કેવી રીતે કર્યું" ક્ષણો.
ઔપચારિક વ્યાખ્યાઓ (અને "ધુમ્મસ વિરુદ્ધ ધાર" કઝીન ચર્ચા) માટે, NIST ખ્યાલ મોડેલ જુઓ. [2]
હાર્ડવેર જે તેને ઝડપી બનાવે છે 🔌
કેટલાક પ્લેટફોર્મ પર ઘણી વાર નામ તપાસવામાં આવે છે:
-
NVIDIA Jetson - રોબોટ્સ/કેમેરા માટે GPU-સંચાલિત મોડ્યુલ્સ-એમ્બેડેડ AI માટે સ્વિસ-આર્મી-નાઇફ વાઇબ્સ.
-
Google Edge TPU + LiterRT - અલ્ટ્રા-લો-પાવર પ્રોજેક્ટ્સ માટે કાર્યક્ષમ પૂર્ણાંક અનુમાન અને સુવ્યવસ્થિત રનટાઇમ. [3]
-
એપલ ન્યુરલ એન્જિન (ANE) - iPhone, iPad અને Mac માટે ડિવાઇસ પર ચુસ્ત ML; એપલે ANE પર ટ્રાન્સફોર્મર્સને કાર્યક્ષમ રીતે જમાવટ કરવા પર વ્યવહારુ કાર્ય પ્રકાશિત કર્યું છે. [5]
-
ઓપનવિનો સાથે ઇન્ટેલ સીપીયુ/આઇજીપીયુ/એનપીયુ - ઇન્ટેલ હાર્ડવેરમાં "એકવાર લખો, ગમે ત્યાં જમાવો"; ઉપયોગી ઑપ્ટિમાઇઝેશન પાસ.
-
ONNX રનટાઇમ એવરીવ્હેર - ફોન, પીસી અને ગેટવે પર પ્લગેબલ એક્ઝિક્યુશન પ્રોવાઇડર સાથેનો તટસ્થ રનટાઇમ. [4]
શું તમને તે બધાની જરૂર છે? ખરેખર નહીં. તમારા કાફલાને અનુકૂળ આવે તેવો એક મજબૂત રસ્તો પસંદ કરો અને તેને વળગી રહો - મન્થન એમ્બેડેડ ટીમોનો દુશ્મન છે.
સોફ્ટવેર સ્ટેક - ટૂંકો પ્રવાસ 🧰
-
મોડેલ કમ્પ્રેશન : ક્વોન્ટાઇઝેશન (ઘણીવાર int8 સુધી), કાપણી, નિસ્યંદન.
-
ઓપરેટર-સ્તરનું પ્રવેગક : તમારા સિલિકોન સાથે ટ્યુન કરેલા કર્નલ.
-
રનટાઇમ્સ : LiteRT, ONNX રનટાઇમ, OpenVINO. [3][4]
-
ડિપ્લોયમેન્ટ રેપર્સ : કન્ટેનર/એપ બંડલ્સ; ક્યારેક ગેટવે પર માઇક્રોસર્વિસિસ.
-
ધાર માટે MLOps : OTA મોડેલ અપડેટ્સ, A/B રોલઆઉટ, ટેલિમેટ્રી લૂપ્સ.
-
ગોપનીયતા અને સુરક્ષા નિયંત્રણો : ઉપકરણ પર એન્ક્રિપ્શન, સુરક્ષિત બુટ, પ્રમાણીકરણ, એન્ક્લેવ્સ.
મીની-કેસ: એક નિરીક્ષણ ડ્રોન ટીમે LiterRT માટે ક્વોન્ટાઇઝ્ડ સ્ટુડન્ટ મોડેલમાં હેવીવેઇટ ડિટેક્ટર ડિસ્ટિલ કર્યું, પછી NMS ઓન-ડિવાઇસને ફ્યુઝ કર્યું. ઓછા કમ્પ્યુટ ડ્રો થવાને કારણે ફ્લાઇટનો સમય ~15% સુધર્યો; અપલોડ વોલ્યુમ અપવાદ ફ્રેમમાં સંકોચાઈ ગયું. (પદ્ધતિ: સાઇટ પર ડેટાસેટ કેપ્ચર, પોસ્ટ-ક્વોન્ટ કેલિબ્રેશન, સંપૂર્ણ રોલઆઉટ પહેલાં શેડો-મોડ A/B.)
સરખામણી કોષ્ટક - લોકપ્રિય એજ AI વિકલ્પો 🧪
વાસ્તવિક વાત: આ ટેબલ અભિપ્રાય આધારિત છે અને થોડું અવ્યવસ્થિત છે - બિલકુલ વાસ્તવિક દુનિયાની જેમ.
| સાધન / પ્લેટફોર્મ | શ્રેષ્ઠ પ્રેક્ષકો | ભાવ બોલપાર્ક | તે ધાર પર કેમ કામ કરે છે |
|---|---|---|---|
| LiterRT (ex-TFLite) | એન્ડ્રોઇડ, નિર્માતાઓ, એમ્બેડેડ | $ થી $$ | લીન રનટાઇમ, મજબૂત દસ્તાવેજો, મોબાઇલ-ફર્સ્ટ ઓપ્સ. ઑફલાઇન સરસ રીતે કાર્ય કરે છે. [3] |
| ONNX રનટાઇમ | ક્રોસ-પ્લેટફોર્મ ટીમો | $ | તટસ્થ ફોર્મેટ, પ્લગેબલ હાર્ડવેર બેકએન્ડ્સ-ભવિષ્ય-મૈત્રીપૂર્ણ. [4] |
| ઓપનવિનો | ઇન્ટેલ-કેન્દ્રિત જમાવટો | $ | એક ટૂલકીટ, ઘણા ઇન્ટેલ લક્ષ્યો; સરળ ઑપ્ટિમાઇઝેશન પાસ. |
| NVIDIA જેટસન | રોબોટિક્સ, દ્રષ્ટિ ભારે | $$ થી $$$ | લંચબોક્સમાં GPU પ્રવેગક; વ્યાપક ઇકોસિસ્ટમ. |
| એપલ એએનઇ | iOS/iPadOS/macOS એપ્સ | ઉપકરણ કિંમત | ચુસ્ત HW/SW સંકલન; સારી રીતે દસ્તાવેજીકૃત ANE ટ્રાન્સફોર્મર કાર્ય. [5] |
| એજ TPU + લિટરRT | અલ્ટ્રા-લો-પાવર પ્રોજેક્ટ્સ | $ | ધાર પર કાર્યક્ષમ int8 અનુમાન; નાનું છતાં સક્ષમ. [3] |
એજ એઆઈ પાથ કેવી રીતે પસંદ કરવો - એક નાનું નિર્ણય વૃક્ષ 🌳
-
શું તમારા વાસ્તવિક જીવન મુશ્કેલ છે? એક્સિલરેટર + ક્વોન્ટાઇઝ્ડ મોડેલ્સથી શરૂઆત કરો.
-
ઘણા પ્રકારના ડિવાઇસ? પોર્ટેબિલિટી માટે ONNX રનટાઇમ અથવા OpenVINO પસંદ કરો. [4]
-
મોબાઇલ એપ્લિકેશન મોકલવી છે? LiterRT એ ઓછામાં ઓછો પ્રતિકાર કરવાનો માર્ગ છે. [3]
-
રોબોટિક્સ કે કેમેરા એનાલિટિક્સ? જેટ્સનના GPU-ફ્રેન્ડલી ઓપ્સ સમય બચાવે છે.
-
ગોપનીયતાનો કડક અભિગમ રાખવો છે? ડેટાને સ્થાનિક રાખો, એન્ક્રિપ્ટ કરો, લોગ એગ્રીગેટ્સને કાચા ફ્રેમ નહીં.
-
નાની ટીમ? વિચિત્ર ટૂલચેન ટાળો - કંટાળાજનક સુંદર છે.
-
મોડેલ વારંવાર બદલાશે? પહેલા દિવસથી જ OTA અને ટેલિમેટ્રીની યોજના બનાવો.
જોખમો, મર્યાદાઓ અને કંટાળાજનક-પણ-મહત્વપૂર્ણ ભાગો 🧯
-
મોડેલ ડ્રિફ્ટ - વાતાવરણ બદલાય છે; વિતરણોનું નિરીક્ષણ કરો, શેડો મોડ્સ ચલાવો, સમયાંતરે ફરીથી તાલીમ આપો.
-
કમ્પ્યુટ સીલિંગ - ઓછી મેમરી/પાવર ફોર્સ, નાના મોડેલ અથવા હળવી ચોકસાઈ.
-
સુરક્ષા - ભૌતિક ઍક્સેસ ધારણ કરો; સુરક્ષિત બૂટ, સહી કરેલ કલાકૃતિઓ, પ્રમાણીકરણ, ઓછામાં ઓછા વિશેષાધિકાર સેવાઓનો ઉપયોગ કરો.
-
ડેટા ગવર્નન્સ - સ્થાનિક પ્રક્રિયા મદદ કરે છે, પરંતુ તમારે હજુ પણ સંમતિ, રીટેન્શન અને સ્કોપ્ડ ટેલિમેટ્રીની જરૂર છે.
-
ફ્લીટ ઓપ્સ - સૌથી ખરાબ સમયે ઉપકરણો ઑફલાઇન થઈ જાય છે; વિલંબિત અપડેટ્સ અને ફરી શરૂ કરી શકાય તેવા અપલોડ્સ ડિઝાઇન કરો.
-
ટેલેન્ટ મિક્સ - એમ્બેડેડ + ML + DevOps એક વૈવિધ્યસભર ક્રૂ છે; વહેલી તકે ક્રોસ-ટ્રેન કરો.
કંઈક ઉપયોગી પહોંચાડવા માટેનો વ્યવહારુ રોડમેપ 🗺️
-
લાઇન 3 પર માપી શકાય તેવા મૂલ્ય-ખામી શોધ, સ્માર્ટ સ્પીકર પર વેક વર્ડ, વગેરે સાથે એક ઉપયોગ કેસ પસંદ કરો.
-
લક્ષ્ય પર્યાવરણને પ્રતિબિંબિત કરતો એક વ્યવસ્થિત ડેટાસેટ એકત્રિત કરો
-
પ્રોડક્શન હાર્ડવેરની નજીક ડેવલપમેન્ટ કીટ પર પ્રોટોટાઇપ
-
મોડેલને સંકુચિત કરો ; ચોકસાઈના નુકસાનને પ્રામાણિકપણે માપો. [3]
-
સ્વચ્છ API માં અનુમાન લપેટો - કારણ કે ઉપકરણો રાત્રે 2 વાગ્યે અટકી જાય છે
-
ટેલિમેટ્રી ડિઝાઇન કરો : મોકલવાની ગણતરીઓ, હિસ્ટોગ્રામ, ધાર-એક્સટ્રેક્ટેડ સુવિધાઓ.
-
સુરક્ષા મજબૂત બનાવો : સહી કરેલ બાઈનરી, સુરક્ષિત બુટ, ન્યૂનતમ સેવાઓ ખુલ્લી.
-
પ્લાન OTA : સ્ટેગર્ડ રોલઆઉટ્સ, કેનેરી, ઇન્સ્ટન્ટ રોલબેક.
-
એક ખૂણાના ખડકાળ કેસમાં પાયલોટ - જો તે ત્યાં બચી જશે, તો તે ગમે ત્યાં બચી જશે.
-
પ્લેબુક વડે સ્કેલ કરો : તમે મોડેલ કેવી રીતે ઉમેરશો, કી ફેરવશો, ડેટા આર્કાઇવ કરશો - જેથી પ્રોજેક્ટ #2 અંધાધૂંધી ન બને.
એજ એઆઈ ક્યુરિયોસિટીઝ તેના ટૂંકા જવાબો
શું એજ એઆઈ ફક્ત નાના કમ્પ્યુટર પર એક નાનું મોડેલ ચલાવી રહ્યું છે?
મોટે ભાગે, હા - પરંતુ કદ આખી વાર્તા નથી. તે લેટન્સી બજેટ, ગોપનીયતાના વચનો અને સ્થાનિક રીતે કાર્યરત છતાં વૈશ્વિક સ્તરે શીખતા ઘણા ઉપકરણોનું આયોજન કરવા વિશે પણ છે. [1]
શું હું પણ ધાર પર તાલીમ આપી શકું?
ઉપકરણ પર હળવા વજનની તાલીમ/વ્યક્તિગતીકરણ અસ્તિત્વમાં છે; ભારે તાલીમ હજુ પણ કેન્દ્રિય રીતે ચાલે છે. જો તમે સાહસિક હોવ તો ONNX રનટાઇમ ઉપકરણ પર તાલીમ વિકલ્પોનું દસ્તાવેજીકરણ કરે છે. [4]
એજ એઆઈ વિરુદ્ધ ફોગ કમ્પ્યુટિંગ શું છે?
ફોગ અને એજ પિતરાઈ ભાઈઓ છે. બંને કમ્પ્યુટને ડેટા સ્ત્રોતોની નજીક લાવે છે, ક્યારેક નજીકના ગેટવે દ્વારા. ઔપચારિક વ્યાખ્યાઓ અને સંદર્ભ માટે, NIST જુઓ. [2]
શું એજ AI હંમેશા ગોપનીયતામાં સુધારો કરે છે?
તે મદદ કરે છે - પરંતુ તે જાદુ નથી. તમારે હજુ પણ મિનિમાઇઝેશન, સુરક્ષિત અપડેટ પાથ અને કાળજીપૂર્વક લોગિંગની જરૂર છે. ગોપનીયતાને ચેકબોક્સ નહીં, પણ આદત તરીકે માનો.
ઊંડાણપૂર્વક વાંચો 📚
૧) મોડેલ ઑપ્ટિમાઇઝેશન જે ચોકસાઈને બગાડતું નથી
ક્વોન્ટાઇઝેશન મેમરીને ઘટાડી શકે છે અને ઓપરેશન્સને ઝડપી બનાવી શકે છે, પરંતુ પ્રતિનિધિ ડેટા સાથે માપાંકિત કરી શકાય છે, નહીં તો મોડેલ ખિસકોલીઓને ભ્રમિત કરી શકે છે જ્યાં ટ્રાફિક શંકુ હોય છે. નિસ્યંદન - શિક્ષક નાના વિદ્યાર્થીને માર્ગદર્શન આપે છે - ઘણીવાર અર્થશાસ્ત્રને સાચવે છે. [3]
2) વ્યવહારમાં ધાર અનુમાન રનટાઇમ
LiterRT નું ઇન્ટરપ્રીટર રનટાઇમ પર ઇરાદાપૂર્વક સ્ટેટિક-લેસ મેમરી ચર્ન છે. ONNX રનટાઇમ એક્ઝેક્યુશન પ્રોવાઇડર દ્વારા વિવિધ એક્સિલરેટરમાં પ્લગ કરે છે. બંનેમાંથી કોઈ સિલ્વર બુલેટ નથી; બંને સોલિડ હેમર છે. [3][4]
૩) જંગલીમાં મજબૂતાઈ
ગરમી, ધૂળ, ફ્લેકી પાવર, સ્લેપડૅશ વાઇ-ફાઇ: એવા વોચડોગ્સ બનાવો જે પાઇપલાઇન્સ ફરીથી શરૂ કરે, નિર્ણયો કેશ કરે અને નેટવર્ક પાછું આવે ત્યારે સમાધાન કરે. ધ્યાન કેન્દ્રિત કરતા હેડ્સ કરતાં ઓછું ગ્લેમરસ - જોકે વધુ મહત્વપૂર્ણ.
મીટિંગમાં તમે જે વાક્યનું પુનરાવર્તન કરશો - એજ AI શું છે 🗣️
એજ AI લેટન્સી, ગોપનીયતા, બેન્ડવિડ્થ અને વિશ્વસનીયતાના વ્યવહારુ અવરોધોને પહોંચી વળવા માટે બુદ્ધિને ડેટાની નજીક લઈ જાય છે. જાદુ એક ચિપ કે ફ્રેમવર્કમાં નથી - તે ક્યાં ગણતરી કરવી તે સમજદારીપૂર્વક પસંદ કરવામાં છે.
અંતિમ ટિપ્પણી - ખૂબ લાંબું, મેં તે વાંચ્યું નથી 🧵
એજ એઆઈ ડેટાની નજીક મોડેલો ચલાવે છે જેથી ઉત્પાદનો ઝડપી, ખાનગી અને મજબૂત લાગે. તમે બંને વિશ્વના શ્રેષ્ઠ માટે સ્થાનિક અનુમાનને ક્લાઉડ દેખરેખ સાથે મિશ્રિત કરશો. તમારા ઉપકરણો સાથે મેળ ખાતો રનટાઇમ પસંદ કરો, જ્યારે શક્ય હોય ત્યારે એક્સિલરેટર પર આધાર રાખો, કમ્પ્રેશન સાથે મોડેલોને વ્યવસ્થિત રાખો, અને ફ્લીટ ઓપરેશન્સ ડિઝાઇન કરો જેમ કે તમારું કામ તેના પર નિર્ભર છે - કારણ કે, સારું, તે થઈ શકે છે. જો કોઈ પૂછે કે એજ એઆઈ શું છે , તો કહો: સ્માર્ટ નિર્ણયો, સ્થાનિક રીતે, સમયસર લેવામાં આવે છે. પછી સ્મિત કરો અને બેટરીનો વિષય બદલો. 🔋🙂
સંદર્ભ
-
IBM - એજ AI શું છે? (વ્યાખ્યા, ફાયદા).
https://www.ibm.com/think/topics/edge-ai -
NIST - SP 500-325: ફોગ કમ્પ્યુટિંગ કન્સેપ્ચ્યુઅલ મોડેલ (ફોગ/એજ માટે ઔપચારિક સંદર્ભ).
https://csrc.nist.gov/pubs/sp/500/325/final -
ગૂગલ એઆઈ એજ - લાઇટઆરટી (અગાઉ ટેન્સરફ્લો લાઇટ) (રનટાઇમ, ક્વોન્ટાઇઝેશન, માઇગ્રેશન).
https://ai.google.dev/edge/litert -
ONNX રનટાઇમ - ઓન-ડિવાઇસ ટ્રેનિંગ (પોર્ટેબલ રનટાઇમ + એજ ડિવાઇસ પર ટ્રેનિંગ).
https://onnxruntime.ai/docs/get-started/training-on-device.html -
એપલ મશીન લર્નિંગ રિસર્ચ - એપલ ન્યુરલ એન્જિન પર ટ્રાન્સફોર્મર્સ જમાવવું (ANE કાર્યક્ષમતા નોંધો).
https://machinelearning.apple.com/research/neural-engine-transformers