શું AI વિશ્વસનીય છે? [વિડિઓ અને ક્વિઝ]

ટૂંકો જવાબ: AI એક લક્ષણ તરીકે વિશ્વસનીય નથી: તે કાર્ય, પુનઃપ્રાપ્તિ લૂપ અને હજુ પણ હૂક પર રહેલા માનવ. અપટાઇમ એ છે કે અંતિમ બિંદુએ જવાબ આપ્યો છે કે નહીં; સત્યતા એ છે કે જવાબ એવો હતો કે નહીં. જ્યારે મિસ સસ્તી હોય કે પકડી શકાય તેવી હોય ત્યારે તેનો ઉપયોગ કરો; જ્યારે મિસ મોંઘી હોય ત્યારે ધીમી ગતિએ કામ કરો.

મુખ્ય બાબતો:

જવાબદારી: સમીક્ષા કોણ કરે છે, કોણ તેને રોકી શકે છે અને કોણ હૂકમાં છે તેનું નામ આપો.

પારદર્શિતા: મેળવેલા ભાગનું નિરીક્ષણ કરો, નહીં તો તમે હજુ પણ ધુમ્મસમાં છો.

ઓડિટબિલિટી: લોગ પ્રોમ્પ્ટ, પુનઃપ્રાપ્ત હિસ્સા અને મોકલે છે જેથી ચૂકી ગયેલા ભાગોને શોધી શકાય.

દુરુપયોગનો પ્રતિકાર: પૈસાના પ્રશ્નોમાં નિષ્ફળ જાઓ; ક્યારેય સંખ્યાઓ, બારીઓ કે નીતિ શોધશો નહીં.

ઉદાહરણરૂપ પરિણામો: 20-પ્રશ્નોવાળા ઉદાહરણરૂપ પરીક્ષણને 95% પુરાવા તરીકે નહીં, પણ નકશા તરીકે ગણો.

આ પછી તમને વાંચવા ગમશે તેવા લેખો:

🔗 રોજિંદા જીવનમાં AI નો ઉપયોગ કેવી રીતે કરવો
AI રોજિંદા કાર્યો અને દિનચર્યાઓને સરળ બનાવવાની વ્યવહારુ રીતો શોધો.

🔗 કામ પર AI નો ઉપયોગ કેવી રીતે કરવો.
AI વડે ઉત્પાદકતા અને કાર્યક્ષમતા સુધારવાની વ્યવહારુ રીતો શીખો.

🔗 શું AI પોતાના માટે વિચારી શકે છે?
કૃત્રિમ બુદ્ધિ ખરેખર સ્વતંત્ર રીતે વિચારી શકે છે અને તર્ક આપી શકે છે કે કેમ તે શોધો.

🔗 AI ના પ્રકારો શું છે?
મુખ્ય AI પ્રકારો, ક્ષમતાઓ અને મુખ્ય તફાવતો સમજો.

જ્યારે મશીન આંકડાકીય પોપટ હોય ત્યારે "વિશ્વસનીય" નો અર્થ શું થાય છે?

રોજિંદા બોલચાલમાં વિશ્વસનીયતાનો અર્થ એ છે કે તમે કોઈ વસ્તુ પર આધાર રાખી શકો છો.

બોલતા ઓટોમેશન સાથે, એક શબ્દ હેઠળ વિવિધ ગુણધર્મોનો ઢગલો છુપાયેલો હોય છે. વાસ્તવિકતા. સુસંગતતા. માપાંકન - શું મોડેલનો આત્મવિશ્વાસ તે યોગ્ય હોવાની શક્યતા સાથે મેળ ખાય છે, અથવા તે ફક્ત... ખાતરીપૂર્વક લાગે છે. સલામતી. અપટાઇમ. તાત્કાલિક સંવેદનશીલતા. ધાર પરના કેસોમાં વર્તન. વિતરણ શિફ્ટ પછી વર્તન, જ્યારે જીવંત વિશ્વ તાલીમ વિશ્વ નથી. તેમાંથી કોઈ પણ એકસાથે નિષ્ફળ થતું નથી. તે જ બીટ છે જે લોકો છોડી દે છે.

એક ચેટબોટ આખું અઠવાડિયું "ઉપર" રહી શકે છે અને મંગળવારે બપોરે પણ ખોટો હોઈ શકે છે. એક કોડિંગ કોપાયલટ બોઈલરપ્લેટમાં બરાબર હોઈ શકે છે અને પછી એવા API ને ભ્રમિત કરી શકે છે જે બિલકુલ વાસ્તવિક જેવું દેખાય છે. લોકો જે રૂપકનો ઉપયોગ કરે છે તે "જુનિયર સાથીદાર" છે. તે અપૂર્ણ છે - જુનિયરોને શરમ આવે છે - પરંતુ તે "ઓરેકલ" કરતાં વધુ નજીક છે.

લાઇવ ટેસ્ટ શું, કોના માટે, કયા લૂપ સાથે તેની આસપાસ છે તે વિશ્વસનીય છે. અન્યથા તમે બ્લેન્ડરને ગ્રેડ કરી રહ્યા છો કે તે ટેક્સ કરી શકે છે કે નહીં.

અપટાઇમ એ સત્યતા નથી - બે અલગ અલગ પ્રકારના "વિશ્વસનીય"

ઓપ્સ લોકો અને સત્ય લોકો એક જ શબ્દનો ઉપયોગ કરે છે અને એકબીજાની આગળ વાતો કરે છે.

અપટાઇમ એટલે "એન્ડપોઇન્ટ જવાબ આપ્યો". સત્યતા એટલે "તેનો જવાબ હતો". ગવર્નન્સ બંનેની કાળજી રાખે છે, અને મોડેલ જોખમ કદરૂપું અંતરમાં રહે છે. તમારી પાસે એવી સેવા હોઈ શકે છે જે ક્યારેય આંખ મારતી નથી અને છતાં ગ્રાહક ટિકિટમાં અસ્ખલિત જૂઠાણું મોકલે છે. SRE અર્થમાં વિશ્વસનીય. "કૃપા કરીને રિફંડ નીતિ શોધશો નહીં" અર્થમાં વિશ્વસનીય નથી.

મને લાગે છે કે આ સ્પષ્ટ રીતે લખેલું છે. સાંજે 4 વાગ્યે જ્યારે જવાબ ઝડપી હોય છે અને કતાર એક રાક્ષસ હોય છે ત્યારે તે સ્પષ્ટ નથી હોતું. ગતિ યોગ્યતા જેવી લાગે છે. ધીમી ગતિનો અર્થ એ હતો કે કોઈ વિચારી રહ્યું હતું. હવે ગતિ એ સંકેત છે જે કોઈ નથી.

સલામતી એ બીજી એક ધરી છે. એક મોડેલ જે ખરાબ જેલબ્રેકનો ઇનકાર કરે છે તે સલામતી-માનક રીતે "વિશ્વસનીય" હોય છે અને હજુ પણ તમારી પોતાની નોંધોના સારાંશને ગડબડ કરી શકે છે.

અસ્ખલિત અને ખોટું એ અણઘડ અને સ્પષ્ટવક્તા કરતાં પણ ખરાબ છે

આ આત્મવિશ્વાસની સમસ્યા છે, અને તે જ ડંખ મારે છે.

ચોકસાઈ અને પ્રવાહિતા છૂટા પડ્યા અને પ્રવાહિતાએ ઘરને જાળવી રાખ્યું. LLM તમને લય આપશે, યોગ્ય જગ્યાએ હેજિંગ કરશે, કદાચ નકલી-પણ-સુંદર સંદર્ભનો આકાર આપશે. તમારું મગજ વાંચે છે "આ વ્યક્તિ જાણે છે". સિવાય કે તે કોઈ વ્યક્તિ નથી, અને માપાંકન ઘણીવાર ભયંકર હોય છે - ઉચ્ચ આત્મવિશ્વાસ, મધ્યમ સત્ય, મુખ્ય ભાષણની જેમ પહોંચાડવામાં આવે છે.

એક અણઘડ ખોટો જવાબ તમને શંકાસ્પદ બનાવે છે. એક સ્પષ્ટ ખોટો જવાબ તમને તપાસવાનું બંધ કરાવે છે. આ કોઈ નાનો ફરક નથી; તે એક સહેજ ખરાબ વાક્યમાં આખી વાર્તા છે.

પક્ષપાત પણ ત્યાં રહે છે, હંમેશા બકવાસ તરીકે નહીં, રૂમમાં કોણ છે અને અંગ્રેજીનો કયો સ્વાદ તટસ્થ ગણાય છે તે અંગે ડિફોલ્ટ તરીકે. લોકો મૂર્ખ બને છે કારણ કે ભાષા આપણા માટે સૌથી જૂનો વિશ્વાસ ઇન્ટરફેસ છે. જો તે સંક્ષિપ્તની જેમ વાત કરે છે, તો આપણે તેને સંક્ષિપ્તની જેમ વર્તે છે. હું તેના વિશે વધુ શંકાશીલ બનવાનો પ્રયાસ કરું છું. પછી હું એક સ્પષ્ટ સારાંશ વાંચું છું અને મારા ખભા નીચે ઉતરે છે. મીટિંગમાં જતા, સારાંશ સમાપ્ત થયેલો દેખાય છે. તે વાક્ય ખૂબ કામ કરી રહ્યું છે, અને હજુ પણ: આ રીતે મિસ ડેકમાં પ્રવેશ કરે છે.

બ્રાન્ડ દ્વારા નહીં, પરિસ્થિતિ દ્વારા વિશ્વસનીયતા

બ્રાન્ડ્સ ધ્યાન ભંગ કરે છે. સરખામણી જે તેને જાળવી રાખે છે તે જ કામ છે. હરોળ એકબીજા સાથે દલીલ કરશે. તે ઠીક છે.

ગમે તે હોય. જો તમારું મનપસંદ સાધન ડ્રાફ્ટ્સમાં કુશળ હોય અને તમે મધ્યરાત્રિએ તેને કાનૂની-સંલગ્ન આરામ માટે પૂછતા પકડો, તો તે અપગ્રેડ નથી. તે નકશો કહે છે કે તમે તેનાથી દૂર ગયા છો.

ભ્રમ, ભ્રમ, અને શાંત પ્રકારની ભૂલ

ભ્રામકતા હેડલાઇન્સ મેળવે છે કારણ કે તે મસાલેદાર છે: એક પુસ્તક જે અસ્તિત્વમાં નથી, એક કાર્ય જે ક્યારેય મોકલવામાં આવ્યું નથી, એક નીતિ કલમ જેમાં એક નંબર છે જે સત્તાવાર લાગે છે.

ડ્રિફ્ટ ઓછું સિનેમેટિક છે. દુનિયા ફરે છે. મોડેલના અવશેષો બાકી રહે છે. તમે એવો પ્રશ્ન પૂછો છો જેને નવા સંદર્ભની જરૂર હોય છે અને તમને પાછલા હવામાનમાંથી સુવ્યવસ્થિત જવાબ મળે છે. મેં ત્યાં લગભગ "બીજા યુગથી" લખ્યું હતું, જે આ વિષય દ્વારા અતિશયોક્તિભર્યું નિવેદન છે. તે બીજો યુગ નથી. તે હમણાં નથી.

શાંત ખોટું એ એક છે જેની મને વધુ ચિંતા છે. એક સારાંશ જે અપવાદને છોડી દે છે. એક શબ્દસમૂહ જે કદાચ "અનિવાર્ય" માં અપગ્રેડ કરે છે. વાસ્તવિકતા "તકનીકી રીતે સારી" હોઈ શકે છે જ્યારે અર્થ સરકી ગયો હોય.

તાત્કાલિક સંવેદનશીલતા આને વધુ ખરાબ બનાવે છે. રેપિંગ બદલો અને "તથ્યો" ચમકે છે. શંકાસ્પદ તરીકે પૂછો, હેજ મેળવો. ઉતાવળમાં બોસ તરીકે પૂછો, ઝડપથી વધુ પડતો દાવો કરો. જો તમારા મૂલ્યાંકનમાં ફક્ત એક જ પોશાકનો ઉપયોગ થાય છે, તો તમારું મૂલ્યાંકન થોડું ખોટું છે. માફ કરશો.

જેલબ્રેકની ઘટનાઓ નજીક છે, અને મને ચોરીની ફિલ્મ જોઈતી નથી. જો કોઈ સિસ્ટમને તેના શિષ્ટાચાર છોડવા માટે કહી શકાય, તો વિશ્વસનીયતા ફક્ત સત્ય વિશે જ નથી; તે એ છે કે રેલિંગ લૂપ છે કે પોસ્ટર.

બાકી રહેલી તાલીમ, જૂનું જ્ઞાન, અને ગ્રાઉન્ડિંગ શા માટે જાદુઈ છડી નથી

જનરેટિવ મોડેલ્સને ઢગલા પર તાલીમ આપવામાં આવે છે, પછી તમારા મંગળવાર તરફ નિર્દેશ કરવામાં આવે છે. પુનઃપ્રાપ્તિ એ વર્તમાનને તે ઢગલા પર ઢાંકવાનો પુખ્ત પ્રયાસ છે. ગ્રાઉન્ડિંગનો અર્થ છે "આમાંથી જવાબ આપો, ધુમ્મસમાંથી નહીં". જ્યારે તે નિષ્ફળ જાય છે, ત્યારે તે નમ્રતાથી નિષ્ફળ જાય છે.

ક્લાસિક નિષ્ફળતા: રીટ્રીવર લગભગ ચૂકી ગયેલા દસ્તાવેજને મેળવે છે. જનરેટર સંપૂર્ણ શાંતિથી તેમાં લખે છે. તમે સ્ત્રોત આકારની વસ્તુ જુઓ છો અને તમારી તપાસ કરવાની વૃત્તિ બંધ થઈ જાય છે. હું આ કરું છું. તમે કદાચ આ કરો છો. સંદર્ભનો વિચાર સાચો છે; અમલીકરણ ફક્ત હિટ જેટલું જ સારું છે.

વાસી જ્ઞાન એ બીજો લીક છે. કેટલાક કાર્યોને જીવંત સ્થિતિની જરૂર હોય છે - કિંમતો, ઇન્વેન્ટરી, નીતિની વર્તમાન શબ્દરચના. કેટલાકને સ્થિર હસ્તકલાની જરૂર હોય છે, જેમ કે મેમો કેવી રીતે બનાવવો. તેને મિશ્રિત કરો અને તમને એક એવી દુનિયા વિશે ખૂબ જ ખાતરીપૂર્વક જવાબ મળશે જે પહેલાથી જ બદલાઈ ગઈ છે. વિતરણ શિફ્ટ એ પુખ્ત વયનું નામ છે: જીવંત વિતરણ એ તાલીમ વિતરણ નથી, અને એજ કેસ ગેપમાં રહે છે.

બીજી એક વાત, ખોટી જગ્યાએ હાઇફન મૂકીને કહી કારણ કે મારી નોંધો એવી દેખાય છે: ગ્રાઉન્ડિંગ એ ફ્લોર છે - પ્રભામંડળ નહીં. જો તમે પુનઃપ્રાપ્ત કરેલા ભાગનું નિરીક્ષણ કરી શકતા નથી, તો તમે હજુ પણ ધુમ્મસમાં છો, ફક્ત સારી લાઇટિંગ સાથે.

મૂલ્યાંકન થિયેટર: ડેમો કેમ એક ભયંકર પરીક્ષણ છે

ડેમો ખૂબ જ સુંદર છે. બેન્ચમાર્ક થોડા વધુ સ્પષ્ટ છે, અને છતાં તમારું કામ નથી.

એક સ્વચ્છ પ્રોમ્પ્ટ અને એક કાર્ય જે મોડેલે હજારો પિતરાઈ ભાઈઓ જોયા છે - અલબત્ત તે તીક્ષ્ણ લાગે છે. મૂલ્યાંકન જે ફક્ત સ્ટેજ પ્લેને માપવાનું માપે છે. લાઇવ વર્કફ્લોમાં ગૂંચવણભરી પેસ્ટ, ખૂટતી ફાઇલો અને એક વપરાશકર્તા છે જે પહેલો જવાબ સ્વીકારશે જે તેમની ચિંતા ઘટાડે છે.

બેન્ચમાર્ક્સ મહત્વના છે. તેઓ ડેકના ઢોંગ જેટલી સારી મુસાફરી કરતા નથી. લીડરબોર્ડ સ્કોર તમારી ટિકિટો પર કેલિબ્રેશન નથી. કંપનીમાં મોડેલ જોખમ "જ્યારે આ વોલ્યુમમાં ખોટું હોય ત્યારે શું થાય છે", "શું તે ટ્રીવીયા સેટ પાસ કરે છે" નહીં. તમને જરૂરી પરીક્ષણો શુષ્ક છે: પુનઃપ્રાપ્ત પેસેજની અંદર રહો; બ્લફિંગને બદલે અનિશ્ચિતતાને ફ્લેગ કરો; જ્યારે તમે ફરીથી શબ્દસમૂહ કરો છો ત્યારે સુસંગત રહો; નિષ્ફળ ખુલ્લા (શોધ) ને બદલે બંધ (ઇનકાર કરો, પૂછો, મુલતવી રાખો).

મેં લોકોને એક જ પ્રભાવશાળી પૂર્ણતાને પુરાવા તરીકે ગણતા જોયા છે. એ તો એવું છે કે રેસ્ટોરન્ટને "વિશ્વસનીય" ગણવું કારણ કે શરૂઆત સુંદર હતી. કદાચ એવું જ છે. કદાચ રસોડામાં દસ મિનિટ સારી રહી.

થોડો વિરોધાભાસ આવી રહ્યો છે: હું હજુ પણ અનુભૂતિ મેળવવા માટે ડેમોનો ઉપયોગ કરું છું. હું ફક્ત અનુભૂતિ ભાડે રાખતો નથી.

શું AI વિશ્વસનીય છે? જો કોઈ હજુ પણ શંકાસ્પદ હોય તો જ

હ્યુમન-ઇન-ધ-લૂપ એકમાત્ર ડિઝાઇન છે જે નિષ્ફળતા મોડ્સ સાથે મેળ ખાય છે.

જો કોઈ જવાબદાર ન હોય, તો સિસ્ટમનો ઉપયોગ એ રીતે થશે જાણે કે તે હોય. શાસન એ "કોણ સમીક્ષા કરે છે, કોણ તેને રોકી શકે છે, શું લોગ થાય છે, ચૂકી ગયા પછી શું થાય છે" માટેનું અનસેક્સી નામ છે. એજન્ટો આને વધુ તીક્ષ્ણ બનાવે છે કારણ કે તેઓ ફક્ત ફકરા જ નહીં, પણ પગલાં લે છે. તમે જે ડ્રાફ્ટ મોકલ્યો નથી તે સસ્તો છે. જે ટૂલ કોલનો તમે અર્થ નથી તે નથી.

કોણ છે તેનું નામ જણાવો. જો જવાબ "મોડેલ" હોય, તો તમારી પાસે કોઈ જવાબ નથી. ઘટના પછી મોડેલ્સ મીટિંગમાં જતા નથી. કોઈ વ્યક્તિ જાય છે, અથવા વેક્યુમ જાય છે અને પછી વકીલ જાય છે.

બ્લાસ્ટ રેડિયસ સાથે મેળ ખાતા ચેક પસંદ કરો. સોશિયલ પોસ્ટ માટે સ્પેલચેક-લેવલ રિવ્યૂ. હકીકતનો દાવો કરતી કોઈપણ વસ્તુ માટે સોર્સ-ચેક. દવા, કાયદો, ક્રેડિટ, સલામતી-નિર્ણાયક કામગીરીને લગતી કોઈપણ વસ્તુ માટે વ્યાવસાયિક. તેમના માટે, માણસ "લૂપમાં" નથી. માણસ જ લૂપ છે. મોડેલ એક સ્ટબ છે. તે વ્યક્તિત્વ તરીકે શંકા નથી. તે સ્વાદ છે.

આજકાલ ફેશન એ છે કે ચેકને ચમકતા સેન્ડ બટન પાછળ છુપાવી દેવામાં આવે છે. આજકાલ આ રીતે તમે ભૂલથી અફવાને ઓટોમેટ કરી શકો છો. તાજેતરમાં હું આ બાબતે વધુ સૂકી છું, અને કામ વધુ સારું થયું છે.

કેવી રીતે પૂછવું જેથી તમે ચૂકી જાઓ

તમે સૂર્યપ્રકાશ પ્રત્યે વ્યાવસાયિક શંકા કર્યા વિના આ સિસ્ટમોની પૂછપરછ કરી શકો છો.

• જાણી જોઈને અનિશ્ચિતતા માટે પૂછો. "આમાં શું ખોટું હશે?" "તેને આત્મવિશ્વાસપૂર્ણ બનાવો" ને હરાવે છે.

• શક્ય હોય ત્યારે પુનઃપ્રાપ્તિને પેઢીથી અલગ કરો. પહેલા ફકરાઓ જુઓ. પછી લેખન માટે પૂછો.

• પોશાક બદલો. ફરીથી વાક્ય બનાવો. તેને વિરુદ્ધ દલીલ કરવા કહો. જો તમે તે રીતે તેનો ઉપયોગ કરો છો, તો તાત્કાલિક સંવેદનશીલતા એક ફ્લેશલાઇટ છે.

• બળ પ્રતિબંધો: "ફક્ત મેં પેસ્ટ કરેલા ટેક્સ્ટમાંથી", "જો ખૂટે છે, તો કહો કે ખૂટે છે". મોડેલો આશ્ચર્યજનક રીતે આનું પાલન કરે છે... જ્યાં સુધી તેઓ ન હોય. ગમે તે રીતે તપાસો.

• વેરિફાયરવાળા કાર્યો પસંદ કરો. કમ્પાઇલર્સ, લાઇનર્સ, સ્કીમા ચેક્સ, બીજી આંખો. વિશ્વસનીયતાને ગ્રેડર ગમે છે.

• કહેવા માટે જુઓ: વધારાની વિશિષ્ટતા. ચોક્કસ દેખાતી આકૃતિ, નામ આપેલ કેસ, વ્યવસ્થિત નંબરવાળી કલમ - આ તે જગ્યા છે જ્યાં ભ્રમણા પોશાક પહેરવાનું પસંદ કરે છે.

• માનવીય પગલાંને દૃશ્યમાન રાખો. જો UI ચેક છુપાવે છે, તો લોકો ચેક છોડી દે છે. તે ફર્નિચર છે, નૈતિક નિષ્ફળતા નથી.

આમાંથી કોઈ પણ મોડેલને "સાચું" બનાવતું નથી. તે લૂપને ઓછું ભોળિયું બનાવે છે. જે, મને લાગે છે, ઉત્પાદન છે.

નકશો તમને ક્યાં છોડી દે છે

તો. હા/ના પ્રશ્ન ફક્ત એક દ્વાર તરીકે કામ કરે છે.

શું AI વિશ્વસનીય છે? એક લક્ષણ તરીકે નહીં. કાર્યના ગુણધર્મ તરીકે, ડેટાસેટ, પુનઃપ્રાપ્તિ લૂપ, એક મૂલ્યાંકન જે ડેમો નથી, અને એક માનવ જેને હજુ પણ તેનો અર્થ કરવો પડે છે. ફ્લુએન્સી આપણને મૂર્ખ બનાવતી રહેશે કારણ કે આપણે ભાષા પ્રાણીઓ છીએ અને આ સિસ્ટમો ભાષા મશીનો છે. અપટાઇમ સત્ય સાથે મૂંઝવણમાં મૂકાતો રહેશે કારણ કે બંનેને લાગે છે કે "તે કામ કર્યું". કોપાયલોટ્સ ગૂંચવાયેલા મધ્યમાં પોતાનો ખ્યાલ રાખતા રહેશે - ડ્રાફ્ટ્સ, સારાંશ જે તમે સ્કિમ કરી શકો છો, કોડ જે તમે કમ્પાઇલ કરી શકો છો - અને જ્યારે આપણે કોઈ ફકરાને નિર્ણય આઉટસોર્સ કરીએ છીએ જે પરવા કરી શકતું નથી ત્યારે તે અસુરક્ષિત છે.

જ્યાં મિસ સસ્તી હોય કે પકડી શકાય તેવી હોય ત્યાં તેનો ઉપયોગ કરો. જ્યાં મિસ મોંઘી હોય ત્યાં ધીમી ગતિએ કામ કરો. આ સીધો જવાબ છે, અને તે સૂત્ર કરતાં પણ વધુ મૂલ્યવાન છે.

જો તમે એક વાત સ્વીકારો છો: મોડેલને પૂછવાનું બંધ કરો કે તે ચોક્કસ છે કે નહીં. જ્યારે તમે તેને પૂછો છો ત્યારે શું થાય છે તે જુઓ કે તે કેવી રીતે ખોટું હોઈ શકે છે. પછી તપાસ કરો.

વાસ્તવિક દુનિયાનું ઉદાહરણ: સભ્યપદ-નીતિ AI સહાયક બનાવવું

દૃશ્ય

પ્રિયા હાર્બર મેમ્બરશિપ માટે જ્ઞાન ચલાવે છે, જે 70 સભ્યોની યુકે ટ્રેડ બોડી છે જે સ્વતંત્ર જીમ માટે કામ કરે છે. ત્રણ લોકો સભ્યોના પ્રશ્નોના જવાબ આપે છે. સત્યનો સ્ત્રોત 180 પાનાની હેન્ડબુક છે, જે દર ક્વાર્ટરમાં અપડેટ થાય છે, ઉપરાંત શેર કરેલી ડ્રાઇવમાં જૂની PDF ફાઇલો છે જેને કોઈ કાઢી નાખવાનું મન કરતું નથી.

લીડરશીપે પહેલાથી જ હેલ્પડેસ્ક કોપાયલોટ ખરીદી લીધું છે. ડેમો ખૂબ જ સારો હતો. અપટાઇમ સારો રહ્યો છે. બીજા અઠવાડિયામાં, એક સ્પષ્ટ ડ્રાફ્ટ સભ્યને કહે છે કે તેઓ 14 દિવસ માટે ફ્રીઝ કરી શકે છે અને "માનક તરીકે" સંપૂર્ણ રિફંડ મેળવી શકે છે. તે નીતિ નથી. એજન્ટે તે પકડી લીધું કારણ કે જ્યારે પૈસાની વાત હોય ત્યારે પણ તેઓ હેન્ડબુક ખોલે છે. લીડરશીપનો પ્રશ્ન, હા કે નામાં મોકલવામાં આવ્યો હતો, તે છે: શું AI વિશ્વસનીય છે?

પ્રિયા ચુકાદાનો ઇનકાર કરે છે. તે તેને નકશા તરીકે માને છે. કામ "સભ્યોને ઓરેકલ આપવાનું" નથી. તે "વર્તમાન હેન્ડબુકમાંથી જવાબ તૈયાર કરવાનું, પેસેજ બતાવવાનું અને પેસેજ ખૂટે ત્યારે ફેલ ક્લોઝ કરવાનું" છે. જો કોપાયલટ તે ન કરી શકે, તો તે ડ્રાફ્ટિંગ રમકડું છે, પોલિસી ડેસ્ક નહીં.

સહાયકને શું જોઈએ છે

• એપ્રિલ 2026 ની હેન્ડબુક એકમાત્ર માન્ય ભંડોળ તરીકે, વિભાગ નંબરો અકબંધ સાથે

• જૂની 2023 પીડીએફ જાણી જોઈને ડ્રાઇવમાં છોડી દેવામાં આવી હતી, જેથી તેઓ જોઈ શકે કે પુનઃપ્રાપ્તિ લગભગ ચૂકી ગયેલી વસ્તુને પકડી લે છે કે નહીં

• લેખિત નિયમ: ગ્રાહક સાધનોમાં ગ્રાહકનો વ્યક્તિગત ડેટા નહીં; માનવ વિના મોકલવામાં નહીં; નંબરો, વિંડોઝ અથવા "માનક" કલમોની શોધ નહીં

• પ્રોમ્પ્ટ, પુનઃપ્રાપ્ત હિસ્સા અને અંતિમ મોકલવા માટે લોગ કરવાની પરવાનગી

• એક નામાંકિત માલિક (પ્રિયા) જે ટેસ્ટ સેટ સ્કોર કરશે અને જો તે નિષ્ફળ જાય તો કોપાયલોટને રોકશે, પૈસાના પ્રશ્નો પર સિક્કો ઉછાળવા કરતાં પણ ખરાબ રીતે બંધ થશે

• જો સાધન પુનઃપ્રાપ્તિને સપોર્ટ કરે છે, તો પુનઃપ્રાપ્ત કરેલો ભાગ ડ્રાફ્ટની બાજુમાં દૃશ્યમાન હોવો જોઈએ. જો તે ન દેખાય, તો તેઓ તે ભાગને હાથથી પેસ્ટ કરશે. નિરીક્ષણયોગ્ય માર્ગ વિના ગ્રાઉન્ડિંગ હજુ પણ ધુમ્મસ જેવું જ છે.

ઉદાહરણ સૂચના

પ્રિયા આ વાત સામાન્ય ભાષામાં કહે છે, સ્ટેજ-પ્લેના પ્રોમ્પ્ટમાં નહીં:

ફક્ત એપ્રિલ 2026 ના હેન્ડબુક ફકરાઓમાંથી જ જવાબ આપો. વિભાગ નંબર ટાંકો. જો જવાબ તે ફકરાઓમાંથી ન હોય, તો "વર્તમાન હેન્ડબુકમાં નથી" કહો અને બંધ કરો. ફ્રીઝ વિન્ડોઝ, રિફંડ નિયમો અથવા ફી શોધશો નહીં. "જીમના વિવેકબુદ્ધિથી" "માનક" માં અપગ્રેડ કરશો નહીં. જો બે ફકરાઓ વિરોધાભાસી હોય, તો બંને બતાવો અને કહો કે કયો વર્તમાન છે. તમે એવા માનવ માટે ડ્રાફ્ટ કરી રહ્યા છો જે સભ્યને કંઈપણ જાય તે પહેલાં સ્રોત ખોલશે.

પછી તે પોતાના માટે બીજી સૂચના રાખે છે, કારણ કે લેખનો મુદ્દો લૂપ છે, મોડેલ નહીં:

મોકલતા પહેલા, ઉલ્લેખિત વિભાગ ખોલો. પૂછો "આમાં શું ખોટું થશે?" જો ડ્રાફ્ટમાં કોઈ નંબર હોય જે ફકરામાંથી ન હોય, તો તેને નકારી કાઢો. જો મેં ઉતાવળમાં બોસની જેમ પૂછ્યું હોય, તો શંકાસ્પદ વ્યક્તિની જેમ ફરીથી પૂછો અને સરખામણી કરો.

એક સારો ડ્રાફ્ટ આના જેવો દેખાય છે: "વર્તમાન હેન્ડબુકમાં નથી (એપ્રિલ 2026, વિભાગ 4.2). ફ્રીઝ જીમના વિવેકબુદ્ધિ પર છે. રિફંડ આપમેળે નથી. વધારો." ખરાબ ડ્રાફ્ટ આના જેવો દેખાય છે: "સભ્યો 14 દિવસ માટે ફ્રીઝ થઈ શકે છે અને ધોરણ મુજબ સંપૂર્ણ રિફંડ મેળવી શકે છે. હેન્ડબુકમાં પુષ્ટિ થયેલ છે." સમાન સ્વર. તેમાંથી ફક્ત એક જ પોલિસી છે.

તેનું પરીક્ષણ કેવી રીતે કરવું

પ્રિયા કોઈપણ કોપાયલોટ આઉટપુટ જોતા પહેલા 20 પ્રશ્નો લખે છે. તે ક્રમ મહત્વપૂર્ણ છે. એક ડેમો પ્રકાશિત થઈ રહ્યો છે. આ ડ્રાય ટેસ્ટ છે.

આ સેટ કોઈ સામાન્ય વાત નથી. આ લાઈવ ડેસ્ક છે:

• આઠ પ્રશ્નો જેના જવાબો એક વર્તમાન વિભાગમાં છે (જે સરળ છે)

• ચાર લગભગ ચૂકી ગયેલી બાબતો, જ્યાં 2023 PDF એપ્રિલના ટેક્સ્ટ કરતાં શબ્દોની નજીક છે

• ત્રણ "હેન્ડબુકમાં નથી" પ્રશ્નો (બિલિંગ વિવાદો, તબીબી-સંલગ્ન "શું આ તાલીમ સલામત છે", કાનૂની-સંલગ્ન કરારમાં ફેરફાર)

• ત્રણ પૈસાના પ્રશ્નો (ફ્રીઝ, રિફંડ, જોડાવાની ફી)

• બે સામાન્ય સભ્ય પ્રશ્નો (ખુલવાના સમય, ટ્રેનર વીમો)

તે વીસમાંથી બેને બીજા પોશાકમાં ફરીથી પૂછવામાં આવ્યા હતા, એક વાર ઉતાવળમાં બોસ તરીકે અને એક વાર શંકાસ્પદ તરીકે, તાત્કાલિક-સંવેદનશીલતા તપાસ તરીકે. તે ફરીથી પૂછવામાં આવેલા પ્રશ્નો 20-આઇટમ સ્કોરમાં ફોલ્ડ ન કરીને, નોંધાયેલા હતા.

રૂબ્રિક, પ્રિયાએ હેન્ડબુક ખોલીને સ્કોર કર્યો: પાસ માટે સાચા વર્તમાન નિયમ, વાસ્તવિક વિભાગ નંબર અને કોઈ વધારાની શોધાયેલ કલમની જરૂર નથી. શાંત નિષ્ફળ એ તકનીકી રીતે સુંદર વાક્ય છે જે અપવાદને છોડી દે છે અથવા કદાચ ફરજિયાતમાં ફેરવે છે. ઓપન નિષ્ફળ એ એક શોધાયેલ નંબર અથવા લગભગ ચૂકી ગયેલી PDF છે જેને વર્તમાન તરીકે ગણવામાં આવે છે. અપટાઇમ અલગથી ગણવામાં આવે છે, કારણ કે "તે જવાબ આપ્યો" એ "તે આવું હતું" નથી.

આગળ વધવા માટે સ્વીકૃતિ: પૈસાના પ્રશ્નો પર, નિષ્ફળ ખુલ્લા થવાને બદલે બંધ નિષ્ફળ. જો કોપાયલોટ રિફંડ વિન્ડોની શોધ કરે છે, તો તે લાઇવ ટિકિટ ડ્રાફ્ટ કરતો નથી. જો કોઈ સોર્સ ખોલશે નહીં, તો તે લાઇવ ટિકિટ પણ ડ્રાફ્ટ કરતો નથી.

પરિણામ

પ્રકાશિત હાર્બર સભ્યપદનો આંકડો નહીં, પણ 20 પ્રશ્નોની બનાવેલી પરીક્ષાનું ઉદાહરણરૂપ પરિણામ.

ધારણાઓ: એક હેલ્પડેસ્ક કો-પાયલોટ; એપ્રિલ 2026 ની હેન્ડબુક અને 2023 ની બાકી રહેલી PDF; પ્રિયાએ ઉપરોક્ત રૂબ્રિક સામે સ્કોર કર્યો; સમય એ ફોન સ્ટોપવોચ હતો જે પ્રશ્ન પેસ્ટ કરીને "હું આ મોકલીશ" સુધી હતો; સમીક્ષા સમય લૂપ કરેલી સ્થિતિમાં શામેલ છે અને અનચેક કરેલી સ્થિતિમાં બાકાત રાખવામાં આવ્યો છે, હેતુપૂર્વક, તેથી સરખામણી સમાન રહે છે.

ચેક ન કરાયેલ કોપાયલોટ, ડેમો-શૈલી પ્રોમ્પ્ટ: 20 માંથી 20 પ્રશ્નોના જવાબ સ્પષ્ટ રીતે મળ્યા (અપટાઇમ સંપૂર્ણ લાગ્યો). 20 માંથી 11 પ્રશ્નો રૂબ્રિકને પૂર્ણ કરે છે. પાંચ શાંત નિષ્ફળતાઓ હતા. ચાર ખુલ્લા નિષ્ફળતાઓ હતા, જેમાં 14-દિવસનો ફ્રીઝનો સમાવેશ થાય છે. ચાર ખુલ્લા નિષ્ફળતાઓમાંથી બેમાં 2023 PDF માંથી સ્ત્રોત આકારનો ભાગ ટાંકવામાં આવ્યો હતો. મોકલી શકાય તેવા દેખાતા ડ્રાફ્ટનો સરેરાશ સમય 1 મિનિટ હતો.

એ જ 20 પ્રશ્નો, મર્યાદિત સૂચના, દૃશ્યમાન ભાગ મેળવ્યો: એપ્રિલના લખાણમાંથી 20 માંથી 15 સંપૂર્ણપણે સાચા હતા. ત્રણે "વર્તમાન હેન્ડબુકમાં નથી" (તબીબી-સંલગ્ન અને કાનૂની-સંલગ્ન વસ્તુઓ, વત્તા એક બિલિંગ વિવાદ) યોગ્ય રીતે કહ્યું, તેથી 20 માંથી 18 સ્વીકાર્ય હતા. બે હજુ પણ નિષ્ફળ ગયા: એકે 2023 પીડીએફ લગભગ ચૂકી ગયો હતો, અને એકે જોડાવાની ફીનો આંકડો શોધ્યો જે પેસેજમાં નહોતો. ડ્રાફ્ટ કરવાનો સરેરાશ સમય હજુ લગભગ 1 મિનિટનો હતો.

એ જ ૨૦ મિનિટ, અને પ્રિયાએ સિમ્યુલેટેડ મોકલતા પહેલા ઉલ્લેખિત વિભાગ ખોલ્યો: ૨૦ માંથી ૧૯ મિનિટ સ્વીકાર્ય હોત. તેણીએ લગભગ ચૂકી ગયેલી PDF પકડી. બાકીની ચૂક એ હતી કે સમીક્ષકે એક સ્પષ્ટ ફકરો સ્કિમ કર્યો અને શોધાયેલ જોડાવાની ફીના આંકડા પર ધ્યાન આપ્યું નહીં. સમીક્ષા સહિત, સરેરાશ સમય ૩ મિનિટ હતો.

જૂની પ્રક્રિયા, ફક્ત હેન્ડબુક શોધ, કોઈ સહ-પાયલોટ નહીં: 20 માંથી 20 સ્વીકાર્ય. સરેરાશ 9 મિનિટ.

આ નમૂનામાં, લૂપ્ડ કોપાયલોટ હેન્ડબુક હન્ટ (9 ઓછા 3) કરતાં 6 મિનિટ ઝડપી હતો, અથવા 20 પ્રશ્નોમાં 120 મિનિટ, જેમાં 20 માંથી 20 ને બદલે 20 માંથી 19 સ્વીકાર્ય હતા. અનચેક્ડ કોપાયલોટ 8 મિનિટ ઝડપી (9 ઓછા 1) હતો અને 20 માંથી 9 પર, શાંતિથી કે મોટેથી, ખોટો હતો. તે સ્ટીયરિંગ પેકમાં મૂકવા માટે 67% સમય બચાવતો નથી. તે 9-મિસ લીક ​​છે જે તમે સ્વચાલિત હોત.

બંનેના ઉતાવળિયા-બોસ વર્ઝન વારંવાર પૂછાતા પ્રશ્નોનો વધુ પડતો દાવો કરતા હતા. શંકાસ્પદ વર્ઝન હેજ્ડ હતા. એક જ મોડેલ, એક જ હેન્ડબુક, અલગ પોશાક. પ્રિયાએ તેને વ્યક્તિત્વ તરીકે નહીં, પણ એક શોધ તરીકે નોંધ્યું.

આ આંકડા જણાવેલ પરીક્ષણ, એક નાનો સેટ, ગુસ્સે થયેલા સભ્ય કરતાં વધુ સરળ ટિકિટો અને એક સમીક્ષક જે પહેલાથી જ પુસ્તક જાણતો હતો તેના આધારે એક ઉદાહરણ અંદાજ છે. તેઓ બતાવતા નથી કે કોપાયલટ "95% વિશ્વસનીય" છે, અથવા હાર્બરે ડેસ્ક પર્સને કાપી નાખવો જોઈએ. તેઓ દર્શાવે છે કે અપટાઇમ પ્રશ્ન નહોતો, અને ચેક હતો.

શું ખોટું થઈ શકે છે?

• લીડરશીપ 1 મિનિટનો ડ્રાફ્ટ સમય ટાંકે છે અને 9 મિસ છોડી દે છે. ઝડપ હજુ પણ 4 વાગ્યા સુધી યોગ્યતા જેવી લાગે છે.

• 2023 ની PDF ઇન્ડેક્સમાં રહે છે. પુનઃપ્રાપ્તિ તેને સતત મેળવે છે. ગ્રાઉન્ડિંગ પુખ્ત લાગે છે અને હજુ પણ લગભગ ચૂકી ગયું છે.

• UI એ પુનઃપ્રાપ્ત કરેલા ભાગને એક ચમકદાર સેન્ડ બટન પાછળ છુપાવે છે. લોકો હેન્ડબુક ખોલવાનું બંધ કરી દે છે, આ રીતે ફ્રીઝ જવાબ સભ્ય સુધી પહોંચે છે.

• પ્રિયા ફક્ત આઠ સરળ પ્રશ્નો જ આપે છે કારણ કે તે સ્લાઇડમાં વધુ સારા લાગે છે. મૂલ્યાંકન થિયેટર, ફક્ત સ્પ્રેડશીટ સાથે.

• તબીબી બાજુમાં "શું આ તાલીમ સલામત છે" જવાબ સંક્ષિપ્તમાં દેખાવા દે છે. નકશામાં લગભગ ક્યારેય નહીં લખ્યું હતું. સ્વરમાં કહેવામાં આવ્યું હતું કે આગળ વધો.

• લોગ બંધ છે કારણ કે "તે વધારાનું લાગ્યું". ચૂકી ગયા પછી, કોઈ જોઈ શકતું નથી કે કયો પેસેજ પાછો મેળવ્યો હતો.

• તેઓ મોડેલને પૂછે છે કે શું તે ખાતરીપૂર્વક છે. તે ખાતરીપૂર્વક છે. તે ક્યારેય પરીક્ષણ નહોતું.

વ્યવહારુ ઉપાય

વિશ્વસનીયતા એ કોપાયલોટ હાર્બરનો ગુણ નથી. તે 20 પ્રશ્નો, એક વર્તમાન માર્ગદર્શિકા, એક દૃશ્યમાન માર્ગ અને પૈસાની વાત આવે ત્યારે પણ સ્ત્રોત ખોલનાર વ્યક્તિની મિલકત છે. ફ્લુએન્સી અપટાઇમ ટેસ્ટમાં પાસ થતી રહેશે. લૂપ એ એકમાત્ર વસ્તુ છે જે પોલિસી ટેસ્ટમાં પાસ થાય છે.

વારંવાર પૂછાતા પ્રશ્નો

જનરેટિવ AI માટે વિશ્વસનીયનો અર્થ શું થાય છે?

રોજિંદા વિશ્વસનીયતાનો અર્થ એ છે કે તમે કંઈક પર આધાર રાખી શકો છો. બોલતા ઓટોમેશન સાથે, ગુણધર્મોનો આખો સમૂહ એક શબ્દ હેઠળ છુપાયેલો હોય છે: વાસ્તવિકતા, સુસંગતતા, કેલિબ્રેશન, સલામતી, અપટાઇમ, પ્રોમ્પ્ટ સંવેદનશીલતા, એજ કેસ અને વિતરણ શિફ્ટ પછી વર્તન. આમાંથી કોઈ પણ એકસાથે નિષ્ફળ જાય છે. લાઇવ ટેસ્ટ શું, કોના માટે, કયા લૂપ સાથે તેની આસપાસ વિશ્વસનીય છે. નહિંતર તમે બ્લેન્ડરને ગ્રેડ કરી રહ્યા છો કે તે કર કરી શકે છે કે નહીં.

શું AI વિશ્વસનીય છે?

કોઈ ખાસિયત તરીકે નહીં. એક LLM એક કામમાં મજબૂત અને બીજા કામમાં શાંતિથી કામ ન કરી શકે છે, ક્યારેક એક જ બેઠકમાં, ક્યારેક કારણ કે તમે અલ્પવિરામ ખસેડ્યો છે. વિશ્વસનીયતા એ કાર્ય, ડેટાસેટ, પુનઃપ્રાપ્તિ લૂપ, એક મૂલ્યાંકન જે ડેમો નથી, અને એક માનવીનો ગુણધર્મ છે જેને હજુ પણ તેનો અર્થ કરવો પડે છે. જ્યાં ચૂક સસ્તી હોય અથવા પકડી શકાય તેવી હોય ત્યાં તેનો ઉપયોગ કરો. જ્યાં ચૂક મોંઘી હોય ત્યાં ધીમી ગતિએ કામ કરો.

શું AI અપટાઇમ અને સત્યતા સમાન છે?

ના. અપટાઇમ એ છે કે શું અંતિમ બિંદુએ જવાબ આપ્યો. સત્યતા એ છે કે શું જવાબ સાચો હતો. તમારી પાસે એવી સેવા હોઈ શકે છે જે ક્યારેય આંખ મારતી નથી અને છતાં ગ્રાહક ટિકિટમાં અસ્ખલિત જૂઠાણું મોકલે છે. જ્યારે કતાર એક રાક્ષસ હોય ત્યારે ગતિ યોગ્યતા જેવી લાગે છે. સલામતી એ બીજી ધરી છે: એક મોડેલ જે જેલબ્રેકનો ઇનકાર કરે છે તે હજુ પણ તમારી પોતાની નોંધોનો સારાંશ ગૂંચવી શકે છે.

ખોટું હોવા છતાં પણ શા માટે અસ્ખલિત AI વિશ્વસનીય લાગે છે?

ચોકસાઈ અને પ્રવાહિતા છૂટા પડ્યા, અને પ્રવાહિતા ઘરને જાળવી રાખે છે. LLM તમને લય, હેજિંગ, કદાચ નકલી-પણ-સુંદર સંદર્ભનો આકાર આપશે, અને તમારું મગજ વાંચશે "આ વ્યક્તિ જાણે છે." માપાંકન ઘણીવાર ભયંકર હોય છે: ઉચ્ચ આત્મવિશ્વાસ, મધ્યમ સત્ય, મુખ્ય ભાષણની જેમ પહોંચાડવામાં આવે છે. અણઘડ ખોટો જવાબ તમને શંકાસ્પદ બનાવે છે. અસ્ખલિત ખોટો જવાબ તમને તપાસવાનું બંધ કરે છે. જો તે સંક્ષિપ્તની જેમ બોલે છે, તો આપણે તેને સંક્ષિપ્તની જેમ ગણીએ છીએ, અને આ રીતે મિસ ડેકમાં પ્રવેશ કરે છે.

શું તબીબી, કાનૂની અથવા ગ્રાહક-સહાય કાર્ય માટે AI વિશ્વસનીય છે?

તે કામ પર આધાર રાખે છે, બ્રાન્ડ પર નહીં. તબીબી અને કાનૂની સલાહ લગભગ ક્યારેય ઉત્પાદન તરીકે પૂરતી સારી હોતી નથી: મોડેલ એક સ્ટબ છે અને માનવ વ્યાવસાયિક છે. ગ્રાહક સપોર્ટ કડક નીતિમાં ડ્રાફ્ટ કરી શકે છે, પરંતુ વ્યક્તિએ પૈસા મોકલવાની માલિકી અને વિશ્વાસ રાખવો જોઈએ, કારણ કે શોધેલી નીતિ અને નમ્ર ખોટો નંબર એ સામાન્ય નિષ્ફળતા છે. ડ્રાફ્ટ્સ અને સારાંશ એ ટેક્સ્ટ પર પ્રથમ પાસ છે જે તમે પહેલાથી જ જાણો છો. નામો, સંખ્યાઓ અને તે રેખા તપાસો જે નુકસાન પહોંચાડી શકે છે.

શા માટે AI ભ્રમિત થાય છે, આગળ વધે છે, અથવા શાંતિથી ખોટું થઈ જાય છે?

ભ્રમ એ એક મસાલેદાર ભૂલ છે: એક પુસ્તક જે અસ્તિત્વમાં નથી, એક કાર્ય જે ક્યારેય મોકલવામાં આવ્યું ન હતું, એક નીતિ કલમ જેમાં એક નંબર છે જે સત્તાવાર લાગે છે. ડ્રિફ્ટ ઓછું સિનેમેટિક છે: દુનિયા ફરે છે, મોડેલનો બાકી રહેલો ભાગ રહે છે, અને તમને પાછલા હવામાનમાંથી સુવ્યવસ્થિત જવાબ મળે છે. શાંત ખોટી વાત એ એક સારાંશ છે જે અપવાદને છોડી દે છે. અથવા એક શબ્દસમૂહ જે કદાચ આવશ્યકમાં અપગ્રેડ કરે છે. અર્થ સરકી ગયો હોય ત્યારે વાસ્તવિકતા તકનીકી રીતે સારી દેખાઈ શકે છે. જ્યારે તમે રેપિંગ બદલો છો ત્યારે તાત્કાલિક સંવેદનશીલતા તથ્યોને ચમકાવે છે.

શું ગ્રાઉન્ડિંગ અથવા રીટ્રીવલ એઆઈને વિશ્વસનીય બનાવે છે?

ગ્રાઉન્ડિંગનો અર્થ આમાંથી જવાબ છે, ધુમ્મસમાંથી નહીં. પુનઃપ્રાપ્તિ વર્તમાનને એક પ્રશિક્ષિત ઢગલા પર બોલ્ટ કરે છે. જ્યારે તે નિષ્ફળ જાય છે, ત્યારે તે નમ્રતાથી નિષ્ફળ જાય છે: લગભગ ચૂકી ગયેલ દસ્તાવેજ, એક કમ્પોઝ્ડ લેખન, અને તમારી તપાસ કરવાની વૃત્તિ બંધ થઈ જાય છે. ગ્રાઉન્ડિંગ એ એક ફ્લોર છે, પ્રભામંડળ નથી. જો તમે પુનઃપ્રાપ્ત કરેલા ભાગનું નિરીક્ષણ કરી શકતા નથી, તો તમે હજી પણ ધુમ્મસમાં છો, ફક્ત વધુ સારી લાઇટિંગ સાથે. કિંમતો અથવા નીતિ શબ્દરચના જેવા લાઇવ-સ્ટેટ કાર્યોને સ્થિર હસ્તકલા સાથે મિશ્ર કરો, અને તમને એક એવી દુનિયા વિશે ખૂબ જ ખાતરીપૂર્વક જવાબ મળશે જે પહેલાથી જ ખસેડાઈ ગઈ છે.

AI વિશ્વસનીયતા માટે ડેમો કેમ ખરાબ પરીક્ષણ છે?

એક સ્વચ્છ પ્રોમ્પ્ટ અને એક કાર્ય જે મોડેલે હજારો પિતરાઈ ભાઈઓ જોયા છે તે તીક્ષ્ણ દેખાશે. લાઇવ વર્કફ્લોમાં ગૂંચવાયેલી પેસ્ટ, ગુમ થયેલી ફાઇલો અને એક વપરાશકર્તા છે જે પહેલો જવાબ સ્વીકારશે જે તેમની ચિંતા ઘટાડે છે. લીડરબોર્ડ સ્કોર તમારી ટિકિટ પર કેલિબ્રેશન નથી. મોડેલ જોખમ એ છે કે જ્યારે આ વોલ્યુમ પર ખોટું હોય ત્યારે શું થાય છે, નહીં કે તે ટ્રીવીયા સેટ પાસ કરે છે કે નહીં. તમારે જરૂરી પરીક્ષણો શુષ્ક છે: પુનઃપ્રાપ્ત પેસેજની અંદર રહો, બ્લફિંગને બદલે અનિશ્ચિતતાને ફ્લેગ કરો, જ્યારે તમે ફરીથી શબ્દસમૂહ કરો છો ત્યારે સુસંગત રહો, અને શોધ કરવાને બદલે બંધ નિષ્ફળ જાઓ.

જો કોઈ શંકાસ્પદ ન હોય તો શું AI વિશ્વસનીય છે?

ના. જો કોઈ જવાબદાર ન હોય, તો સિસ્ટમનો ઉપયોગ એ રીતે કરવામાં આવશે જાણે કે તે હોય. હ્યુમન-ઇન-ધ-લૂપ એ એકમાત્ર ડિઝાઇન છે જે નિષ્ફળતા મોડ્સ સાથે મેળ ખાય છે: કોણ સમીક્ષા કરે છે, કોણ તેને રોકી શકે છે, શું લોગ થાય છે, મિસ પછી શું થાય છે. જો જવાબ "મોડેલ" હોય, તો તમારી પાસે કોઈ જવાબ નથી. મોડેલ્સ ઘટના પછી મીટિંગમાં જતા નથી. દવા, કાયદો, ક્રેડિટ અથવા સલામતી-નિર્ણાયક કામગીરી માટે, હ્યુમન લૂપ છે અને મોડેલ સ્ટબ છે.

ભૂલો પકડવા માટે હું AI ને કેવી રીતે પ્રોમ્પ્ટ કરું?

જાણી જોઈને અનિશ્ચિતતા માટે પૂછો: "આ શું ખોટું બનાવશે?" "તેને આત્મવિશ્વાસપૂર્ણ બનાવો" ને હરાવે છે. શક્ય હોય ત્યારે પેઢીમાંથી પુનઃપ્રાપ્તિને વિભાજીત કરો. પહેલા ફકરાઓ જુઓ, પછી લેખન માટે પૂછો. પોશાક બદલો: ફરીથી વાક્ય બનાવો, અથવા તેને વિરુદ્ધ દલીલ કરવા માટે કહો. "ફક્ત મેં પેસ્ટ કરેલા ટેક્સ્ટમાંથી" અથવા "જો ખૂટે છે, તો કહો કે ખૂટે છે," જેવા અવરોધો લાગુ કરો અને હજુ પણ તપાસો. વેરિફાયર સાથે કાર્યો પસંદ કરો, અને વધારાની વિશિષ્ટતા જુઓ, કારણ કે તે જ જગ્યાએ ભ્રામકતા પોશાક પહેરવાનું પસંદ કરે છે.

સંદર્ભ

1. એનઆઈએસટી - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. એનસીએસસી - www.ncsc.gov.uk

6. એનસીએસસી - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

અધિકૃત AI સહાયક સ્ટોર પર નવીનતમ AI શોધો

અમારા વિશે