के एआई भरपर्दो छ? [भिडियो र क्विज]

छोटो उत्तर: एआई एक विशेषताको रूपमा भरपर्दो छैन: यो कार्य, पुन: प्राप्ति लूप, र अझै पनि हुकमा रहेको मानवमा। अपटाइम भनेको अन्तिम बिन्दुले उत्तर दियो कि दिएन; सत्यता भनेको उत्तर त्यस्तै थियो कि दिएन। मिस सस्तो वा समात्न सकिने बेला यसलाई प्रयोग गर्नुहोस्; मिस महँगो हुँदा ढिलो गर्नुहोस्।

मुख्य कुराहरू:

जवाफदेहिता: समीक्षा कसले गर्छ, कसले रोक्न सक्छ र कसले जालमा छ भनेर नाम दिनुहोस्।

पारदर्शिता: पुनःप्राप्त गरिएको भागको निरीक्षण गर्नुहोस्, नत्र तपाईं अझै पनि कुहिरोमा हुनुहुन्छ।

लेखापरीक्षण योग्यता: लग प्रम्प्टहरू, भागहरू पुन: प्राप्त गर्ने, र पठाइन्छ ताकि छुटेका कुराहरू ट्रेस गर्न सकियोस्।

दुरुपयोग प्रतिरोध: पैसा सम्बन्धी प्रश्नहरूमा असफल; कहिल्यै संख्या, विन्डोज वा नीति आविष्कार नगर्नुहोस्।

उदाहरणात्मक नतिजाहरू: २०-प्रश्नहरूको उदाहरणात्मक परीक्षणलाई ९५% प्रमाण होइन, नक्साको रूपमा व्यवहार गर्नुहोस्।

यसपछि पढ्न मन लाग्ने लेखहरू:

🔗 दैनिक जीवनमा AI कसरी प्रयोग गर्ने
AI ले दैनिक कार्य र दिनचर्यालाई सरल बनाउन सक्ने व्यावहारिक तरिकाहरू पत्ता लगाउनुहोस्।

🔗 काममा AI कसरी प्रयोग गर्ने
AI मार्फत उत्पादकता र दक्षता सुधार गर्ने व्यावहारिक तरिकाहरू सिक्नुहोस्।

🔗 के एआई आफैं सोच्न सक्छ?
के आर्टिफिसियल इन्टेलिजेन्सले साँच्चै स्वतन्त्र रूपमा सोच्न र तर्क गर्न सक्छ कि सक्दैन भनेर अन्वेषण गर्नुहोस्।

🔗 एआई कति प्रकारका हुन्छन्?
मुख्य एआई प्रकारहरू, क्षमताहरू र मुख्य भिन्नताहरू बुझ्नुहोस्।

मेसिन एउटा तथ्याङ्कीय सुगा भए पनि "भरपर्दो" को अर्थ के हुन्छ?

दैनिक बोलीमा विश्वसनीयताको अर्थ तपाईं कुनै कुरामा भर पर्न सक्नुहुन्छ।.

बोल्ने स्वचालनको साथ, विभिन्न गुणहरूको थुप्रो एउटै शब्द मुनि लुकेको हुन्छ। तथ्यात्मकता। स्थिरता। क्यालिब्रेसन - मोडेलको आत्मविश्वास सही छ कि छैन भन्ने कुरासँग मेल खान्छ, वा यो केवल... निश्चित सुनिन्छ। सुरक्षा। अपटाइम। शीघ्र संवेदनशीलता। व्यवहार अन एज केसहरू। वितरण परिवर्तन पछि व्यवहार, जब प्रत्यक्ष संसार प्रशिक्षण संसार होइन। ती मध्ये कुनै पनि सँगै असफल हुँदैन। त्यो बिट हो जुन मानिसहरूले छोड्छन्।

एउटा च्याटबट हप्ताभरि "माथि" रहन सक्छ र मंगलबार दिउँसो पनि गलत हुन सक्छ। कोडिङ कोपाइलटले बोइलरप्लेटमा राम्रोसँग काम गर्न सक्छ र त्यसपछि वास्तविक जस्तै देखिने API लाई भ्रमित गर्न सक्छ। मानिसहरूले प्रयोग गर्ने रूपक "एक जुनियर सहकर्मी" हो। यो अपूर्ण छ - जुनियरहरू लज्जित हुन्छन् - तर यो "ओरेकल" भन्दा नजिक छ।.

लाइभ टेस्ट के, कसको लागि, कुन लूपको साथ यसको वरिपरि भरपर्दो छ। अन्यथा तपाईं ब्लेंडरले कर गर्न सक्छ कि सक्दैन भनेर ग्रेडिङ गर्दै हुनुहुन्छ।

अपटाइम सत्यता होइन - दुई फरक प्रकारका "विश्वसनीय"

अप्स मान्छे र सत्य मान्छे एउटै शब्द प्रयोग गर्छन् र एकअर्कालाई छलेर कुरा गर्छन्।.

अपटाइम भनेको "अन्तिम बिन्दुको उत्तर दिए" हो। सत्यता भनेको "त्यसैले उत्तर थियो" हो। शासनले दुवैको ख्याल राख्छ, र मोडेल जोखिम कुरूप खाडलमा बस्छ। तपाईंसँग त्यस्तो सेवा हुन सक्छ जुन कहिल्यै आँखा झिम्काउँदैन र अझै पनि ग्राहक टिकटमा धाराप्रवाह झूट पठाउँछ। SRE अर्थमा भरपर्दो। "कृपया फिर्ता नीति आविष्कार नगर्नुहोस्" अर्थमा भरपर्दो छैन।.

मलाई लाग्छ यो स्पष्ट रूपमा लेखिएको छ। जब जवाफ छिटो हुन्छ र लाइन एक राक्षस हुन्छ, यो बेलुका ४ बजे स्पष्ट हुँदैन। गति क्षमता जस्तो लाग्छ। पहिले ढिलो हुनुको अर्थ कोही सोचिरहेको थियो। अब गति भनेको कोही पनि सोचिरहेको छैन भन्ने संकेत हो।.

सुरक्षा अर्को अक्ष हो। खराब जेलब्रेकलाई अस्वीकार गर्ने मोडेल सुरक्षा-मूल्यांकन तरिकामा "भरपर्दो" हुन्छ र अझै पनि तपाईंको आफ्नै नोटहरूको सारांशलाई मिलाउन सक्छ।.

धाराप्रवाह र गलत कुरा भद्दा र स्पष्ट भन्दा खराब हो।

यो आत्मविश्वासको समस्या हो, र यसले नै टोक्छ।.

शुद्धता र धाराप्रवाहको सम्बन्ध विच्छेद भयो र धाराप्रवाहले घरलाई सुरक्षित राख्यो। LLM ले तपाईंलाई लय दिनेछ, सही ठाउँहरूमा हेजिङ गर्नेछ, सायद नक्कली-तर-सुन्दर उद्धरणको आकार। तपाईंको दिमागले "यो व्यक्तिलाई थाहा छ" भनेर पढ्छ। बाहेक यो व्यक्ति होइन, र क्यालिब्रेसन प्रायः भयानक हुन्छ - उच्च आत्मविश्वास, मध्यम सत्य, मुख्य भाषण जस्तै प्रस्तुत गरिएको।

एउटा अनाड़ी गलत उत्तरले तपाईंलाई शंकास्पद बनाउँछ। एउटा धाराप्रवाह गलत उत्तरले तपाईंलाई जाँच गर्नबाट रोक्छ। त्यो सानो भिन्नता होइन; यो एउटा अलि नराम्रो वाक्यमा सम्पूर्ण कथा हो।.

पक्षपात पनि त्यहाँ बस्छ, सधैं कलंकको रूपमा होइन, कोठामा को छ र कुन अंग्रेजी स्वाद तटस्थ मानिन्छ भन्ने बारेमा पूर्वनिर्धारित रूपमा। मानिसहरू मूर्ख बन्छन् किनभने भाषा हाम्रो सबैभन्दा पुरानो विश्वास इन्टरफेस हो। यदि यो संक्षिप्त जस्तै कुरा गर्छ भने, हामी यसलाई संक्षिप्त जस्तै व्यवहार गर्छौं। म त्यसको बारेमा अझ बढी निन्दनीय हुन चाहन्छु। त्यसपछि म एउटा स्पष्ट सारांश पढ्छु र मेरो काँध तल झर्छ। बैठकमा जाँदा, सारांश समाप्त भएको देखिन्छ। त्यो वाक्यले धेरै काम गरिरहेको छ, र अझै पनि: यसरी मिस डेकमा पुग्छ।.

ब्रान्ड अनुसार होइन, परिस्थिति अनुसार विश्वसनीयता

ब्रान्डहरू ध्यान भंग गर्ने माध्यम हुन्। तुलनाले नै यसको संरक्षण गर्छ। पङ्क्तिहरू एकअर्कासँग बहस गर्नेछन्। त्यो ठीक छ।.

जे भए पनि। यदि तपाईंको मनपर्ने उपकरण ड्राफ्टमा निपुण छ र तपाईंले मध्यरातमा कानुनी-सम्बन्धित आरामको लागि सोध्नुभयो भने, त्यो अपग्रेड होइन। त्यो नक्साले भन्छ कि तपाईं त्यसबाट बाहिर निस्कनुभयो।.

भ्रम, बहाव, र शान्त प्रकारको गलती

मतिभ्रमले समाचारको शीर्षक पाउँछ किनभने यो मसालेदार हुन्छ: एउटा पुस्तक जुन अस्तित्वमा छैन, एउटा कार्य जुन कहिल्यै पठाइएको थिएन, एउटा नीतिगत खण्ड जसमा आधिकारिक महसुस हुन्छ।

ड्रिफ्ट कम सिनेम्याटिक छ। संसार चल्छ। मोडेलका अवशेषहरू बाँकी रहन्छन्। तपाईंले एउटा प्रश्न सोध्नुहुन्छ जसलाई नयाँ सन्दर्भ चाहिन्छ र तपाईंले अघिल्लो मौसमबाट राम्रोसँग व्यवस्थित उत्तर पाउनुहुन्छ। मैले त्यहाँ लगभग "अर्को युगबाट" लेखेको थिएँ, जुन यो विषयले आमन्त्रित गर्ने अतिरंजित कुरा हो। यो अर्को युग होइन। यो अहिले मात्र होइन।.

मौन गलतपन त्यो हो जसको मलाई बढी वास्ता छ। अपवादलाई छोड्ने सारांश। एउटा वाक्यांश जसले "सायद" लाई "अनिवार्य" मा स्तरोन्नति गर्छ। अर्थ फिसलिएको बेला तथ्यात्मकता "प्राविधिक रूपमा राम्रो" हुन सक्छ।.

तुरुन्त संवेदनशीलताले यसलाई झनै खराब बनाउँछ। र्‍यापिङ परिवर्तन गर्नुहोस् र "तथ्यहरू" चम्किलो बनाउनुहोस्। शंकालुको रूपमा सोध्नुहोस्, हेजहरू पाउनुहोस्। हतारमा हाकिमको रूपमा सोध्नुहोस्, छिटो दाबी गर्नुहोस्। यदि तपाईंको मूल्याङ्कनले एउटा मात्र पोशाक प्रयोग गर्छ भने, तपाईंको मूल्याङ्कन अलि झूट हो। माफ गर्नुहोस्।.

जेलब्रेकहरू किनारमा बस्छन्, र म डकैती फिल्म चाहन्न। यदि कुनै प्रणालीलाई यसको शिष्टाचार त्याग्न बोलाउन सकिन्छ भने, विश्वसनीयता केवल सत्यको बारेमा मात्र होइन; यो रेलिङहरू लूप हुन् वा पोस्टर हुन् भन्ने कुरा हो।

तालिमको बाँकी अंश, पुरानो ज्ञान, र किन ग्राउन्डिङ जादुको छडी होइन

जेनेरेटिभ मोडेलहरूलाई थुप्रोमा प्रशिक्षित गरिन्छ, त्यसपछि तपाईंको मंगलबारतिर औंल्याइएको हुन्छ। पुन:प्राप्ति भनेको वर्तमानलाई त्यो थुप्रोमा बोल्ट गर्ने परिपक्व प्रयास हो। ग्राउन्डिङको अर्थ "यसबाट जवाफ दिनुहोस्, कुहिरोबाट होइन"। जब यो असफल हुन्छ, यो विनम्रतापूर्वक असफल हुन्छ।.

क्लासिक असफलता: रिट्रिभरले लगभग छुटेको कागजात ल्याउँछ। जेनेरेटरले पूर्ण संयमका साथ त्यसलाई लेख्छ। तपाईंले स्रोत आकारको वस्तु देख्नुहुन्छ र तपाईंको जाँच गर्ने प्रवृत्ति बन्द हुन्छ। म यो गर्छु। तपाईंले सायद यो गर्नुहुन्छ। उद्धरण विचार सही छ; कार्यान्वयन हिट जत्तिकै राम्रो छ।.

बासी ज्ञान अर्को चुहावट हो। केही कार्यहरूलाई प्रत्यक्ष अवस्था चाहिन्छ - मूल्य, सूची, नीतिको हालको शब्दावली। केहीलाई स्थिर शिल्प चाहिन्छ, जस्तै मेमो कसरी संरचना गर्ने। ती मिश्रण गर्नुहोस् र तपाईंले पहिले नै सरिसकेको संसारको बारेमा धेरै निश्चित उत्तर पाउनुहुनेछ। वितरण परिवर्तन भनेको परिपक्व नाम हो: प्रत्यक्ष वितरण प्रशिक्षण वितरण होइन, र किनारा केसहरू खाली ठाउँमा बस्छन्।.

अर्को कुरा, गलत ठाउँमा हाइफन राखेर भनिएको छ किनभने मेरा नोटहरू त्यस्तै देखिन्छन्: ग्राउन्डिङ भनेको भुइँ हो - हेलो होइन। यदि तपाईंले पुनःप्राप्त गरिएको भागको निरीक्षण गर्न सक्नुहुन्न भने, तपाईं अझै पनि कुहिरोमा हुनुहुन्छ, केवल राम्रो प्रकाशको साथ।.

मूल्याङ्कन रंगमञ्च: किन डेमो एक भयानक परीक्षण हो

डेमोहरू हल्का छन्। बेन्चमार्कहरू अलि बढी स्पष्ट छन्, र अझै पनि तपाईंको काम होइन।.

एउटा सफा प्रम्प्ट र एउटा कार्य जुन मोडेलले हजारौं काका-काकीहरू देखेको छ - अवश्य पनि यो तीखो देखिन्छ। मूल्याङ्कन जसले केवल त्यो मापन गर्दछ जुन स्टेज प्ले मापन गर्दैछ। प्रत्यक्ष कार्यप्रवाहहरूमा पेस्ट, हराएको फाइलहरू, र एक प्रयोगकर्ता छ जसले पहिलो उत्तर स्वीकार गर्नेछ जसले उनीहरूको चिन्ता कम गर्दछ।.

बेन्चमार्कहरूले महत्व राख्छन्। तिनीहरू डेकहरूले जस्तो राम्रोसँग यात्रा गर्दैनन्। लिडरबोर्ड स्कोर तपाईंको टिकटहरूमा क्यालिब्रेसन होइन। कम्पनीमा मोडेल जोखिम भनेको "भोल्युममा यो गलत हुँदा के हुन्छ" हो, "के यसले ट्रिभिया सेट पास गर्यो" होइन। तपाईंलाई आवश्यक पर्ने परीक्षणहरू सुख्खा छन्: पुनःप्राप्त गरिएको मार्ग भित्र रहनुहोस्; ब्लफिंगको सट्टा अनिश्चिततालाई झण्डा दिनुहोस्; पुन: वाक्यांश गर्दा स्थिर रहनुहोस्; असफल बन्द (अस्वीकार गर्नुहोस्, सोध्नुहोस्, स्थगित गर्नुहोस्) असफल खुला (आविष्कार) भन्दा सट्टा।.

मैले मानिसहरूले एउटा प्रभावशाली समापनलाई प्रमाणको रूपमा हेरेको छु। त्यो भनेको रेस्टुरेन्टलाई "भरपर्दो" भनेर निर्णय गर्नु जस्तै हो किनभने सुरुवात राम्रो थियो। सायद त्यस्तै हो। सायद भान्सामा दस मिनेट राम्रो थियो।.

थोरै विरोधाभास आउँदैछ: म अझै पनि अनुभव प्राप्त गर्न डेमोहरू प्रयोग गर्छु। म केवल अनुभव भाडामा लिने छैन।.

के एआई भरपर्दो छ? यदि कोही अझै पनि जालमा छ भने मात्र

ह्युमन-इन-द-लूप एक मात्र डिजाइन हो जुन असफलता मोडहरूसँग मेल खान्छ।

यदि कोही पनि जवाफदेही छैन भने, प्रणालीलाई त्यस्तै प्रयोग गरिनेछ जस्तो कि यो थियो। शासन भनेको "कसले समीक्षा गर्छ, कसले रोक्न सक्छ, के लग हुन्छ, मिस पछि के हुन्छ" को लागि अनसेक्सी नाम हो। एजेन्टहरूले यसलाई अझ तीखो बनाउँछन् किनभने तिनीहरूले अनुच्छेद मात्र होइन, कारबाही गर्छन्। तपाईंले नपठाएको मस्यौदा सस्तो हुन्छ। तपाईंले नपठाएको उपकरण कलको अर्थ यो होइन।

को को संलग्न छन् नाम दिनुहोस्। यदि उत्तर "मोडेल" हो भने, तपाईंसँग उत्तर छैन। मोडेलहरू घटना पछि बैठकमा जाँदैनन्। एक व्यक्ति जान्छ, वा भ्याकुम जान्छ र त्यसपछि एक वकिल।.

ब्लास्ट रेडियससँग मिल्ने जाँचहरू छान्नुहोस्। सामाजिक पोस्टको लागि हिज्जे जाँच-स्तर समीक्षा। तथ्य दाबी गर्ने कुनै पनि कुराको लागि स्रोत-जाँच। औषधि, कानून, क्रेडिट, सुरक्षा-महत्वपूर्ण अप्ससँग सम्बन्धित कुनै पनि कुराको लागि एक पेशेवर। तिनीहरूका लागि, मानव "लुपमा" छैन। मानव लुप हो। मोडेल एक स्टब हो। त्यो व्यक्तित्वको रूपमा शंका होइन। त्यो स्वाद हो।

अहिले फेसन भनेको चम्किलो सेन्ड बटन पछाडि चेक लुकाउने हो। आजकल यसरी नै तपाईंले गल्तिले हल्लालाई स्वचालित बनाउनुहुन्छ। पछिल्लो समय म यसबारे सुक्खा भएको छु, र काम राम्रो भएको छ।.

कसरी सोध्ने ताकि तपाईंले मिस पाउनुहुनेछ

तपाईं सूर्यको प्रकाशको व्यावसायिक शंका नगरी यी प्रणालीहरूलाई सोधपुछ गर्न सक्नुहुन्छ।.

• जानाजानी अनिश्चितताको लागि सोध्नुहोस्। "यसलाई के गलत बनाउँछ?" "यसलाई विश्वस्त बनाउनुहोस्" लाई हराउँछ।.

• जब सक्नुहुन्छ, पुन:प्राप्तिलाई पुस्ताबाट विभाजन गर्नुहोस्। पहिले अंशहरू हेर्नुहोस्। त्यसपछि लेखनको लागि सोध्नुहोस्।.

• पोशाक परिवर्तन गर्नुहोस्। पुन: वाक्यांश गर्नुहोस्। यसलाई विपरीत तर्क गर्न भन्नुहोस्। यदि तपाईंले त्यसरी प्रयोग गर्नुभयो भने द्रुत संवेदनशीलता टर्चलाइट हो।.

• बल अवरोधहरू: "मैले टाँसेको पाठबाट मात्र", "यदि हराइरहेको छ भने, हराइरहेको भन्नुहोस्"। मोडेलहरू आश्चर्यजनक रूपमा यसको लागि आज्ञाकारी छन्... जबसम्म तिनीहरू छैनन्। जे भए पनि जाँच गर्नुहोस्।.

• प्रमाणिकरणकर्ता भएको कार्यहरू मन पर्छ। कम्पाइलर, लिन्टर, स्किमा जाँच, दोस्रो जोडी आँखा। विश्वसनीयतालाई ग्रेडर मन पर्छ।.

• भन्नको लागि हेर्नुहोस्: अतिरिक्त विशिष्टता। सटीक देखिने आकृति, नाम दिइएको केस, व्यवस्थित संख्यात्मक खण्ड - त्यहिँ भ्रमले सजिन मन पराउँछ।.

• मानव पाइलालाई दृश्यात्मक राख्नुहोस्। यदि UI ले चेक लुकाउँछ भने, मानिसहरूले चेक छोड्छन्। त्यो फर्निचर हो, नैतिक असफलता होइन।.

यी मध्ये कुनै पनि कुराले मोडेललाई "सत्य" बनाउँदैन। यसले लूपलाई कम विश्वासिलो बनाउँछ। जुन, मलाई लाग्छ, उत्पादन हो।.

नक्साले तपाईंलाई कहाँ छोड्छ

त्यसैले हो/होइन भन्ने प्रश्नले ढोकाको रूपमा मात्र काम गर्छ।.

के एआई भरपर्दो छ? विशेषताको रूपमा होइन। कार्यको गुणको रूपमा, डेटासेट, पुन: प्राप्ति लूप, डेमो नभएको मूल्याङ्कन, र एक मानव जसले अझै पनि यसको अर्थ राख्नुपर्छ। प्रवाहले हामीलाई मूर्ख बनाइरहनेछ किनभने हामी भाषा जनावर हौं र यी प्रणालीहरू भाषा मेसिनहरू हुन्। अपटाइम सत्यसँग भ्रमित हुँदै जानेछ किनभने दुवैलाई "यसले काम गर्यो" जस्तो लाग्छ। सह-पाइलटहरूले जटिल बीचमा आफ्नो पकड कमाइरहनेछन् - ड्राफ्टहरू, तपाईंले स्किम गर्न सक्ने सारांशहरू, तपाईंले कम्पाइल गर्न सक्ने कोड - र असुरक्षित जब हामी वास्ता गर्न नसक्ने अनुच्छेदमा निर्णय आउटसोर्स गर्छौं।.

मिस सस्तो वा समात्न सकिने ठाउँमा तिनीहरूलाई प्रयोग गर्नुहोस्। मिस महँगो भएको ठाउँमा ढिलो गर्नुहोस्। त्यो सीधा उत्तर हो, र यो नारा भन्दा बढी मूल्यवान छ।.

यदि तपाईंले एउटा कुरा लिनुभयो भने: मोडेललाई यो निश्चित छ कि छैन भनेर सोध्न बन्द गर्नुहोस्। जब तपाईंले यसलाई सोध्नुहुन्छ के हुन्छ हेर्नुहोस् यो कसरी गलत हुन सक्छ। त्यसपछि जाँच गर्नुहोस्।.

वास्तविक संसारको उदाहरण: सदस्यता-नीति एआई सहायक निर्माण गर्दै

परिदृश्य

प्रिया हार्बर सदस्यताको लागि ज्ञान चलाउँछिन्, जुन स्वतन्त्र जिमहरूको लागि ७० जनाको बेलायती व्यापारिक संस्था हो। तीन जनाले सदस्यका प्रश्नहरूको जवाफ दिन्छन्। सत्यको स्रोत १८० पृष्ठको पुस्तिका हो, जुन हरेक त्रैमासिकमा अद्यावधिक गरिन्छ, साथै साझा ड्राइभमा पुराना PDF हरू छन् जुन मेटाउन कसैको मन छैन।.

नेतृत्वले पहिले नै हेल्पडेस्क कोपाइलट किनेको छ। डेमो राम्रो थियो। अपटाइम ठीक छ। दोस्रो हप्तामा, एक धाराप्रवाह ड्राफ्टले एक सदस्यलाई भन्छ कि तिनीहरू १४ दिनको लागि फ्रिज गर्न सक्छन् र "मानकको रूपमा" पूर्ण फिर्ता पाउन सक्छन्। त्यो नीति होइन। एजेन्टले यो समात्यो किनभने तिनीहरू अझै पनि पैसा समावेश हुँदा ह्यान्डबुक खोल्छन्। नेतृत्वको प्रश्न, हो वा होइन जस्तो पठाइएको छ, यो हो: के एआई भरपर्दो छ?

प्रियाले फैसला अस्वीकार गर्छिन्। उनी यसलाई नक्साको रूपमा व्यवहार गर्छिन्। काम "सदस्यहरूलाई ओरेकल दिने" होइन। यो "हालको पुस्तिकाबाट उत्तर तयार पार्ने, खण्ड देखाउने, र खण्ड हराएपछि बन्द गर्ने" हो। यदि सह-चालकले त्यसो गर्न सक्दैन भने, यो ड्राफ्टिङ खेलौना हो, नीति डेस्क होइन।.

सहायकलाई के चाहिन्छ

• अप्रिल २०२६ को पुस्तिका एक मात्र अनुमति प्राप्त कोर्पसको रूपमा, खण्ड नम्बरहरू अक्षुण्ण छन्

• पुरानो २०२३ को PDF जानाजानी ड्राइभमा छोडिएको थियो, ताकि तिनीहरूले हेर्न सकून् कि पुन: प्राप्तिले लगभग छुटेको कुरा समात्छ कि भनेर

• लिखित नियम: उपभोक्ता उपकरणहरूमा ग्राहकको व्यक्तिगत डेटा नराख्ने; मानव बिना पठाउने काम नगर्ने; आविष्कार गर्ने संख्या, विन्डोज, वा "मानक" खण्डहरू नहुने।

• प्रम्प्टहरू, पुनःप्राप्त भागहरू, र अन्तिम पठाउने लग गर्ने अनुमति

• एक नामांकित मालिक (प्रिया) जसले परीक्षण सेट स्कोर गर्नेछिन् र यदि यो असफल भयो भने सह-पाइलटलाई रोक्नेछिन्, पैसाको प्रश्नमा सिक्का फ्याँक्नु भन्दा पनि खराब।

• यदि उपकरणले पुन: प्राप्तिलाई समर्थन गर्छ भने, पुनः प्राप्त गरिएको भाग ड्राफ्टको छेउमा देखिनुपर्छ। यदि त्यसो भएन भने, तिनीहरूले खण्डलाई हातले टाँस्नेछन्। निरीक्षणयोग्य मार्ग बिना ग्राउन्डिङ अझै पनि कुहिरो हो।.

उदाहरण निर्देशन

प्रियाले यसलाई सामान्य भाषामा राख्छिन्, स्टेज-प्लेको प्रम्प्टमा होइन:

तपाईंलाई दिइएको अप्रिल २०२६ को ह्यान्डबुकका अंशहरूबाट मात्र उत्तर दिनुहोस्। खण्ड नम्बर उद्धृत गर्नुहोस्। यदि उत्तर ती अंशहरूमा छैन भने, "हालको ह्यान्डबुकमा छैन" भन्नुहोस् र रोक्नुहोस्। फ्रिज विन्डोज, फिर्ता नियमहरू, वा शुल्कहरू आविष्कार नगर्नुहोस्। "जिमको विवेकमा" "मानकको रूपमा" मा स्तरोन्नति नगर्नुहोस्। यदि दुई अंशहरू बाझिन्छन् भने, दुवै देखाउनुहोस् र कुन हालको हो भन्नुहोस्। तपाईं एक व्यक्तिको लागि ड्राफ्ट गर्दै हुनुहुन्छ जसले सदस्यलाई केहि जानु अघि स्रोत खोल्नेछ।.

त्यसपछि उनी आफ्नो लागि दोस्रो निर्देशन राख्छिन्, किनभने लेखको बुँदा मोडेल होइन, लूप हो:

पठाउनु अघि, उद्धृत खण्ड खोल्नुहोस्। "यसले के गलत बनाउँछ?" सोध्नुहोस् यदि मस्यौदामा अनुच्छेदमा नभएको संख्या छ भने, त्यसलाई अस्वीकार गर्नुहोस्। यदि मैले हतारमा हाकिमले जस्तै सोधेको छु भने, शंकालु जस्तै फेरि सोध्नुहोस् र तुलना गर्नुहोस्।.

राम्रो ड्राफ्ट यस्तो देखिन्छ: "हालको ह्यान्डबुकमा छैन (अप्रिल २०२६, खण्ड ४.२)। फ्रिजहरू जिमको विवेकमा हुन्छन्। फिर्ता स्वचालित हुँदैनन्। बढाउनुहोस्।" खराब ड्राफ्ट यस्तो देखिन्छ: "सदस्यहरू १४ दिनको लागि फ्रिज गर्न सक्छन् र मानकको रूपमा पूर्ण फिर्ता प्राप्त गर्न सक्छन्। ह्यान्डबुकमा पुष्टि गरिएको छ।" उही स्वर। ती मध्ये एउटा मात्र नीति हो।.

यसलाई कसरी परीक्षण गर्ने

कुनै पनि सह-पायलट आउटपुट हेर्नु अघि प्रियाले २० वटा प्रश्न लेख्छिन्। त्यो क्रम महत्त्वपूर्ण छ। डेमो प्रकाशमा छ। यो ड्राई टेस्ट हो।.

यो सेट सामान्य कुरा होइन। यो लाइभ डेस्क हो:

• आठ प्रश्नहरू जसका उत्तरहरू एउटै हालको खण्डमा राखिएका छन् (सजिलोहरू)

• चारवटा लगभग छुटेका ठाउँहरू, जहाँ २०२३ को PDF अप्रिलको पाठ भन्दा शब्दको हिसाबले नजिक छ

• तीन "ह्यान्डबुकमा नभएका" प्रश्नहरू (बिलिङ विवादहरू, चिकित्सा-सम्बन्धित "के यो तालिम सुरक्षित छ", कानुनी-सम्बन्धित सम्झौता ट्वीक)

• तीन पैसा सम्बन्धी प्रश्नहरू (फ्रिज, फिर्ता, सामेल हुने शुल्क)

• दुई साधारण सदस्य प्रश्नहरू (खुल्ने समय, प्रशिक्षक बीमा)

ती बीस मध्ये दुई जनालाई दोस्रो पोशाकमा पनि पुन: सोधिएको थियो, एक पटक हतारमा हाकिमको रूपमा र एक पटक शंकास्पदको रूपमा, शीघ्र-संवेदनशीलता जाँचको रूपमा। ती पुन: सोधिएकाहरू लग गरिएका थिए, २०-वस्तुको स्कोरमा फोल्ड गरिएका थिएनन्।.

रुब्रिक, प्रियाले ह्यान्डबुक खोलेर स्कोर गरेकी छिन्: पासको लागि सही वर्तमान नियम, वास्तविक खण्ड नम्बर, र कुनै अतिरिक्त आविष्कार गरिएको खण्ड आवश्यक पर्दैन। शान्त असफल भनेको प्राविधिक रूपमा राम्रो वाक्य हो जसले अपवादलाई छोड्छ वा सायदलाई अनिवार्यमा परिणत गर्छ। खुला असफल भनेको आविष्कार गरिएको संख्या वा लगभग छुटेको PDF हो जुन वर्तमानको रूपमा व्यवहार गरिन्छ। अपटाइमलाई छुट्टै गणना गरिन्छ, किनभने "यसले जवाफ दियो" "यस्तो थियो" होइन।.

अगाडि बढ्नको लागि स्वीकृति: पैसाको प्रश्नमा, असफल खुला हुनुको सट्टा बन्द असफल। यदि सह-पाइलटले फिर्ता विन्डो आविष्कार गर्छ भने, यसले प्रत्यक्ष टिकटहरू ड्राफ्ट गर्दैन। यदि कसैले स्रोत खोल्दैन भने, यसले प्रत्यक्ष टिकटहरू पनि ड्राफ्ट गर्दैन।.

नतिजा

प्रकाशित हार्बर सदस्यता तथ्याङ्क होइन, बनाइएको २०-प्रश्नहरूको परीक्षाबाट उदाहरणीय नतिजा।.

अनुमानहरू: एक जना हेल्पडेस्क सह-पायलट; अप्रिल २०२६ को ह्यान्डबुक र बाँकी रहेको २०२३ को PDF; प्रियाले माथिको रुब्रिक विरुद्ध स्कोर गरिन्; समय भनेको "म यो पठाउनेछु" भन्ने प्रश्न टाँसिएको फोन स्टपवाच थियो; समीक्षा समयलाई लुप गरिएको अवस्थामा समावेश गरिएको छ र अनचेक गरिएकोमा जानाजानी समावेश गरिएको छ, त्यसैले तुलना समान रहन्छ।.

चेक नगरिएको सह-पायलट, डेमो-शैली प्रम्प्ट: २० मध्ये २० प्रश्नहरूले धाराप्रवाह जवाफ पाए (अपटाइम उत्तम देखियो)। २० मध्ये ११ प्रश्नहरूले रुब्रिक पूरा गरे। पाँच शान्त असफल थिए। चार खुला असफल थिए, जसमा १४-दिनको फ्रिज पनि समावेश थियो। चार खुला असफलहरू मध्ये दुईले २०२३ को PDF बाट स्रोत-आकारको भाग उद्धृत गरे। पठाउन सकिने देखिने मस्यौदाको औसत समय १ मिनेट थियो।.

उही २० प्रश्नहरू, सीमित निर्देशन, देखिने भाग पुनः प्राप्त गरियो: २० मध्ये १५ अप्रिलको पाठबाट पूर्ण रूपमा सही थिए। तीनले "हालको पुस्तिकामा छैन" (चिकित्सा-सम्बन्धित र कानूनी-सम्बन्धित वस्तुहरू, साथै एक बिलिङ विवाद) सही भने, त्यसैले २० मध्ये १८ स्वीकार्य थिए। दुई अझै असफल भए: एकले लगभग छुटेको २०२३ PDF मार्फत लेख्यो, र एकले एक सामेल हुने शुल्क आंकडा आविष्कार गर्‍यो जुन खण्डमा थिएन। मस्यौदा तयार गर्न औसत समय अझै लगभग १ मिनेट थियो।.

उही २०, साथै प्रियाले नक्कली पठाउनु अघि उद्धृत खण्ड खोलिन्: २० मध्ये १९ स्वीकार्य हुने थियो। उनले लगभग छुटेको PDF समातिन्। बाँकी छुटेको समय समीक्षकले धाराप्रवाह अनुच्छेद स्किम गर्दै र आविष्कार गरिएको सामेल हुने शुल्क आंकडालाई याद नगरी थियो। समीक्षा सहित औसत समय ३ मिनेट थियो।.

पुरानो प्रक्रिया, ह्यान्डबुक खोजी मात्र, सह-पायलट छैन: २० मध्ये २० स्वीकार्य। मध्य ९ मिनेट।.

यस नमुनामा, लुप गरिएको कोपाइलट ह्यान्डबुक हन्ट (९ माइनस ३) भन्दा ६ मिनेट छिटो थियो, वा २० प्रश्नहरूमा १२० मिनेट, २० मध्ये २० को सट्टा २० मध्ये १९ स्वीकार्य थियो। अनचेक गरिएको कोपाइलट ८ मिनेट छिटो थियो (९ माइनस १) र गलत, चुपचाप वा ठूलो स्वरमा, २० मध्ये ९ मा। त्यो तपाईंले स्टीयरिङ प्याकमा राख्नुभएको ६७% समय बचत गर्ने कुरा होइन। यो ९-मिस लिक हो जुन तपाईंले स्वचालित रूपमा गर्नुभएको हुन्थ्यो।.

हतारमा सोधिएका दुई प्रश्नहरूको हतारमा बोल्ने हाकिम संस्करणहरूले दुवैलाई धेरै दाबी गरे। शंकास्पद संस्करणहरूले हेज गरे। एउटै मोडेल, एउटै पुस्तिका, फरक पोशाक। प्रियाले त्यो निष्कर्षको रूपमा लगाइन्, व्यक्तित्वको रूपमा होइन।.

यी तथ्याङ्कहरू उल्लेख गरिएको परीक्षण, सानो सेट, रिसाएको सदस्य भन्दा सजिलो टिकटहरू, र पहिले नै पुस्तक थाहा पाएको एक समीक्षकको आधारमा उदाहरण अनुमान हुन्। तिनीहरूले सह-पाइलट "९५% भरपर्दो" छ भनेर देखाउँदैनन्, वा हार्बरले डेस्क व्यक्तिलाई काट्नु पर्छ भनेर देखाउँदैनन्। तिनीहरूले देखाउँछन् कि अपटाइम प्रश्न थिएन, र चेक थियो।.

के बिग्रन सक्छ?

• नेतृत्वले १ मिनेटको ड्राफ्ट समय उद्धृत गर्छ र ९ मिसहरू छोड्छ। गति अझै पनि ४ बजेको समयमा क्षमता जस्तो लाग्छ।.

• २०२३ को PDF अनुक्रमणिकामा रहन्छ। पुन:प्राप्तिले यसलाई निरन्तर प्राप्त गरिरहेको छ। ग्राउन्डिङ परिपक्व देखिन्छ र अझै पनि लगभग छुटेको छ।.

• UI ले पुनःप्राप्त भागलाई चम्किलो सेन्ड बटन पछाडि लुकाउँछ। मानिसहरूले ह्यान्डबुक खोल्न बन्द गर्छन्, जसरी फ्रिज उत्तर सदस्यसम्म पुग्छ।.

• स्लाइडमा राम्रा देखिने भएकाले प्रियाले आठ वटा सजिलो प्रश्न मात्र हासिल गर्छिन्। मूल्यांकन रंगमञ्च, केवल स्प्रेडसिटको साथ।.

• चिकित्सा-सम्बन्धित "के यो तालिम सुरक्षित छ" भन्ने उत्तरलाई संक्षिप्त जस्तो देखिन अनुमति दिइएको छ। नक्साले लगभग कहिल्यै भन्यो। स्वरले अगाडि बढ भन्यो।.

• लगहरू बन्द छन् किनभने "यो अतिरिक्त जस्तो लाग्यो"। छुटेपछि, कुन खण्ड पुन: प्राप्त गरियो भनेर कसैले पनि देख्न सक्दैन।.

• तिनीहरूले मोडेललाई सोध्छन् कि यो निश्चित छ कि छैन। यो निश्चित छ। त्यो कहिल्यै परीक्षण थिएन।.

व्यावहारिक टेकवे

विश्वसनीयता सह-पाइलट हार्बरले किनेको विशेषता होइन। यो २० वटा प्रश्न, हालको पुस्तिका, देखिने खण्ड, र पैसा संलग्न हुँदा पनि स्रोत खोल्ने व्यक्तिको सम्पत्ति हो। प्रवाहले अपटाइम परीक्षण उत्तीर्ण गरिरहनेछ। लूप मात्र त्यस्तो चीज हो जसले नीति परीक्षण उत्तीर्ण गर्छ।.

सोधिने प्रश्न

जेनेरेटिभ एआईको लागि भरपर्दो भनेको के हो?

दैनिक विश्वसनीयताको अर्थ तपाईं कुनै कुरामा भर पर्न सक्नुहुन्छ। बोल्ने स्वचालनको साथ, गुणहरूको सम्पूर्ण समूह एउटै शब्दमा लुकेको हुन्छ: तथ्यात्मकता, स्थिरता, क्यालिब्रेसन, सुरक्षा, अपटाइम, द्रुत संवेदनशीलता, किनारा केसहरू, र वितरण परिवर्तन पछि व्यवहार। ती मध्ये कुनै पनि सँगै असफल हुँदैन। प्रत्यक्ष परीक्षण केमा, कसको लागि, यसको वरिपरि कुन लूपको साथ भरपर्दो छ। अन्यथा तपाईं ब्लेंडरले करहरू गर्न सक्छ कि सक्दैन भनेर ग्रेड गर्दै हुनुहुन्छ।.

के एआई भरपर्दो छ?

विशेषताको रूपमा होइन। LLM एउटा काममा चट्टानी रूपमा बलियो हुन सक्छ र अर्को काममा चुपचाप अनहिङ्ग हुन सक्छ, कहिलेकाहीँ एउटै सिटिंगमा, कहिलेकाहीँ तपाईंले अल्पविराम सार्नु भएको कारणले। विश्वसनीयता भनेको कार्यको गुण हो, डेटासेट, पुन: प्राप्ति लूप, डेमो नभएको मूल्याङ्कन, र एक मानव जसले अझै पनि यसको अर्थ राख्नुपर्छ। मिस सस्तो वा समात्न सकिने ठाउँमा यसलाई प्रयोग गर्नुहोस्। मिस महँगो भएको ठाउँमा ढिलो गर्नुहोस्।.

के एआई अपटाइम र सत्यता एउटै हो?

होइन। अपटाइम भनेको अन्तिम बिन्दुले जवाफ दियो कि दिएन। सत्यता भनेको उत्तर दियो कि दिएन भन्ने हो। तपाईंसँग त्यस्तो सेवा हुन सक्छ जुन कहिल्यै झिम्काउँदैन र अझै पनि ग्राहकको टिकटमा धाराप्रवाह झूट पठाउँछ। लाइन राक्षस हुँदा गति क्षमता जस्तो महसुस हुन्छ। सुरक्षा अर्को अक्ष हो: जेलब्रेक अस्वीकार गर्ने मोडेलले अझै पनि तपाईंको आफ्नै नोटहरूको सारांशलाई मिलाउन सक्छ।.

गलत हुँदाहुँदै पनि धाराप्रवाह एआई किन विश्वसनीय लाग्छ?

शुद्धता र धाराप्रवाहको सम्बन्ध विच्छेद भयो, र धाराप्रवाहले घरलाई सुरक्षित राख्यो। LLM ले तपाईंलाई लय, हेजिङ, सायद नक्कली तर सुन्दर उद्धरणको आकार दिनेछ, र तपाईंको दिमागले "यो व्यक्तिलाई थाहा छ" भनेर पढ्छ। क्यालिब्रेसन प्रायः भयानक हुन्छ: उच्च आत्मविश्वास, मध्यम सत्य, मुख्य भाषण जस्तै प्रस्तुत गरिएको। एउटा अनाड़ी गलत उत्तरले तपाईंलाई शंकास्पद बनाउँछ। एउटा धाराप्रवाह गलत उत्तरले तपाईंलाई जाँच गर्न बन्द गर्छ। यदि यो संक्षिप्त जस्तै बोल्छ भने, हामी यसलाई संक्षिप्त जस्तै व्यवहार गर्छौं, र यसरी मिस डेकमा प्रवेश गर्छ।.

के चिकित्सा, कानुनी, वा ग्राहक-समर्थन कार्यको लागि एआई भरपर्दो छ?

यो काममा निर्भर गर्दछ, ब्रान्डमा होइन। उत्पादनको रूपमा चिकित्सा र कानुनी-सम्बन्धित सल्लाह लगभग कहिल्यै पर्याप्त हुँदैन: मोडेल एक स्टब हो र मानव पेशेवर हो। ग्राहक समर्थनले कडा नीति भित्र ड्राफ्ट गर्न सक्छ, तर एक व्यक्तिले पैसा पठाउने र विश्वासको स्वामित्व लिनुपर्छ, किनकि आविष्कार गरिएको नीति र विनम्र गलत नम्बर सामान्य असफलता हो। ड्राफ्ट र सारांशहरू तपाईंले पहिले नै थाहा पाउनुभएको पाठमा पहिलो पास हुन्। नाम, संख्या, र हानि गर्ने लाइन जाँच गर्नुहोस्।.

एआई किन भ्रममा पर्छ, बहन्छ, वा चुपचाप गलत हुन्छ?

मतिभ्रम भनेको मसालेदार मिस हो: एउटा पुस्तक जुन अस्तित्वमा छैन, एउटा प्रकार्य जुन कहिल्यै पठाइएको थिएन, एउटा नीतिगत खण्ड जसमा आधिकारिक महसुस हुन्छ। बहाव कम सिनेमाई छ: संसार चल्छ, मोडेलको अवशेष रहन्छ, र तपाईंले अघिल्लो मौसमबाट राम्रोसँग व्यवस्थित जवाफ पाउनुहुन्छ। शान्त गलतपन एउटा सारांश हो जसले अपवादलाई छोड्छ। वा एउटा वाक्यांश जसले सायद एकलाई अनिवार्यमा स्तरोन्नति गर्दछ। अर्थ फिसलिएको बेला तथ्यात्मकता प्राविधिक रूपमा राम्रो देखिन सक्छ। जब तपाईं र्‍यापिङ परिवर्तन गर्नुहुन्छ तब द्रुत संवेदनशीलताले तथ्यहरूलाई चम्काउँछ।.

के ग्राउन्डिङ वा पुन: प्राप्तिले एआईलाई भरपर्दो बनाउँछ?

ग्राउन्डिङ भनेको यसबाट उत्तर हो, कुहिरोबाट होइन। पुन:प्राप्तिले वर्तमानलाई प्रशिक्षित थुप्रोमा बोल्ट गर्छ। जब यो असफल हुन्छ, यो विनम्रतापूर्वक असफल हुन्छ: लगभग छुटेको कागजात, रचना गरिएको लेखन, र तपाईंको जाँच गर्ने प्रवृत्ति बन्द हुन्छ। ग्राउन्डिङ भनेको भुइँ हो, हेलो होइन। यदि तपाईंले पुन:प्राप्त भागको निरीक्षण गर्न सक्नुहुन्न भने, तपाईं अझै पनि कुहिरोमा हुनुहुन्छ, केवल राम्रो प्रकाशको साथ। मूल्य वा नीति शब्दहरू जस्ता लाइभ-स्टेट कार्यहरूलाई स्थिर शिल्पसँग मिलाउनुहोस्, र तपाईंले पहिले नै सरिसकेको संसारको बारेमा धेरै निश्चित उत्तर पाउनुहुनेछ।.

एआई विश्वसनीयताको लागि डेमो किन नराम्रो परीक्षण हो?

एउटा सफा प्रम्प्ट र मोडेलले हजारौं कजिनहरू देखेको कार्य तीखो देखिनेछ। लाइभ कार्यप्रवाहहरूमा पेस्ट, हराएका फाइलहरू, र पहिलो उत्तर स्वीकार गर्ने प्रयोगकर्ता छन् जसले उनीहरूको चिन्ता कम गर्दछ। लिडरबोर्ड स्कोर तपाईंको टिकटहरूमा क्यालिब्रेसन होइन। मोडेल जोखिम भनेको भोल्युममा गलत हुँदा के हुन्छ, यो ट्रिभिया सेट पास भयो कि भएन भन्ने होइन। तपाईंलाई आवश्यक पर्ने परीक्षणहरू सुख्खा छन्: पुन: प्राप्त गरिएको प्यासेज भित्र रहनुहोस्, ब्लफिंगको सट्टा अनिश्चिततालाई फ्ल्याग गर्नुहोस्, पुन: वाक्यांश गर्दा स्थिर रहनुहोस्, र आविष्कार गर्नुको सट्टा बन्द असफल हुनुहोस्।.

कोही पनि संलग्न नभएको खण्डमा के एआई भरपर्दो हुन्छ?

होइन। यदि कोही पनि जवाफदेही छैन भने, प्रणालीलाई जस्तै प्रयोग गरिनेछ। मानव-इन-द-लूप एक मात्र डिजाइन हो जुन असफलता मोडहरूसँग मेल खान्छ: कसले समीक्षा गर्छ, कसले रोक्न सक्छ, के लग हुन्छ, मिस पछि के हुन्छ। यदि उत्तर "मोडेल" हो भने, तपाईंसँग उत्तर हुँदैन। मोडेलहरू घटना पछि बैठकमा जाँदैनन्। औषधि, कानून, क्रेडिट, वा सुरक्षा-महत्वपूर्ण अप्सको लागि, मानव लूप हो र मोडेल स्टब हो।.

गल्तीहरू पत्ता लगाउन म कसरी AI लाई प्रोम्प्ट गर्ने?

जानाजानी अनिश्चितताको लागि सोध्नुहोस्: "यसलाई के गलत बनाउँछ?" "यसलाई विश्वस्त बनाउनुहोस्"। जब तपाईं सक्नुहुन्छ तब पुस्ताबाट पुन: प्राप्ति विभाजन गर्नुहोस्। पहिले खण्डहरू हेर्नुहोस्, त्यसपछि लेखनको लागि सोध्नुहोस्। पोशाक परिवर्तन गर्नुहोस्: पुन: वाक्यांश गर्नुहोस्, वा यसलाई विपरीत तर्क गर्न सोध्नुहोस्। "मैले टाँसेको पाठबाट मात्र" वा "यदि हराइरहेको छ भने, हराइरहेको भन्नुहोस्" जस्ता बाधाहरू बल गर्नुहोस् र अझै पनि जाँच गर्नुहोस्। प्रमाणिकरणकर्तासँग कार्यहरू मनपर्छ, र अतिरिक्त विशिष्टता हेर्नुहोस्, किनभने भ्रम त्यहीं लुगा लगाउन मनपर्छ।.

सन्दर्भ सामग्रीहरू

1. NIST - nvlpubs.nist.gov

2. NIST - airc.nist.gov

3. NIST - airc.nist.gov

4. ICO - ico.org.uk

5. एनसीएससी - www.ncsc.gov.uk

6. एनसीएससी - www.ncsc.gov.uk

7. OWASP - genai.owasp.org

आधिकारिक एआई सहायक स्टोरमा नवीनतम एआई खोज्नुहोस्

हाम्रो बारेमा