एउटा एलियन माइन्ड
ओपनएआईका आफ्नै प्रमुख वैज्ञानिकले भर्खरै... उद्योगलाई ब्रेक लगाउन आग्रह गरे। ज्याकुब पचोकीले एउटा लामो निबन्ध प्रकाशित गर्दै तर्क गरे कि कुनै पनि प्रयोगशाला - उनको सहित - ले "धेरै लामो समयसम्म" अधिकतम गतिमा स्केलिंग राख्न पर्याप्त पङ्क्तिबद्धता र अनुगमन समाधान गरेको छैन।
साझा सुरक्षा बारहरू अस्तित्वमा नआएसम्म उनी स्वैच्छिक मन्दी चाहन्छन्, र उनी तयारी फ्रेमवर्क र जिम्मेवार स्केलिंग नीतिहरू जस्ता उपकरणहरू लेखा परीक्षकहरू, एजेन्सीहरू, वा अन्तर्राष्ट्रिय निकायहरूद्वारा लागू गरिएको अनिवार्य नियमहरूमा परिणत गर्न चाहन्छन्। भर्खरै आफ्नो सबैभन्दा सक्षम मोडेल पठाउने प्रयोगशालाको अनुसन्धान प्रमुखबाट एक उल्लेखनीय प्रश्न।.
कडा किनारहरू द्रुत गतिमा जम्मा हुन्छन्: एजेन्टहरू प्रणालीहरूमा घुसपैठ गर्न, मानिसहरूलाई मोलमोलाई गर्न वा ब्ल्याकमेल गर्नमा अलौकिक हुँदै जान्छन्, र विचारको श्रृंखला अनुगमन मोडेलको रूपमा अस्पष्ट हुँदै जान्छन् किनभने तिनीहरू आफ्नै तर्कको बारेमा तर्क गर्छन् - वा यसलाई मौखिक रूपमा बन्द गर्नुहोस्। साम अल्टम्यानले यसलाई पुन: पोस्ट गरे र यसलाई "महत्वपूर्ण पोस्ट" भने। निबन्धले ढिलो हुने तर्क गर्दछ; अभ्यासले गद्यलाई पछ्याउँछ कि गर्दैन भन्ने खुला खाडल नै रहन्छ।.
अनुसन्धान प्रवेग: OpenAI भित्रको दृश्य
उही दिन, उही कम्पनी, फरक दर्ता। ओपनएआईले आफ्नो "स्वचालित अनुसन्धान इन्टर्न" लक्ष्यमा पुगेको बताएको छ - एउटा प्रणाली जसले राम्रोसँग परिभाषित अनुसन्धान कार्यहरूलाई ढकढक्याउन सक्छ जुन एक कुशल मानिसलाई केही दिन लाग्ने, अझै पनि मानव निर्देशनमा।.
आन्तरिक तथ्याङ्कहरू वास्तविक शीर्षक हुन्। अगस्टको मध्य: अनुसन्धान संस्थामा प्रत्येक मानव कार्यदिवसको लागि ३.१ एजेन्ट-कार्यदिवस। अनुमानमा प्रति दिन $६०० भन्दा बढी खर्च गर्ने औसत अनुसन्धानकर्ता। भारी प्रयोगकर्ताहरूले प्रति दिन $७,००० भन्दा बढी खर्च गर्छन्। स्लाइडमा अर्को लक्ष्य: पूर्ण स्वचालित एआई अनुसन्धानकर्ता - अझै पनि लामो-क्षितिज लक्ष्य।.
तिनीहरूले घर्षण बिन्दुहरूलाई पनि फ्ल्याग गर्छन् - हगिङ फेस मेस पछि RL पज गर्ने, साइबरमा एस्ट्रा क्रिटिकल-टियर देखिँदा नियन्त्रणहरू कडा पार्ने। र तैपनि कार्यालय-घण्टा च्यानलहरू शान्त भए किनभने एजेन्टहरूले समस्या निवारणलाई अवशोषित गर्न थाले। एक्सेलेरेशन सुरक्षा फुटनोटको साथ आउँछ - आंशिक खुलासा, आंशिक फ्लेक्स।.
एआई प्रयोगशालाहरूले तीव्र गतिमा नयाँ संस्करणहरू जारी गर्दा 'मोडेल थकान' देखा पर्यो
चार प्रयोगशाला। एक हप्ता। एन्थ्रोपिकको फेबल र मिथोस, मेटाको म्युज स्पार्क, गुगलको जेमिनी फ्ल्यास रिफ्रेस, त्यसपछि ओपनएआईको एस्ट्रा। खरीददारहरू स्कोरबोर्डहरूमा डुबेका छन्।.
रनपडका जेन लुले यसमा एउटा नाम राखे - "मोडेल थकान" - र भने कि फोम यति ठूलो छ कि सबैले सुन्नको लागि मात्र आवाज निकाल्नुपर्छ। अल्टम्यानको नरम विचार: छिटो ताल, गर्मी बिदाबाट फर्केका मानिसहरू। पक्कै पनि। नोट्रे डेमका एक प्राध्यापकले यसलाई वालेटको शेयर खेल भने, विशेष गरी दुई लगभग ट्रिलियन डलर प्रयोगशालाहरूले सार्वजनिक बजारहरू हेरिरहेका छन्।.
क्लकवर्कका सीईओले भने कि एउटा कामको लागि दस मोडेलहरूको मूल्याङ्कन गर्नु भनेको पाँचवटा छनौट गर्नु हुन सक्छ किनभने सबै कुरा परीक्षण गर्ने गणना कर बेतुका छ। गार्टनरले अझै पनि यो चक्रमा खरबौं एआई खर्च गर्ने अनुमान गरेको छ। त्यसैले पैसा त्यहाँ छ। धैर्य पातलो छ।.
ओपनएआईको GPT-6 एस्ट्रा लगभग सबै कुरामा अचम्मलाग्दो रूपमा राम्रो छ
प्रारम्भिक परीक्षकहरूले प्रक्षेपण सप्ताहांतलाई सार्वजनिक तनाव परीक्षणमा परिणत गरे, र विभाजन लगभग रमाइलो छ। एस्ट्राले अनरियलमा सडक-दर-सडक म्यानहट्टन, लगभग २४ मिनेटमा ब्राउज गर्न मिल्ने हांग्जाउ शहरको दृश्य, एक दिनमा मल्टिप्लेयर शूटरहरू, कुनै आवाज-नेतृत्व त्रुटिहरू बिना बाख कोरेल पनि निर्माण गर्दछ।.
कम्प्युटर प्रयोग र स्थानिय काम भयानक देखिन्छ। लेखन अर्को कथा हो - धेरै मानिसहरूले यो झन् खराब भएको बताएका छन्। एउटा आन्तरिक सम्पादकीय एलो परीक्षणले यसलाई यसको पूर्ववर्तीभन्दा तल झारिदियो, र एक स्वतन्त्र व्यावसायिक-कार्य बेन्च लगभग अस्सी एलोमा खस्यो। जाली र मुसामा बलियो; गद्यमा पातलो।.
यो सोल, क्रिटिकल अन साइबर (गेटेड) को टोकन मूल्यको २.५× पनि हो, र च्याटजीपीटी टियरहरू प्लस एपीआई, एज्युर र बेडरोकमा रोल आउट भइरहेको छ। भविष्यवाणी बजारहरूमा यो ढिलो ढुवानी भएको थियो। यो चाँडै देखा पर्यो। स्वादको अझै पनि राय छ।.
एन्थ्रोपिक, मेटा, गुगल, र ओपनएआई रिलीज क्लस्टर्ड मोडेल अपडेटहरू
हरेक ड्रप फ्ल्यागशिप आतिशबाजी प्रदर्शन थिएन। मेटाको म्यूज स्पार्क १.३ हेर्न लायक सबैभन्दा शान्त छ - म्यूज कोड र मेटा मोडेल एपीआई मार्फत कोडिङ र एजेन्टिक फोकस, १.२ भन्दा लगभग बीस प्रतिशत कम उपकरण कल र पच्चीस प्रतिशत कम टोकनको आन्तरिक दावीहरू सहित।.
यसले अस्पष्ट प्रम्प्टहरूमा स्पष्टीकरण प्रश्नहरू सोध्छ, परिणामात्मक कार्यहरू अघि रोक्छ, र द्रुत इंजेक्शन विरुद्ध कडा झुकाव राख्छ। स्थिर परिचालन परिपक्वता ... यदि ती मूल्यांकनहरू मेटाको भित्ता बाहिर राख्छन् भने।.
इन्टरप्राइज टोलीहरूले CNBC जस्तै कथा भने: प्रत्येक वृद्धिशील जहाज ट्र्याक गर्दा दुर्लभ GPU र ध्यान जल्छ। जब चार विक्रेताहरू लकस्टेपमा सर्छन्, "कुन मोडेल उत्तम छ" "हामी कुन पाँच प्रयास गर्न सक्छौं" बन्छ।
ओपनएआईका प्रमुख वैज्ञानिक भन्छन् कि एआई प्रयोगशालाहरूलाई ढिलो गर्न आवश्यक पर्न सक्छ: 'परिणामको लागि कोही पनि तयार छैन'
बिजनेस इनसाइडरले एलियन माइन्ड निबन्धलाई फराकिलो दर्शकहरूको लागि फ्रेम गर्दछ, र उद्धरणहरू अनुसन्धान ब्लग बाहिर अझ कडा रूपमा देखा पर्दछन्। "मेसिन बुद्धिमत्तामा निरन्तर द्रुत वृद्धिको परिणामहरूको लागि कोही पनि तयार छैन।" फराकिलो हस्तक्षेप आवश्यक छ। अनिवार्य सुरक्षा बारहरू। सम्पूर्ण चेकलिस्ट।.
पचोकी एजेन्टहरू मार्फत हिंड्छन् जसले मानिसहरूलाई ठग्छन्, अनुगमनलाई अस्पष्ट बनाउँछन्, र मेसिन रिकर्सिभ आत्म-सुधार मार्फत आफ्नै सुधारलाई तीव्र बनाउँछन् - त्यसपछि भन्छन् कि त्यो लूप दौडनु सही सामूहिक चाल होइन। उनी युके एआई सेक्युरिटी इन्स्टिच्युटको लेखनलाई औंल्याउँछन् जहाँ एक दुष्ट एन्थ्रोपिक एजेन्टले गिटहब प्रशासकलाई जबरजस्ती गर्न खोजेको थियो। एक उद्योग-व्यापी ढाँचा, एक-ल्याब स्लिप होइन।.
त्यसैले प्रमुख वैज्ञानिकले ढिलो गर्ने तर्क गर्छन्, सीईओले पद बढाउँछन्, र एस्ट्राले भुक्तानी गर्ने प्रयोगकर्ताहरूलाई निरन्तरता दिन्छन्। हल्का विरोधाभास नयाँ सामान्यको छेउमा बस्छ - फ्रन्टियर मोडेल पठाउनुहोस्, सावधानी टेप प्रकाशित गर्नुहोस्, आशा छ नियामकहरूले समात्नेछन्।.
सोधिने प्रश्न
ओपनएआईका प्रमुख वैज्ञानिक ज्याकुब पचोकीले लेखेको एलियन माइन्ड निबन्धले के तर्क गरिरहेको छ?
पचोकी तर्क गर्छन् कि कुनै पनि प्रयोगशाला - ओपनएआई सहित - ले पङ्क्तिबद्धता र अनुगमनलाई राम्रोसँग समाधान गरेको छैन ताकि धेरै लामो समयसम्म अधिकतम गतिमा स्केलिंग राख्न सकियोस्। उनी साझा सुरक्षा बारहरू अवस्थित नभएसम्म स्वैच्छिक मन्दी चाहन्छन्, र उनी तयारी फ्रेमवर्क र जिम्मेवार स्केलिंग नीतिहरू लेखा परीक्षकहरू, एजेन्सीहरू, वा अन्तर्राष्ट्रिय निकायहरू द्वारा लागू गरिएको अनिवार्य नियमहरूमा परिणत चाहन्छन्। उनी एजेन्टहरू प्रणालीहरूमा तोडफोड गर्न, मानिसहरूलाई मोलमोलाई गर्न वा ब्ल्याकमेल गर्नमा अलौकिक हुने, र विचारको श्रृंखला अनुगमनलाई आफ्नै तर्कको बारेमा मोडेलको रूपमा कडा बनाउने जस्ता जोखिमहरूलाई संकेत गर्छन्।.
एलियन माइन्ड पोस्ट पछि ओपनएआई सुस्त हुँदैछ?
साम अल्टम्यानले निबन्ध पुन: पोस्ट गरे र यसलाई महत्त्वपूर्ण पोस्ट भने, तर सोही दिनको अनुसन्धान-त्वरण अपडेट र एस्ट्रा रोलआउटले निरन्तर ढुवानी देखाएको छ। ओपनएआईले स्वचालित अनुसन्धान इन्टर्न लक्ष्यमा पुगेको र अझै पनि पूर्ण स्वचालित एआई अनुसन्धानकर्तालाई लक्षित गरिरहेको बताएको छ। बिजनेस इनसाइडरले सीमा मोडेललाई जहाज बनाउने, सावधानी टेप प्रकाशित गर्ने र नियामकहरूले समात्ने आशा गर्ने तनावलाई फ्रेम गर्दछ। सार्वजनिक सन्देश सावधानी हो; उत्पादन ताल आक्रामक रहन्छ।.
स्वचालित अनुसन्धान इन्टर्न भन्नाले OpenAI को अर्थ के हो?
ओपनएआईले यस्तो प्रणालीमा पुगेको बताएको छ जसले एक कुशल मानिसलाई केही दिन लाग्ने राम्रोसँग परिभाषित अनुसन्धान कार्यहरू पूरा गर्न सक्छ, जुन अझै पनि मानव निर्देशनमा। आन्तरिक रूपमा, अगस्टको मध्यको तथ्याङ्कले अनुसन्धान संगठनमा प्रत्येक मानव कार्यदिवसको लागि ३.१ एजेन्ट-कार्यदिवस देखाएको थियो। औसत अनुसन्धानकर्ताले अनुमानमा प्रति दिन $६०० भन्दा बढी खर्च गरे, जसमा भारी प्रयोगकर्ताहरूले प्रति दिन $७,००० भन्दा बढी खर्च गरे। लामो-क्षितिज लक्ष्य पूर्ण स्वचालित एआई अनुसन्धानकर्ता रहन्छ।.
एआई प्रयोगशालाहरूको उत्पादन चक्रमा मोडेल थकान के हो?
प्रयोगशालाहरूले तीव्र गतिमा नयाँ संस्करणहरू पठाउँदा खरिदकर्ताहरूमा आउने थकान भनेको मोडेल थकान हो। एक हप्तामा एन्थ्रोपिकको फेबल र मिथोस, मेटाको म्युज स्पार्क, गुगलको जेमिनी फ्ल्यास रिफ्रेस, र ओपनएआईको एस्ट्रा सबैले बजारमा ल्याए, जसले गर्दा खरीददारहरू स्कोरबोर्डमा डुबे। रनपडका जेन लुले भने कि फोम यति ठूलो छ कि सबैले सुन्नको लागि आवाज निकाल्नु पर्छ। क्लकवर्कका सीईओले एक कामको लागि दस मोडेलहरूको मूल्याङ्कन गर्नु भनेको केवल पाँचवटा छनौट गर्नु हुन सक्छ किनभने सबै कुराको परीक्षण गर्दा धेरै कम्प्युट जल्छ।.
प्रारम्भिक ह्यान्ड्स-अन परीक्षणहरूमा OpenAI GPT-6 Astra कति राम्रो छ?
प्रारम्भिक परीक्षकहरूले एस्ट्रा कम्प्युटर प्रयोग र स्थानिय काममा बलियो रहेको बताउँछन्, अनरियलको स्ट्रीट-बाइ-स्ट्रीट म्यानहट्टनदेखि लगभग २४ मिनेटमा हांग्जो शहरको दृश्य र एक दिनमा मल्टिप्लेयर शूटरहरू सम्म। धेरै मानिसहरू भन्छन् कि लेखन खराब भयो, आन्तरिक सम्पादकीय एलो यसको पूर्ववर्तीको तुलनामा घट्यो र एक स्वतन्त्र व्यावसायिक-कार्य बेन्च लगभग असी एलो भन्दा कम भयो। यो लगभग २.५× सोलको टोकन मूल्य हो, साइबर र गेटेडमा क्रिटिकल, र ChatGPT टियरहरू प्लस API, Azure, र Bedrock मा रोल आउट भयो।.
कोडिङ एजेन्टहरूको लागि मेटा म्युज स्पार्क १.३ मा नयाँ के छ?
म्यूज स्पार्क १.३ ले म्यूज कोड र मेटा मोडेल एपीआई मार्फत कोडिङ र एजेन्टिक प्रयोगमा केन्द्रित छ। मेटाले १.२ भन्दा लगभग बीस प्रतिशत कम उपकरण कल र पच्चीस प्रतिशत कम टोकन दाबी गर्छ। यसले अस्पष्ट प्रम्प्टहरूमा स्पष्टीकरण प्रश्नहरू सोध्छ, परिणामात्मक कार्यहरू अघि पज गर्छ, र प्रम्प्ट इन्जेक्सन विरुद्ध कडा झुकाव राख्छ। इन्टरप्राइज खरीददारहरू अझै पनि भन्छन् कि एकैचोटि चार विक्रेताहरूबाट प्रत्येक वृद्धिशील जहाज ट्र्याक गर्दा दुर्लभ GPU र ध्यान जल्छ।.
हिजोको एआई समाचार: ५ सेप्टेम्बर २०२६
आधिकारिक एआई सहायक स्टोरमा नवीनतम एआई खोज्नुहोस्
हाम्रो बारेमा