एन्थ्रोपिकका सीईओले एआई विकासलाई सुस्त बनाउने योजनाको रूपरेखा प्रस्तुत गरे
डारियो अमोदेईले उद्योगलाई... ढिलो गर्न भने। रोकिनु होइन। गति। लामो निबन्ध, तीन चरणहरू, र पुनरावर्ती आत्म-सुधार पहिले नै ठूलाहरूले लेखा परीक्षण गर्न सक्ने भन्दा छिटो पाकिरहेको छ भन्ने चेतावनी।.
एन्थ्रोपिकले एकतर्फी रूपमा भवन भित्र एम्बेडेड मूल्याङ्कनकर्ताहरूलाई आमन्त्रित गरिरहेको छ - ब्याज, डेस्क, ल्यापटप, र पीआर फिल्टर बिना निष्कर्षहरू प्रकाशित गर्ने अधिकार। त्यसपछि उनी लोकतान्त्रिक प्रयोगशालाहरूले सुरक्षा मापदण्डहरू समन्वय गर्न चाहन्छन्। त्यसपछि, कुनै न कुनै रूपमा, अधिनायकवादी सरकारहरूसँग सम्झौता। कागजमा सजिलो छ। अरू सबैतिर गाह्रो छ।.
उनी अझै पनि भन्छन् कि एआई एक चमत्कार हुन सक्छ। उनी यो पनि भन्छन् कि एक अधिक सक्षम गलत तरिकाले मिलाइएको झुण्डले निरन्तर बोटनेटको साथ इन्टरनेट कब्जा गर्न सक्छ र सयौं अरबौं क्षति पुर्याउन सक्छ। ती दुई वाक्यहरू एकअर्काको छेउमा बस्छन् र तिनीहरू मिल्दैनन्।.
ओह - अनि उनी सुरक्षा कुराकानी आफैंमा कानुनी समस्या नहोस् भनेर एउटा संकुचित एन्टिट्रस्ट छूट चाहन्छन्। ब्रेकहरू कागजी कार्यसँगै आउँछन्। अवश्य पनि तिनीहरू गर्छन्।.
साम अल्टम्यानले ओपनएआई यस वर्ष सार्वजनिक नहुने पुष्टि गर्दै भने कि एआई सुरक्षा चिन्ताहरूलाई ध्यानमा राख्दै अब आईपीओ 'अयोग्य समयमा' आउनेछ।
अल्टम्यानले विशेष अन्तर्वार्ताको लागि बसे र सूचीकरण क्यालेन्डरलाई समाप्त गरे। उनले भने, अहिलेको लागि आईपीओ "अनुचित क्षण" हुनेछ। सुरक्षा कार्य गरिएको छैन। पङ्क्तिबद्धता गरिएको छैन। समाज तयार छैन। जब उनीहरूले उनलाई दबाब दिए - यो वर्ष होइन।.
बैंकरहरू पहिले नै घुमिरहेका थिए। गोप्य फाइलिङ अवस्थित छ। अब सीईओ भनिरहेका छन् कि उनीहरूले पहिले धेरै काम गर्नुपर्ने छ, जसमा उद्योग र सरकारहरू कसरी सँगै काम गर्छन् भनेर पत्ता लगाउने पनि समावेश छ। उनी पर्खन लगभग राहत महसुस गर्थे।.
उनले मानव नियन्त्रणभन्दा बाहिर एआई निर्माण गर्नु "पूर्ण रूपमा" सम्भव छ भनेर पनि भने - त्यसपछि उनले यदि त्यो बाटो हो भने प्रशिक्षण रोक्ने वाचा गरे। साहसी। सुविधाजनक पनि, हुनसक्छ। सम्भवतः दुवै। उनले तर्क गरे, गैर-नाफामुखी / नाफामुखी उलझन अवस्थित छ त्यसैले उनीहरूले कलहरू गर्न सक्छन् जुन स्पष्ट रूपमा शेयरधारकहरूको हितमा छैनन्। हामी हेर्नेछौं कि त्यो वाक्य वास्तविक विवरणपत्रको सम्पर्कमा रहन्छ कि छैन।.
ओपनएआईका साम अल्टम्यानले सुरक्षा जोखिमहरूलाई सम्बोधन गर्न अन्य एआई कम्पनीहरूसँग सम्झौता गर्ने संकेत गरे
उही अन्तर्वार्ता, फरक शीर्षक, र यो एउटा कानाफूसी हो। अमोदेई, मस्क र डेमिस हासाबिससँग बस्नु स्वाभाविक अर्को कदम हो। अल्टम्यान: उनी सोच्छन् कि त्यो हुनेछ। उनी निजी वार्ताहरूको पूर्व-घोषणा गर्दैनन्। त्यसपछि उनले मूलतः ती पूर्व-घोषणा गरे।.
उनले भने, दोहोरो अंकको विनाशकारी जोखिम स्वीकार्य छैन। अझै रिलिज नभएका मोडेलहरू पहिले नै यति सक्षम छन् कि राम्रो अनुगमन क्षमता बिना अगाडि बढ्नु लापरवाह जस्तो लाग्छ। वास्तविक सम्झौता र सावधानीपूर्वक चुहावट गरिएको वातावरण बाहिरबाट समान देखिन सक्छ।.
कर्मचारीहरूले पहिले नै यसको एउटा संस्करण आन्तरिक रूपमा सुनेका थिए। सार्वजनिक रूपमा अझै पनि कुहिरो छ। यदि कोठामा त्यस्तो भयो भने, राम्रो। यदि त्यस्तो भएन भने, उद्धरणले अझै पनि काम गर्यो।.
साम अल्टम्यानले डारियो अमोदेईको गति कम गर्नको आह्वानलाई समर्थन गर्छन् र ओपनएआईले पनि त्यसै गर्ने बताउँछन्।
निबन्धको केही घण्टा पछि, अल्टम्यानले पोस्ट गरे कि ओपनएआईले एम्बेडेड-मूल्याङ्कनकर्ता प्रतिज्ञासँग मेल खानेछ। कर्मचारी जस्तै पहुँच। चाँडै साझा गर्न थप। मस्कले तीन शब्दहरू लेखे: "डारियो सही छ।" तीन प्रतिद्वन्द्वी सीईओहरू। एउटा नारा। असहज सप्ताहांत ऊर्जा।.
समन्वय र रंगमञ्च सँगै यात्रा गर्न सक्छन्। अमोदेईको योजनाको पहिलो चरणमा अब दुई ठूला प्रयोगशालाहरूले सार्वजनिक रूपमा टाउको हल्लाइरहेका छन्। हगिङ फेस - हो, त्यो हगिङ फेस - ले मूल्याङ्कनकर्ता कार्यक्रममा सामेल हुन आग्रह गर्यो र ओपन अलाइनमेन्ट इनिसिएटिभ भनिने केही सुरु गर्यो। ह्याक गरिएका व्यक्तिहरूबाट पारदर्शिता। काव्यात्मक, वा संकेतित।.
युरोप, यसको मूल्य जति भए पनि, अमेरिकी शैलीको छूटको लागि सोध्ने कोही छैन। ब्रसेल्सले धेरै पहिले व्यक्तिगत छूटहरू दिन बन्द गर्यो। त्यसैले हात मिलाउनु अमेरिकी हो। बाँकी नक्सा ... काँध उचाल्दै छ।.
ओपनएआई केवल जित्न चाहन्छ
गणितज्ञहरू एक सप्ताहन्तको अन्तर्वार्ता पछि उत्सवको मुडमा छैनन्। ओपनएआईको नेभियर-स्टोक्स स्प्रिन्ट - लगभग दस हजार एजेन्टहरू, दशौं लाख डलरको कम्प्युट, अठ्ठासी घण्टा - मैदान भित्रबाट ट्रफी खोज जस्तो देखिन्छ। गणितज्ञहरू अन्तर्दृष्टि चाहन्छन्। प्रयोगशाला, तिनीहरू भनिरहन्छन्, जित्न चाहन्छ।.
ट्रिस्टन बकमास्टरले उनीहरूलाई भने कि यदि उनले आफ्नो एन्थ्रोपिक-सम्बद्ध सहयोगीलाई त्यागे भने ओपनएआईले असीमित कम्प्युट र एकल लेखकत्व प्रदान गर्दछ। उनले यसलाई घूस भने। उनले भनेनन्। ओपनएआई भन्छ, स्पष्ट रूपमा, उनको कोडेक्स प्रम्प्टहरूले प्रणालीलाई प्रभाव पार्न सक्दैन। उनी विश्वस्त छैनन्। एन्ड्रियास थोम अझै पनि सोच्छन् कि उनको आफ्नै कामको बारेमा च्याटजीपीटी च्याटहरूले पछि त्यसमा निर्माण गरिएको मोडेललाई खुवाएको छ कि छैन। केवल कम्पनीलाई थाहा हुनेछ। उनी शंका गर्छन् कि उनीहरूलाई थाहा पनि छैन।.
अनि त्यसपछि किकर: ओपनएआईले भन्छ कि यसले पहिले नै अर्को मिलेनियम पुरस्कार समस्यामा उल्लेखनीय प्रगति गरिसकेको छ। कुन नाम नखुलाइएको छ। क्लेलाई अझै पनि लामो समुदाय-स्वीकृति विन्डो चाहिन्छ। त्यसैले कसैले पनि अहिलेसम्म "जितेको" छैन। तिनीहरू पहिले नै अर्कोको लागि दौडिरहेका छन्। प्यारो।.
सोधिने प्रश्न
एआई विकासलाई गति दिन एन्थ्रोपिकका सीईओ डारियो अमोदेईको योजना के छ?
अमोदेईले उद्योगलाई ढिलो गर्न आग्रह गर्दै लामो निबन्ध प्रकाशित गरे - रोक्न होइन - किनभने पुनरावर्ती आत्म-सुधार लेखा परीक्षकहरूले राख्न सक्ने भन्दा छिटो अगाडि बढिरहेको छ। पहिलो चरण भनेको ब्याज, डेस्क, ल्यापटप, र PR फिल्टर बिना निष्कर्षहरू प्रकाशित गर्ने अधिकारको साथ एम्बेडेड मूल्याङ्कनकर्ताहरूलाई एन्थ्रोपिकमा एकतर्फी रूपमा आमन्त्रित गर्नु हो। त्यसपछि उनी लोकतान्त्रिक प्रयोगशालाहरूले सुरक्षा मापदण्डहरू समन्वय गर्न चाहन्छन् र अन्ततः, अधिनायकवादी सरकारहरूसँग कुनै प्रकारको सम्झौता गर्न चाहन्छन्। उनी सुरक्षा वार्ताहरू आफैंमा कानुनी समस्या नहोस् भनेर संकीर्ण अविश्वास छूट पनि चाहन्छन्।.
साम अल्टम्यानले किन भने कि ओपनएआईले यस वर्ष आईपीओ जारी गर्दैन?
एक विशेष अन्तर्वार्तामा, अल्टम्यानले भने कि अहिले आईपीओ एउटा अनुचित क्षण हुनेछ किनभने सुरक्षा कार्य, पङ्क्तिबद्धता, र सामाजिक तयारी अपूर्ण छ। जब दबाब दिइयो, उनले पुष्टि गरे कि यो वर्ष यो हुनेछैन, यद्यपि बैंकरहरू घुमिरहेका थिए र गोप्य फाइलिङ अवस्थित छ। उनले तर्क गरे कि गैर-नाफामुखी/नाफामुखी संरचना अवस्थित छ त्यसैले ओपनएआईले कलहरू गर्न सक्छ जुन स्पष्ट रूपमा शेयरधारकहरूको हितमा छैनन्। उनले मानव नियन्त्रणभन्दा बाहिर एआई निर्माण गर्न पूर्ण रूपमा सम्भव छ भने र यदि त्यो बाटो हो भने उनी प्रशिक्षण रोक्ने वाचा गरे।.
के अल्टम्यानले अन्य एआई प्रयोगशालाहरूसँग सुरक्षा सम्झौताको संकेत गरे?
सोही अन्तर्वार्तामा, अल्टम्यानले भने कि उनी सोच्छन् कि अमोदेई, मस्क र डेमिस हासाबिस जस्ता साथीहरूसँग बैठक हुनेछ, जबकि निजी वार्ताको पूर्व-घोषणा गर्न अस्वीकार गरे। उनले तर्क गरे कि दोहोरो अंकको विनाशकारी जोखिम स्वीकार्य छैन र अझै पनि रिलीज नभएका मोडेलहरू पहिले नै यति सक्षम छन् कि राम्रो अनुगमन क्षमता बिना अगाडि बढ्नु लापरवाह महसुस हुन्छ। कर्मचारीहरूले पहिले नै आन्तरिक रूपमा यसको संस्करण सुनेका थिए, त्यसैले सार्वजनिक टिप्पणीहरूले समाप्त सम्झौता पुष्टि गर्नुको सट्टा समन्वयको पूर्वावलोकन गर्न सक्छन्।.
के ओपनएआईले एन्थ्रोपिकको एम्बेडेड-मूल्याङ्कनकर्ता प्रतिज्ञासँग मेल खान्छ?
अमोदेईको निबन्धको केही घण्टा पछि, अल्टम्यानले पोस्ट गरे कि ओपनएआईले कर्मचारी-जस्तो पहुँच र थप विवरणहरूको साथ एम्बेडेड-मूल्याङ्कनकर्ता प्रतिज्ञासँग चाँडै मिलाउनेछ। एलोन मस्कले लेखे कि डारियो सही छन्, तीन प्रतिद्वन्द्वी सीईओहरूलाई समान नारामा राख्दै। हगिङ फेसले मूल्याङ्कनकर्ता कार्यक्रममा सामेल हुन आग्रह गर्यो र ओपन अलाइनमेन्ट इनिसिएटिभ सुरु गर्यो। युरोपले अमोदेईले फ्लोट गरेको उही अमेरिकी शैलीको एन्टिट्रस्ट छूट प्रस्ताव गर्न सक्दैन, त्यसैले हात मिलाउनु अहिलेको लागि मुख्यतया अमेरिकी हो।.
ओपनएआईको नेभियर-स्टोक्स स्प्रिन्टको गणितज्ञहरूले किन आलोचना गरिरहेका छन्?
गणितज्ञहरूले ओपनएआईको लगभग दस हजार एजेन्ट, अठ्ठ्यासी घण्टा लामो नेभियर-स्टोक्स दौडलाई ट्रफी खोजको रूपमा वर्णन गर्छन् जसले अन्तर्दृष्टिमाथि विजय हासिल गर्ने प्राथमिकता दिन्छ। ट्रिस्टन बकमास्टरले भने कि ओपनएआईले एन्थ्रोपिक-सम्बद्ध सहयोगीलाई छोडेमा असीमित कम्प्युट र एकल लेखकत्व प्रदान गर्दछ; उनले यसलाई घूस भने र अस्वीकार गरे। ओपनएआई भन्छन् कि उनको कोडेक्स प्रम्प्टहरूले प्रणालीलाई प्रभाव पार्न सक्दैन, तर उनी अझै पनि विश्वस्त छैनन्। एन्ड्रियास थम अझै पनि दबाब दिन्छन् कि च्याटजीपीटीले आफ्नो कामको बारेमा पछि मोडेल प्रगतिलाई पोषित गर्छ कि गर्दैन।.
के ओपनएआईले अर्को मिलेनियम पुरस्कार समस्यामा प्रगति दाबी गरेको छ?
ओपनएआईले अर्को मिलेनियम पुरस्कार समस्यामा पहिले नै उल्लेखनीय प्रगति गरिसकेको बताएको छ, तर कुनको नाम भने तोकेको छैन। क्ले गणित संस्थानलाई अझै पनि समुदाय-स्वीकृति विन्डो लामो चाहिन्छ, त्यसैले कसैले पनि आधिकारिक रूपमा जितेको छैन। मैदान भित्र, त्यो गोपनीयता र पहिलेको नेभियर-स्टोक्स दौडलाई प्रयोगशालाहरूले पहिले नै अर्को ट्रफी दौडिरहेको रूपमा पढ्छन्। भर्ज अन्तर्वार्ताले गणितज्ञहरूलाई अन्तर्दृष्टि चाहेको रूपमा तनावलाई फ्रेम गर्दछ जबकि ओपनएआई जित्न चाहन्छ।.