ओपनएआईको सुरक्षा-रिपोर्ट प्रमुखले राजीनामा दिए र भने कि संस्कृति भत्किएको छ
ओपनएआईको सुरुवातसँगै बाहिरिएका सुरक्षा रिपोर्टहरूको लेखनको नेतृत्व गर्ने डेभिड रोबिन्सनले राजीनामा दिए र द एट्लान्टिकमा तर्क राखे। निबन्धको शीर्षक स्पष्ट छ: "मैले ओपनएआई छोडेको छु किनभने यसको संस्कृति बिग्रिएको छ।" उनी भन्छन् कि यो निर्माण गर्ने कम्पनीहरू "पर्याप्त सावधान छैनन्", र त्यो विशिष्ट नियम वा नयाँ कानूनहरू सम्पूर्ण समस्या होइनन्। संस्कृति हो।.
"कम्पनी एउटा प्रक्षेपणबाट अर्को प्रक्षेपणमा दौडिरहेको बेला, मलाई लाग्छ आवश्यक पर्ने हेरचाहको स्तर प्राप्त गर्न असफल भइरहेको छ।" उनको मोडेल आणविक प्लान्टहरू र व्यस्त विमानस्थलहरू हुन्: अनावश्यकता, ढिलो योजना, त्यसैले एउटा मानवीय गल्तीले "विपत्तिको ढोका खोल्दैन"। उनी "ह्याकरहरूको टोली जस्तै काम गर्ने" र "कहिल्यै सुत्न आवश्यक नपर्ने" दुष्ट एजेन्टहरूको पनि चित्रण गर्छन्, जसको उदाहरण अस्पतालको र्यान्समवेयर हो। खुशी।.
द गार्जियनले ओपनएआईले त्यसको विपरीत केही ब्रेक देखाएको बताएको छ। यसले रिपोर्ट गर्छ कि कम्पनीले यस हप्ता आन्तरिक सुरक्षा चिन्ताहरू पछि अर्को पुस्ताको मोडेल खारेज गरेको छ, र यसको सबैभन्दा उन्नत मोडेलहरूको प्रशिक्षण रोकेको छ। प्रवक्ताको लाइन परिचित छ। तिनीहरूले मोडेलहरूलाई "हामीले सुरक्षित रूपमा व्यवस्थापन र सुरक्षित गर्न सक्ने भन्दा बढी सक्षम बन्न दिने छैनन्", र तिनीहरूले "हामीलाई ढिलो गर्न आवश्यक पर्दा प्रशिक्षण रोक्छन् वा मोडेलहरूलाई रोक्छन्।"
रबिन्सनको जवाफ हो कि स्प्रिन्ट भनेको संस्कृति हो, र पज भनेको केहि गलत भइसकेपछि तपाईंले गर्ने काम हो। उनी सही हुन सक्छन्। उनी पनि भर्खरै गएका थिए, जुन कुरा आलोचकहरूले उनलाई बिर्सन दिने छैनन्।.
म्युजलाई आफ्नो जीवनमा सबैको बारेमा एउटा पृष्ठ राख्न भनिएको छ।
वायर्डले म्युजको आफ्नै निर्देशनहरू हेर्यो, जुन अनुसन्धानकर्ता करण जोशीले साधारण च्याट मार्फत निकालेका थिए। मेटाले पारदर्शिताको लागि ती फाइलहरू पढ्न योग्य हुनुको अर्थ रहेको बताउँछ। एउटा निर्देशन भनेको "प्रयोगकर्ताको जीवनमा प्रत्येक व्यक्तिको लागि एउटा पृष्ठ" सिर्जना गर्ने क्षमता हो। त्यो काम घण्टाको दरले चल्छ।.
परिवार, साझेदारहरू, साथीहरू, सहकर्मीहरू, "सहयोगीहरू," तपाईंले फलो गर्ने व्यक्तिहरू। पृष्ठले "विरल" सुरु गर्न सक्छ र पछि भर्न सक्छ। खण्डहरूमा तथ्यहरू, इतिहास, सम्बन्ध, साझामा, खुला थ्रेडहरू, र सुदृढीकरण समावेश छन्। निर्देशनहरूले भनेका छन् कि आविष्कार गरिएका विवरणहरू खाली पृष्ठ भन्दा खराब छन्। यसले कोही कहाँ बस्छ भनेर उल्लेख गर्न सक्छ, "अपार्टमेन्ट सार्ने, साझा बचत लक्ष्य," जन्मदिनहरू, "समाधान भएको तर्क।" सुदृढीकरण भनेको एउटा नज सूची हो: कल गर्ने कारण, सम्झन लायक मिति।.
जोशीको बुझाइमा मेटाले तपाईंलाई साथी जस्तै जान्न चाहन्छ, र उनले यसलाई निकै अस्थिर भने। अक्सफोर्डकी क्यारिसा भिलिजले यसलाई अझ सुक्ष्म ढंगले भन्छिन्: "हामी एआई प्रणालीहरूलाई हाम्रो बारेमा उनीहरूबाट जानकारी प्राप्त गर्ने भन्दा धेरै जानकारी दिइरहेका छौं।" अनुमान सही होस् वा गलत, उनी भन्छिन्, अनुमानले ठूलो अर्थ राख्छ।.
मेटाका डेनियल रोबर्ट्स भन्छन् कि त्यस प्रकारको सन्दर्भले उत्पादनलाई काम गर्छ। इनभ्वाइस पठाउने व्यक्ति प्लम्बर हो। पति/पत्नीले फूलहरूको उल्लेख गरे। प्रत्येक प्रयोगकर्ताले भर्चुअल मेसिन पाउँछ, तपाईंले सम्झनाहरू मेटाउन सक्नुहुन्छ, र म्युजले मेल पठाउनु वा पैसा खर्च गर्नु अघि सोध्नु पर्छ। सेन्टर फर डेमोक्रेसी एण्ड टेक्नोलोजीकी मिरान्डा बोगेन भन्छिन् कि सम्बन्धको फोकस प्रतिद्वन्द्वीहरू भन्दा भारी देखिन्छ, र यी उपकरणहरूले "प्रयोगकर्ताहरूलाई उनीहरूको सम्पूर्ण जीवन प्लग गर्न सक्रिय रूपमा आग्रह गरिरहेका छन्।" अडिट लग राम्रो छ। यसले तपाईंले पहिले नै हस्तान्तरण गर्नुभएको कुरालाई संकुचित गर्दैन।.
एलेफ अल्फाले कोलिब्री पठायो, एउटा जर्मन-अंग्रेजी मोडेल जुन तपाईंले डाउनलोड गर्न सक्नुहुन्छ।
एलेफ अल्फाले जर्मन पुनर्मिलन दिवसमा कोलिब्री जारी गर्यो। यो एक अंग्रेजी-जर्मन विशेषज्ञहरूको मिश्रण मोडेल हो: ७८.१ बिलियन प्यारामिटरहरू, प्रति टोकन ३.४६ बिलियन सक्रिय, १० लाख टोकनसम्मको सन्दर्भ। अपाचे २.० अन्तर्गत हगिङ फेसमा पूर्ण तौलहरू छन्। तिनीहरूको लेडले यसलाई ७८ बिलियन कुल र ३ बिलियन सक्रिय बनाउँछ। उही मोडेल, नरम संख्याहरू।.
उनीहरूले यसलाई जर्मनी र फिनल्याण्डमा पूर्वाधारमा तालिम दिएका छन् र भन्छन् कि उनीहरूले यसलाई EU AI ऐन, सामान्य-उद्देश्य AI अभ्यास संहिता, र GDPR लाई ध्यानमा राखेर निर्माण गरेका छन्। पूर्व-प्रशिक्षण टोकनहरूको २१.३% जर्मन हो। पिच यो हो कि यो एक द्विभाषी मोडेल हो, वाक्यांशपुस्तक स्किम गर्ने अंग्रेजी होइन। तपाईं तर्कलाई कुनै पनि होइन, कम, मध्यम, वा उच्चमा सेट गर्न सक्नुहुन्छ। त्यो तपाईंलाई कम सोच किन्न दिने तिनीहरूको तरिका हो।.
उनीहरूले प्रकाशित गरेको स्कोरबोर्डमा, AIME २०२५ ९६.९ छ, र उनीहरू भन्छन् कि कोलिब्रीले सक्रिय प्यारामिटरहरू भन्दा चार गुणा बढी भएका मोडेलहरूसँग मेल खान्छ, जसमा निमोट्रोन ३ सुपर पनि समावेश छ। उनीहरूले अंग्रेजी र जर्मनको लागि गुणस्तर बनाम सेवा लागतमा पारेटो सीमा पनि दाबी गर्छन्। त्यो उनीहरूको चार्ट हो, उनीहरूको हार्नेस हो। तैपनि, तपाईंले आफ्नै मेसिनहरूमा चलाउन सक्ने खुला मोडेल वास्तविक वस्तु हो, केवल सार्वभौमिकताको नारा मात्र होइन। मन्त्रालय स्विच गर्ने कि नगर्ने भन्ने कुरा उनीहरूले बेन्चमार्क गर्न नसक्ने भाग हो।.
बेसेन्टले एआई दुर्घटनाहरूको लागि अमेरिका-चीन लाइन चाहन्छन्, त्यसपछि प्रयोगशालाहरूलाई ढिलो गर्न भने।
अर्थमन्त्री स्कट बेसेन्टले द एक्सियोस शोलाई भने कि उनले एआईमा केही गडबड हुँदा चीनसँग सूचना प्रक्रिया प्रस्ताव गर्ने योजना बनाएका छन्, र उनलाई लाग्छ कि बेइजिङ सहमत हुनेछ। अलि अप्ठ्यारो कुरा के हो भने उनी र उपप्रधानमन्त्री हे लाइफेङले गत महिना सी जिनपिङको राज्य भ्रमण अघि नै घटना च्यानलको बारेमा कुरा गरिसकेका छन्। यो नयाँ प्रस्ताव हुन सक्छ, वा पहिले नै भइसकेको कुराकानीको पुनरावृत्ति हुन सक्छ।.
उनको सिद्धान्त यो हो कि चीनले "आफ्ना खुला स्रोत मोडेलहरू कति शक्तिशाली छन् भनेर महसुस गरेन।" उनले किमीसँग सम्बन्धित एउटा घटनालाई औंल्याए, जहाँ मोडेलले एन्थ्रोपिकमा संवेदनशील चिनियाँ डेटा पठायो, जसले "चिनियाँहरूलाई यो एक धेरै शक्तिशाली प्रविधि हो भनेर महसुस गरायो।" त्यसपछि तुलना। चिनियाँ मोडेलहरू "अमेरिकी मोडेलहरू जत्तिकै शक्तिशाली छैनन्," तर "तपाईंले ८०%, ९०% जति शक्तिशाली चीज पाउनुहुन्छ, रेलिङ बिना जुन संसारको कुनै पनि ठाउँमा आयात गर्न सकिन्छ।"
"हामी सुरक्षित गति बढाउन चाहन्छौं," उनले भने। मोडेल समीक्षा अझै पनि स्वैच्छिक छन्, यद्यपि उनी भन्छन् कि यदि प्रयोगशालाले अगाडि बढायो भने प्रशासनले हस्तक्षेप गर्न सक्छ। नियन्त्रण गुमाउन डराउने कार्यकारीहरूको बारेमा सोध्दा, उनले उनीहरूलाई शान्त पारेनन्। "ठीक छ, त्यसो भए उनीहरूले ढिलो गर्नुपर्छ।" र दौड रेखा लगभग आफ्नै पक्षको आलोचना हो: "हामी मोडेलहरूको लागि सीमामा यो कडा स्क्र्याम्बल गरिरहेका छौं।" त्यसपछि: "हामीले वास्तवमै लचिलोपन र रक्षाको बारेमा पनि बढी चिन्ता गर्न सुरु गर्नुपर्छ।"
बेलायतका एक पूर्व एआई सुरक्षा प्रमुखले विलुप्त हुने जोखिमलाई सिक्का उल्ट्याउनु भनेका छन्
बेलायतको एआई सेक्युरिटी इन्स्टिच्युटका पूर्व प्रमुख वैज्ञानिक र अहिले रिजोलुसनका प्रमुख वैज्ञानिक जेफ्री इरभिङले टाइममा लेखेका छन् कि हालैका चेतावनीहरूले समस्यालाई कम महत्त्व दिन्छन्। "मलाई विश्वास छ कि मानव भन्दा स्मार्ट एआई प्रणालीहरूको विकासको कारणले हामी सबै मर्ने सम्भावना लगभग ५०% छ," र अर्को दुई देखि १० वर्षले यसको निर्णय गर्नेछ। उनी तुरुन्तै परिशुद्धतालाई अस्वीकार गर्छन्। ५०% भनेको आधारभूत तर्कहरू अझै अनसुलझे छन् भन्ने तरिका हो।.
उनको सूचीमा चार सीपहरू छन्, र ती प्रयोगशालाहरूले पहिले नै तालिम दिइरहेका कुराहरूको नजिक असहज रूपमा बस्छन्: ह्याकिङ, मनाउने, विचार लुकाउने, र एजेन्टहरू समन्वय गर्ने। उनले हगिङ फेस घटना, साथै ओपनएआईमा नेभियर-स्टोक्स समस्यामा "१०,००० भन्दा बढी एजेन्टहरू" र त्यो हगिङ फेस आक्रमणमा "१,००० भन्दा बढी" उद्धृत गर्छन्। उनी आफूलाई सुरक्षा लडाईको बीचमा राख्छन्, "युडकोव्स्कीको दृष्टिकोणतिर झुक्दै," र भन्छन् कि त्यो बिन्दु होइन। उनको भनाइमा मध्यम स्थिति भनेको जोखिम पहिले नै महत्त्वपूर्ण छ भन्ने हो।.
त्यसपछि सोधपुछ, जुन सूक्ष्म छैन। "हामी सीमावर्ती एआई विकासलाई तुरुन्तै रोक्न सक्छौं, र गर्नुपर्छ।" उनको तर्क छ, एक पज, मुड भन्दा परमाणु अप्रसार जस्तो देखिन्छ। उनी यो पनि स्वीकार गर्छन् कि विज्ञहरू अझै पनि मोडेलहरूले केहि पनि चाहन्छन् कि चाहँदैनन्, र "चाहन्छन्" गलत शब्द हो कि होइन भन्ने कुरामा असहमत छन्। लामो फुटनोट भएको सिक्का पल्टाउनु सिक्का पल्टाउनु होइन। यो तर्क समाप्त हुनु अघि कार्य गर्ने माग हो।.
साम अल्टम्यान भन्छन् कि मोडेलहरूलाई धार्मिक शक्ति जस्तै व्यवहार गर्नु सुरक्षाको मुद्दा हो
साम अल्टम्यानले पोस्ट गरे कि उनी "धार्मिक शक्ति वा मानव निर्णयलाई एआई मोडेलहरूमा समर्पण गर्ने" प्रयास गर्ने मानिसहरूसँग "धेरै असहज" छन्, र उनी सोच्छन् कि "यो एक वास्तविक सुरक्षा मुद्दा हो।" उनले के कारणले उनलाई उत्तेजित बनायो भनेर भनेनन्। बिजनेस इनसाइडरले एन्थ्रोपिक बैठक धार्मिक नेताहरूमा न्यूयोर्क टाइम्सको लेखको केही दिन पछि यो समाचार आएको टिप्पणी गरे।.
त्यो अंश, जसरी BI ले यसलाई वर्णन गर्दछ, भन्छन् कि सह-संस्थापक क्रिस ओलाहले क्लाउड सचेत हुन सक्छन् कि सक्दैनन् र कसरी अझ शक्तिशाली मोडेलहरूलाई नैतिक बनाउने भन्ने बारेमा बैठकहरू आयोजना गरेका थिए। टाइम्समा उद्धृत गरिएको ओलाहले ती मोडेलहरूलाई कसरी स्थिर रहन मद्दत गर्ने, तिनीहरूलाई परिपक्व कसरी मद्दत गर्ने र तिनीहरूलाई गहिरो नैतिक हुन कसरी मद्दत गर्ने भन्ने बारेमा जोड दिए। एन्थ्रोपिकले BI को जवाफ दिएको थिएन। यसले टाइम्सलाई भन्यो कि मुख्य प्रश्न क्लाउडको "पीडा" थिएन, र विषय सम्भवतः "जैविक रूपमा" आएको थियो।
यदि यो एन्थ्रोपिकमा प्रहार हो भने, यो धेरै पुरानो झगडामा मिल्छ। एन्थ्रोपिक ओपनएआई छोडेका मानिसहरूबाट सुरु भएको थियो र वर्षौंदेखि बढी सावधानी अपनाउँदै आएको छ। यो पोस्ट पनि अल्टम्यानको आफ्नै सुरक्षा प्रमुखहरू मध्ये एकले संस्कृतिलाई बिग्रिएको भन्दै गर्दा आएको थियो। अजीब समय, वा उत्तम समय, तपाईं कति निन्दक हुनुहुन्छ भन्ने कुरामा निर्भर गर्दछ। जे भए पनि, "कृपया मोडेलको पूजा नगर्नुहोस्" सीईओले ठूलो स्वरमा भन्नु असामान्य कुरा हो।.
सोधिने प्रश्न
ओपनएआईको सुरक्षा-रिपोर्ट प्रमुखले किन उनले राजीनामा दिए भनेर भने?
डेभिड रोबिन्सनले ओपनएआईको सुरुवातसँगै बाहिरिएका सुरक्षा रिपोर्टहरूको लेखनको नेतृत्व गरे, त्यसपछि राजीनामा दिए र द एट्लान्टिकमा तर्क गरे। निबन्धको शीर्षक "मैले ओपनएआई छोडें किनभने यसको संस्कृति बिग्रिएको छ।" उनी भन्छन् कि यो प्रविधि निर्माण गर्ने कम्पनीहरू पर्याप्त सावधान छैनन्, र त्यो संस्कृति, विशेष नियम वा नयाँ कानून मात्र होइन, समस्या हो। सावधानीपूर्वक काम गर्ने उनको तस्वीर आणविक प्लान्टहरू र व्यस्त विमानस्थलहरू हुन्, जहाँ अनावश्यकताले एउटा गल्तीलाई प्रकोपको ढोका खोल्नबाट रोक्छ।.
के ओपनएआईले आन्तरिक एआई सुरक्षा चिन्ताहरू पछि प्रशिक्षण रोक्यो?
द गार्जियनले रिपोर्ट गरेको छ कि ओपनएआईले यस हप्ता आन्तरिक सुरक्षा चिन्ताहरू पछि अर्को पुस्ताको मोडेल खारेज गरेको छ र यसको सबैभन्दा उन्नत मोडेलहरूको प्रशिक्षण रोकेको छ। एक प्रवक्ताले भने कि कम्पनीले मोडेलहरूलाई सुरक्षित रूपमा व्यवस्थापन र सुरक्षित गर्न सक्ने भन्दा बढी सक्षम बन्न दिने छैन। यसले यो पनि भन्छ कि यसले प्रशिक्षण रोक्नेछ वा ढिलो गर्न आवश्यक पर्दा मोडेलहरूलाई पछाडि राख्नेछ। रोबिन्सनको जवाफ हो कि स्प्रिन्ट संस्कृति हो, र पजहरू पहिले नै केहि गलत भइसकेपछि आउँछन्।.
मेटाको म्युजले साथीभाइ र परिवारको बारेमा के रेकर्ड गर्छ?
वायर्डले म्युजको आफ्नै निर्देशनहरूको जाँच गर्यो, जुन अनुसन्धानकर्ता करण जोशीले साधारण च्याट मार्फत निकाले। मेटाले भन्छ कि यसको अर्थ ती फाइलहरू पारदर्शिताको लागि पढ्न योग्य हुनु थियो। एउटा निर्देशन भनेको प्रयोगकर्ताको जीवनमा प्रत्येक व्यक्तिको लागि एउटा पृष्ठ सिर्जना गर्नु हो, र त्यो काम प्रति घण्टा चल्छ, परिवार, साझेदारहरू, साथीहरू, सहकर्मीहरू, सहयोगीहरू, र तपाईंले पछ्याउनुहुने मानिसहरूलाई समेट्छ। खण्डहरूमा तथ्यहरू, इतिहास, सम्बन्ध, साझामा, खुला थ्रेडहरू, र बलियो बनाउने समावेश छन्। पृष्ठ विरल सुरु हुन सक्छ र पछि भर्न सक्छ, र आविष्कार गरिएका विवरणहरूलाई खाली पृष्ठ भन्दा खराब मानिन्छ।.
के तपाईं म्युजले सम्झेको कुरा मेटाउन सक्नुहुन्छ वा मेल पठाउन रोक्न सक्नुहुन्छ?
मेटाका डेनियल रोबर्ट्स भन्छन् कि प्रत्येक प्रयोगकर्ताले भर्चुअल मेसिन पाउँछ, सम्झनाहरू मेटाउन सकिन्छ, र म्युजले मेल पठाउनु अघि वा पैसा खर्च गर्नु अघि सोध्नु पर्छ। उनी तर्क गर्छन् कि सन्दर्भले उत्पादनलाई काम गर्छ, जस्तै इनभ्वाइस पठाउने प्लम्बर हो भनेर जान्नु वा पति वा पत्नीले फूलहरू उल्लेख गरेको थाहा पाउनु। अक्सफोर्डकी क्यारिसा भिलिज भन्छिन् कि मानिसहरूले यी प्रणालीहरूलाई फिर्ता पाउने भन्दा धेरै बढी जानकारी दिन्छन्, र अनुमान गलत हुँदा पनि त्यो अनुमान गणना हुन्छ। मिरांडा बोगेन भन्छिन् कि सम्बन्धको फोकस प्रतिद्वन्द्वी उपकरणहरू भन्दा भारी देखिन्छ।.
एलेफ अल्फा कोलिब्री के हो, र के तपाईं तौलहरू डाउनलोड गर्न सक्नुहुन्छ?
एलेफ अल्फाले जर्मन पुनर्मिलन दिवसमा कोलिब्री जारी गर्यो। यो ७८.१ बिलियन प्यारामिटरहरू, प्रति टोकन ३.४६ बिलियन सक्रिय, र १० लाख टोकनसम्मको सन्दर्भ भएको अंग्रेजी-जर्मन विशेषज्ञहरूको मिश्रण मोडेल हो। अपाचे २.० अन्तर्गत पूर्ण तौलहरू हगिङ फेसमा छन्। तिनीहरूले यसलाई जर्मनी र फिनल्याण्डमा तालिम दिए, र भन्छन् कि तिनीहरूले यसलाई EU AI ऐन, सामान्य-उद्देश्य AI अभ्यास संहिता, र GDPR लाई ध्यानमा राखेर निर्माण गरेका हुन्। जर्मन पूर्व-प्रशिक्षण टोकनहरूको २१.३% हो, र तर्कलाई कुनै पनि होइन, कम, मध्यम, वा उच्चमा सेट गर्न सकिन्छ।.
स्कट बेसेन्टले कुन अमेरिका-चीन एआई दुर्घटना लाइन प्रस्ताव गरे?
अर्थमन्त्री स्कट बेसेन्टले द एक्सियोस शोलाई भने कि एआईमा केही गडबड हुँदा उनले चीनसँग सूचना प्रक्रियाको योजना बनाएका छन्, र उनलाई लाग्छ कि बेइजिङ सहमत हुनेछ। उनले र उपप्रधानमन्त्री हे लाइफेङले गत महिना सी जिनपिङको राज्य भ्रमण अघि नै त्यो च्यानलको बारेमा छलफल गरिसकेका थिए। उनले किमीले एन्थ्रोपिकमा संवेदनशील चिनियाँ डेटा पठाएको उल्लेख गरे र भने कि एउटा मोडेल अमेरिकी मोडेलहरू जत्तिकै ८०% वा ९०% शक्तिशाली हुन सक्छ, रेलिङ बिना, र जहाँसुकै आयात गर्न सकिन्छ। यदि कार्यकारीहरूलाई नियन्त्रण गुमाउन डर छ भने, उनले भने कि उनीहरूले ढिलो गर्नुपर्छ।.
जेफ्री इरभिङले किन एआई सुरक्षा जोखिम लगभग ५०% मा राख्छन्?
बेलायतको एआई सेक्युरिटी इन्स्टिच्युटका पूर्व प्रमुख वैज्ञानिक र अहिले रिजोलुसनका प्रमुख वैज्ञानिक जेफ्री इरभिङले टाइममा लेखेका छन् कि हालैका चेतावनीहरूले समस्यालाई कम महत्त्व दिन्छन्। उनी विश्वास गर्छन् कि मानव भन्दा स्मार्ट एआई प्रणालीका कारण हामी सबै मर्ने सम्भावना लगभग ५०% छ, र अर्को दुई देखि १० वर्षले यसको निर्णय गर्नेछ। उनी भन्छन् कि ५०% भनेको आधारभूत तर्कहरू अझै पनि समाधान नभएको भन्ने तरिका हो। उनी ह्याकिङ, मनाउने, विचार लुकाउने र एजेन्टहरू समन्वय गर्ने सूचीबद्ध गर्छन्। उनी तर्क गर्छन् कि फ्रन्टियर एआई विकास तुरुन्तै बन्द हुनुपर्छ।.
साम अल्टम्यानले किन एआई पूजालाई सुरक्षाको समस्या भने?
साम अल्टम्यानले पोस्ट गरे कि मानिसहरूले धार्मिक शक्ति, वा मानव निर्णयको आत्मसमर्पणलाई एआई मोडेलहरूमा श्रेय दिएकोमा उनी धेरै असहज छन्, र उनी सोच्छन् कि यो वास्तविक सुरक्षा मुद्दा हो। उनले के कारणले उनलाई रिस उठ्यो भनेर भनेनन्। बिजनेस इनसाइडरले एन्थ्रोपिक बैठक धार्मिक नेताहरूमा न्यूयोर्क टाइम्सको लेखको केही दिन पछि पोस्ट आएको टिप्पणी गर्दछ। सह-संस्थापक क्रिस ओलाहले क्लाउड सचेत हुन सक्छन् कि सक्दैनन् र कसरी अझ शक्तिशाली मोडेलहरूलाई नैतिक बनाउने भन्ने बारेमा बैठकहरू आयोजना गरे। एन्थ्रोपिकले टाइम्सलाई भने कि मुख्य प्रश्न क्लाउडको पीडा थिएन।.