एआई डाटा सेन्टर भनेको के हो? [भिडियो र क्विज]

छोटो उत्तर: एआई डाटा सेन्टर भनेको उच्च-घनत्व भएको साइट हो जहाँ पावर, कूलिंग, कपडा र भण्डारण प्रशिक्षण र सेवा मोडेलहरू वरिपरि घुमाइन्छ, अतिरिक्त GPU हरू भएको सर्भर कोठा होइन। चिप्सले प्रसिद्धि पाउँछ; भवनले निर्णय गर्छ कि तिनीहरू काम गर्छन् कि गर्दैनन्। यदि छविहरू छोड्न सक्दैनन् भने, सानो सेललाई पुन: फिट गर्नुहोस्; धेरैजसो टोलीहरूले भाडामा लिनुपर्छ।

मुख्य कुराहरू:

चिप्स बनाम निर्माण: शक्ति, शीतलन, कपडा र भण्डारणले एक्सेलेरेटरहरूले काम गर्छन् कि गर्दैनन् भन्ने निर्णय गर्छ।

दरबार होइन ठाउँहरू: डेटा छोड्न नसक्दा दुई र्‍याकहरू पुन: निर्माण गर्नुहोस्; क्याम्पस नकिन्नुहोस्।

औसत बनाम मध्य: आठ रनमा, मध्यक हिड पुन: सुरु हुन्छ; १८-घण्टाको औसत प्रयोग गर्नुहोस्।

दुरुपयोग प्रतिरोध: मिश्रित हलमा दुई र्‍याकहरूको लागि PUE उद्धृत नगर्नुहोस्।

उदाहरणीय परिणामहरू: आठ रनहरू एउटा सानो नक्सा हुन्, ५०% उत्पादन बचत होइन।

यसपछि पढ्न मन लाग्ने लेखहरू:

🔗 के एआई भरपर्दो छ? भिडियो र क्विज
एक आकर्षक भिडियो र अन्तरक्रियात्मक क्विज मार्फत एआई विश्वसनीयता अन्वेषण गर्नुहोस्।

🔗 दैनिक जीवनमा AI कसरी प्रयोग गर्ने
AI ले दैनिक कार्य र दिनचर्यालाई सरल बनाउन सक्ने व्यावहारिक तरिकाहरू पत्ता लगाउनुहोस्।

🔗 काममा AI कसरी प्रयोग गर्ने
कार्यस्थलमा स्मार्ट उत्पादकत्वको लागि AI प्रयोग गर्ने व्यावहारिक तरिकाहरू सिक्नुहोस्।

🔗 के एआई आफैं सोच्न सक्छ?
आर्टिफिसियल इन्टेलिजेन्सले साँच्चै स्वतन्त्र रूपमा सोच्न सक्छ कि तर्क गर्न सक्छ भनेर बुझ्नुहोस्।

यो "सामान्य" डेटा केन्द्र भन्दा कसरी फरक छ?

परम्परागत हलहरूले धेरै साना सेवाहरूमा मिश्रित कार्यभार र अपटाइमको लागि अनुकूलन गर्छन्। तपाईंलाई रिडन्डन्सीको बारेमा पक्कै पनि ख्याल छ, र PUE लाई अवधारणाको रूपमा - भवनले एक वाट कम्प्युट प्रदान गर्न अतिरिक्त ऊर्जा जलाउँछ। तपाईं सामान्यतया, प्रत्येक कोरिडोरलाई र्‍याक वरिपरि डिजाइन गर्नुहुन्न जुन पोर्टेबल हीटर फार्म जस्तै व्यवहार गर्दछ।

एआई साइटहरूले अनुपातहरू उल्ट्याउँछन्। घनत्व बढ्छ। नेटवर्क एउटा यस्तो कपडा बन्छ जसको बिना प्रशिक्षण कार्य चल्न सक्दैन। भण्डारणले चेकपोइन्टहरू चलिरहनु पर्छ वा एक्सेलेरेटरहरू निष्क्रिय बस्नु पर्छ, जस्तै ट्राफिक जाममा दौडने घोडाहरू।.

सांस्कृतिक भिन्नता पनि छ। इन्टरप्राइज अप्सले टिकट र परिवर्तन विन्डोमा सोच्दछ। एआई अप्सले कामको लाइनमा सोच्दछ र लामो समयसम्म ढिलो नोड मर्दा बिरामी महसुस हुन्छ। मलाई लाग्छ तपाईं अझै पनि दुबैलाई "डेटा सेन्टर" भन्न सक्नुहुन्छ किनभने तिनीहरू छन्। लेबलले प्लम्बिङलाई लुकाउँछ।.

नैतिक श्रेणीकरण होइन। फरक मेसिन, एउटै परिवारको नाम।.

GPU हरू, एक्सेलेरेटरहरू, र पावर खाने र्‍याक

परम्परागत रूपमा उठेको भुइँमा हिँड्दा र्‍याकहरू लगभग शिष्ट देखिन्छन्। एआई लाइनमा हिँड्दा तिनीहरू भवन निल्न चाहन्छन् जस्तो देखिन्छन्।.

स्ट्यान्डआउट हार्डवेयर एक चलाख CPU होइन। यो एक्सेलेरेटर ट्रे हो: GPU हरू वा अन्य AI चिपहरू, सर्भरहरूमा प्याक गरिएका, त्यसपछि र्‍याकहरू, त्यसपछि उच्च-ब्यान्डविथ कपडा साझा गर्ने पङ्क्तिहरू। GPU इन्टरकनेक्टहरूले चिपहरूलाई त्यस्तो चीजमा स्टिच गर्दछ जुन एक विशाल एक्सेलेरेटर हुन सक्छ; क्लस्टर कपडाले पङ्क्ति स्केलमा उही चाल गर्छ। समानान्तर प्रशिक्षणले मात्र काम गर्छ यदि ती लिङ्कहरू मोटा र अनुमानित रहन्छन्। त्यो गुमाउनुहोस् र तपाईंको "क्लस्टर" पोष्टकोड साझा गर्ने महँगो कार्यस्थानहरूको थुप्रो हो।

चिप्सले बिजुलीलाई पछ्याउँछ। ठूलो कार्यालय PDU होइन। हल भरिएपछि मेगावाट IT लोड हुन्छ - म संख्या आविष्कार गर्दिन। प्रति र्‍याक घनत्व प्लट ट्विस्ट हो। कम र्‍याकहरू। प्रत्येक एउटा सानो भट्टी। सीमित कारक प्रायः सबस्टेशन हो, GPU हरूको इच्छा सूची होइन। तपाईंलाई थाहा छ यो कस्तो छ: खरिदले थप एक्सेलेरेटरहरू चाहन्छ; उपयोगिताले लामो कुराकानी र धेरै ठूलो चेक चाहन्छ।.

एउटा अलि मूर्ख रूपक जुन म हल्लाउन सक्दिन: र्‍याक भोको जनावर हो। तपाईं छिटो प्रजनन गर्न सक्नुहुन्छ। तपाईंले अझै पनि यसलाई खुवाउनु पर्छ, र तपाईंले अझै पनि गर्मीलाई मलमूत्र गर्नुपर्छ। दुबैलाई छोड्नुहोस् र यो धेरै महँगो पेपरवेट बन्छ।.

बिजुली, ताप, र शीतलन समस्या

बिजुली भित्र। तताउनु। त्यो नै सम्पूर्ण धर्म हो।.

उच्च-घनत्व र्‍याकहरूले तापलाई यसरी फ्याँक्छन् कि हावालाई वास्तवमा कहिल्यै ह्यान्डल गर्न भनिएको थिएन। तपाईं हावालाई अझ जोडदार रूपमा धकेल्न सक्नुहुन्छ - पछाडिको ढोकाको ताप एक्सचेन्जरहरू, तातो ऐसहरू, चलाखीपूर्ण कन्टेनमेन्ट - र त्यो एक बिन्दुसम्म काम गर्छ। त्यसपछि तरल पदार्थ देखा पर्दछ:

• सिधै-टु-चिप कूलिंग

• प्लान्ट कोठालाई रसायन जस्तो देखाउने शीतलक लूपहरूले काम गर्छ

• केही डिजाइनहरूमा डुबाइ, जसले पानी र सर्भरहरूले एक वाक्य साझा गर्नु हुँदैन भन्ने सोच्ने मानिसहरूलाई अझै पनि चकित पार्छ।

यी मध्ये कुनै पनि आकर्षक छैन। यो सबै उत्पादन हो, किनकि थ्रोटल गर्ने एक्सेलेरेटर तपाईंले पहिले नै तिरेको र पूर्ण रूपमा प्रयोग गर्न नसक्ने हो।.

PUE अझै पनि महत्त्वपूर्ण छ। यो अनुपात हो, व्यक्तित्व होइन। अपरेटरहरूले यसलाई पछ्याउँछन् किनभने पंखा र पम्पहरूमा खर्च गरिएको प्रत्येक वाट GPU मा नगएको वाट हो। म "विशिष्ट" आंकडा उद्धृत गर्दिन; जलवायु र तपाईंले सीमा कसरी कोर्नुहुन्छ त्यसले यसलाई सार्छ, र नक्कली परिशुद्धता कुनै पनि भन्दा खराब छैन। पानी पनि कथामा बस्छ। केही बिरुवाहरू चुस्की लिन्छन्। केही निल्छन्। नदी वा खडेरीले यसलाई राजनीतिक नबनाएसम्म बाष्पीकरणीय शीतलन कुशल हुन्छ।

नेटवर्किङ: किन कपडा चिप्स जत्तिकै महत्त्वपूर्ण छ

मानिसहरूले GPU हरूको फोटो खिच्छन्। तिनीहरूले स्विचहरूको फोटो खिच्नुपर्छ।.

तालिम भनेको कुराकानी हो। हजारौं एक्सेलेरेटरहरूले ग्रेडियन्ट, प्यारामिटर, मोडेलका टुक्राहरू, कडा सिङ्कमा आदानप्रदान गर्छन्। यदि कपडा झस्कियो भने, सम्पूर्ण काम सबैभन्दा ढिलो हपमा पर्खन्छ। त्यसैले एआई हलहरू उच्च-ब्यान्डविथ नेटवर्किङ, कम विलम्बता, र लिङ्क असफल हुँदा आधामा नफोल्ड हुने टोपोलोजीहरूमा अल्झन्छन्। इन्फिनीब्यान्ड-इश कपडाहरू, उही भूमिकामा इथरनेट, बक्स भित्र GPU इन्टरकनेक्टहरू, केबलिङ जुन पहिलो पटक सही हुनुपर्छ।

अनुमान फरक कुराकानी हो। मोडेल सर्भिङले टेल लेटन्सीको ख्याल राख्छ - ढिलो उत्तर, औसत उत्तर होइन। ब्याच बनाम वास्तविक-समयले व्यक्तित्वलाई विभाजित गर्छ। प्रशिक्षण क्लस्टरले मोटो, सामूहिक, सबै-देखि-सबै-इश आन्दोलन। सेवा गर्ने फ्लीटले लोड ब्यालेन्सरमा ट्राफिक जाम बिना धेरै साना अनुरोधहरू र अलगाव चाहन्छ।

म यहाँ हुँदाको अभाव: मानिसहरूले नेटवर्कलाई प्लम्बिङ र चिप्सलाई रेस्टुरेन्ट मान्छन्। यस भवनमा प्लम्बिङ नै रेस्टुरेन्ट हो। त्यसको अभाव हुन्छ र तपाईंले एउटा भान्छा किन्नुहुन्छ जहाँ डेलिभरी लिन सकिँदैन।.

प्रशिक्षण बनाम अनुमान: दुई भवनहरू, कहिलेकाहीं शाब्दिक रूपमा

तालिम एउटा अभियान हो। तपाईं एउटा क्लस्टर जम्मा गर्नुहुन्छ, त्यसलाई डेटा खुवाउनुहुन्छ, धार्मिक रूपमा चेकपोइन्ट गर्नुहुन्छ, घण्टौं वा हप्तासम्म दौडनुहुन्छ, र कपडा अस्तव्यस्त रहोस् भनेर प्रार्थना गर्नुहुन्छ। ब्याच-भारी, ब्यान्डविथ-भोका, चुपचाप धैर्यवान - जबसम्म असफल नोडले दौडबाट बाहिर निस्कँदैन। कडा रूपमा जोडिएको काममा एउटा मृत एक्सेलेरेटरले सम्पूर्ण कोरसलाई रोक्न सक्छ।.

अनुमान भनेको पसलको अगाडिको भाग हो। मोडेलहरू पहिले नै प्रशिक्षित छन्, अब प्रश्नहरूको जवाफ दिइरहेका छन्, छविहरू वर्गीकरण गरिरहेका छन्, पाठ उत्पन्न गरिरहेका छन्। ढिलाइ महत्त्वपूर्ण छ। ग्राहकको नजिकै अलि पुरानो एक्सेलेटरले महाद्वीप टाढाको आकर्षक एक्सेलेटरलाई हराउन सक्छ।.

त्यसैले तपाईं विभाजन पाउनुहुन्छ। प्रशिक्षण क्याम्पसहरूले शक्ति, जमिन र घनत्वको पछि लाग्छन्। अनुमान साइटहरूले विलम्बता र उपस्थितिको पछि लाग्छन्। हाइब्रिड हलहरू पनि अवस्थित छन्, किनभने पूँजी असीमित हुँदैन। ठीक छ - सधैं दुई भवनहरू हुँदैनन्। कहिलेकाहीँ मखमली डोरी र दुई कूलिंग लूपहरू भएको एउटा हल।.

यो पनि कोलोकेशन, हाइपरस्केल क्याम्पस र अन-प्रेम फोर्कको ठाउँ हो। हाइपरस्केलरहरूले स्केलमा निर्माण गर्छन् जसले गर्दा हामी बाँकीलाई फर्निचर मिलाइरहेका जस्तो देखिन्छ। कोलोसले र्‍याकद्वारा घनत्व बेच्छ। अन-प्रेम अझै पनि हुन्छ जब डेटा छोड्न सक्दैन।.

भण्डारण थ्रुपुट, चेकपोइन्टहरू, र भोका चिप्स

ब्रोसरको आवरणमा कसैले पनि समानान्तर फाइल प्रणाली राख्दैन।.

तालिम डेटा यति छिटो आइपुग्नु पर्छ कि GPU हरूले आफ्नो खुट्टा थिच्न नपरोस्। चेकपोइन्टहरू अवतरण गर्नुपर्छ ताकि दुर्घटनाले एक हप्ता खेर नजाओस्। सर्भिङ प्रतिकृति लाइभ हुनु अघि मोडेल तौलहरू लोड गर्नुपर्छ। भण्डारण थ्रुपुट - क्षमता मात्र होइन - शान्त अवरोध हो। तपाईं एक्सेलेरेटरहरूमा भाग्य खर्च गर्न सक्नुहुन्छ र भर्चुअल मेसिनहरूको लागि डिजाइन गरिएको विनम्र एरेको साथ तिनीहरूलाई भोकै राख्न सक्नुहुन्छ।.

यो ढाँचा परिचित छ: चम्किलो क्लस्टर, कामको लाइन, र I/O असभ्य इनभ्वाइस जस्तै पछाडि हेर्दै पर्खिरहेका छन्। डेटा मार्ग क्लस्टर नगरी कम्प्युट क्लस्टर गर्नु भनेको तपाईंले धेरै महँगो निष्क्रिय प्राप्त गर्ने तरिका हो। चिप्सलाई खुवाउनुहोस् वा तपाईंले मूर्तिकला किन्नुभएको स्वीकार गर्नुहोस्।.

सफ्टवेयर, अर्केस्ट्रेसन, र अनग्ल्यामरस अप्स तह

हार्डवेयर सेलिब्रेटी हो। काम तालिकाकारहरूले गर्छन्।.

यदि कामहरूले GPU हरू फेला पार्न सकेनन् भने, यदि दुई टोलीहरूले मुक्का हानेर क्लस्टर साझा गर्न सकेनन् भने, यदि असफल श्रेणी प्रतिस्थापन गर्न सकिएन भने, यदि फर्मवेयर ढिलो गतिमा फेब्रिक असफल नभएसम्म बहन्छ भने, AI डेटा सेन्टर बेकार हुन्छ। अर्केस्ट्रेसन, अवलोकनयोग्यता, पावर क्यापिङ - अनग्ल्यामरस अप्स तह, जुन तपाईंलाई थाहा छ यो कसरी महत्त्वपूर्ण छ।.

यो तहप्रति मेरो एक प्रकारको कमजोरी छ। साथै जहाँ गलत तरिकाले कन्फिगर गरिएको NIC ले पूरा दिउँसोको लागि चिसो समस्याको नक्कल गर्छ... तपाईंले त्यो कठिन तरिकाले पत्ता लगाउनुहुन्छ।.

जब नोड बीचैमा मर्छ

एउटा नोड मर्छ। परिवर्तन विन्डोहरू अझै पनि प्रशिक्षण दौडहरूसँग ठोक्किन्छन् जुन तपाईंको क्यालेन्डरको वास्ता गर्दैनन्। तपाईं ठूला कामहरूको समूह-तालिका बनाउनुहोस्, अनुमान पूलहरू बन्द गर्नुहोस्, "काम ढिलो छ" जस्तो देखिने असफलताहरूको लागि रनबुकहरू लेख्नुहोस् जबसम्म तिनीहरू "काम मरेको छ" जस्तो देखिँदैनन्। रिडन्डन्सी अझै पनि महत्त्वपूर्ण छ - शक्ति, शीतलन, मार्गहरू, भण्डारण - तर असफलता मोड पुरानो नाइन-अफ-अपटाइम स्लाइड भन्दा कम व्यवस्थित छ। अनुमान: प्रतिकृति, बिरामी नोडलाई निकाल्नुहोस्, जवाफ दिइरहनुहोस्। प्रशिक्षणले चेकपोइन्टहरू चाहन्छ, आशावाद होइन।.

स्थान, पानी, ग्रिड, र छिमेकीहरू

तपाईंले यी मध्ये एउटा पनि दृश्यको लागि कटेजको छेउमा नछोड्नुहोस्।.

ग्रिड जडान प्रायः वास्तविक साइट-छनोट प्रक्रिया हो। सबस्टेशन र अन्य ग्राहकहरू भएका उपयोगिताको तुलनामा जग्गा सजिलो छ। चिसो पानी, यदि तपाईंले यसलाई प्रयोग गर्नुभयो भने, वर्षा असभ्य हुने बित्तिकै छिमेकीको समस्या बन्छ। कोलाहल। दृश्य थोक। सीमा बारमा तातो। योजना समितिहरूले "बादल" को बारेमा राय पत्ता लगाउँछन् जब यसलाई खेत र नदी चाहिन्छ।

विलम्बताले अर्को तरिकाले तान्छ। अनुमानले प्रयोगकर्ताहरू र अन्तरसम्बन्धहरू नजिक हुन मन पराउँछ। तालिम सस्तो बिजुली बजार र चिसो मौसममा लुक्न सक्छ। उद्योगले एउटा उत्तम साइट छ जस्तो कुरा गर्छ। छैन। प्रेस विज्ञप्तिसँग सम्झौता हुन्छ।.

बाँकी रहेको ताप र निम्तो नदिइएको भट्टी

ब्रोसरहरूलाई यो बिट मन पर्छ। फोहोरको न्यानोपनलाई घर, पोखरी, हरितगृहहरूमा पाइप गर्नुहोस्; यो एउटा राम्रो वाक्य हो। कहिलेकाहीँ जिल्लाको लूप वास्तविक हुन्छ। कहिलेकाहीँ क्याम्पस गलत ठाउँमा हुन्छ र ताप अझै पनि हावामा जान्छ। म ब्रोसर संस्करणमा शंका गर्छु; म भौतिकशास्त्रमा शंका गर्दिन।.

कसलाई चाहिन्छ (र कसले भाडामा लिनुपर्छ)

धेरैजसो मानिसहरूलाई यी हलहरू मध्ये एउटाको स्वामित्व हुनु आवश्यक छैन।.

स्पष्ट सूची:

• हाइपरस्केलरहरू, किनभने उत्पादन भनेको फ्लीट हो

• प्रयोगशालाहरू, जब क्यु समय बाधा हुन्छ, वा डेटा छोड्न सक्दैन

• गोप्य डेटासेट भएको बैंक, अस्पताल समूह, सरकार, वा निर्माता - अन-प्रेम वा निजी कोलो केज तर्कसंगत हुन सक्छ, यदि यो गलत हो भने पनि।

अरू सबैले भाडामा लिनुपर्छ। एआई-तयार घनत्व भएको कोलोकेशन। क्लाउड रिजर्भेसन। व्यवस्थित क्लस्टर। तपाईंले पावर-प्लान्ट अपरेटर नबनाईकन एक्सेलेरेटरहरू पाउनुहुन्छ। बिहान ३ बजे शीतलक लूपको लागि को कलमा छ भनेर कसैले सोध्दा पहिलो पटक रोमान्स फिक्का हुन्छ।.

म स्वीकार गर्छु, गर्वको कुरा छ। क्लस्टरको स्वामित्व भविष्यवाणी गर्ने माध्यमको स्वामित्व जस्तै महसुस हुन्छ। त्यसपछि बिजुलीको बिल आउँछ, र गर्व बस्छ।.

भवन केको लागि हो?

त्यसो भए, एआई डाटा सेन्टर भनेको के हो? एउटा विशेष, उच्च-घनत्व क्याम्पस जहाँ एक्सेलेरेटर, पावर, कूलिंग, कपडा र भण्डारण तालिम र सेवा मोडेलहरू वरिपरि व्यवस्थित गरिन्छ - कुनामा GPU भएको सामान्य-उद्देश्य IT होइन। यो गोदाम जस्तो देखिन्छ। यो गणित गर्ने पावर स्टेशन जस्तै व्यवहार गर्दछ।.

यदि तपाईंलाई अरू केही याद छैन भने: चिप्सले प्रसिद्धि पाउँछ; सबस्टेशन, शीतलक, र नेटवर्कले ती चिप्स राम्रो विचार थिए कि थिएनन् भनेर निर्णय गर्छन्। तालिम र अनुमानले छाना साझा गर्न सक्छ; तिनीहरू अझै पनि फरक तरिका चाहन्छन्। धेरैजसो संस्थाहरूले भाडामा लिनुपर्छ। केहीले निर्माण गर्नुपर्छ। छिमेकीहरूले दुवैतर्फ ध्यान दिनेछन्।.

बादलको सधैं एउटा भवन थियो। आजकल भवनको आफ्नै विचारहरू छन्।.

वास्तविक संसारको उदाहरण: तस्बिरहरू छोड्न नसक्ने दुई-र्‍याक प्रशिक्षण कक्ष

परिदृश्य

टोमोस वेस्ट मिडल्याण्ड्समा रहेको ४०० जनाको क्षमता भएको केस्ट्रेल प्रेसिजनको पूर्वाधार प्रमुख हुन्। उनीहरूसँग पहिले नै एउटा सानो अन-प्रिम हल छ: ERP, फाइल सेयरहरू, भर्चुअल मेसिनहरू, यस लेखले सुरु गरेको मिश्रित छिमेक। एयर कूलिंग। साधारण इथरनेट। अफिस डिस्कहरूको लागि पूर्ण रूपमा विनम्र SAN।.

मेसिन-भिजन टोलीले कारखानाका स्टिलहरूमा निरीक्षण मोडेललाई तालिम दिन आवश्यक छ। स्टिलहरू साइटबाट बाहिर जान सक्दैनन्। तिनीहरूले कम्पनीले क्लाउड डिस्कमा राख्ने प्रक्रिया देखाउँछन्, निजी डिस्कमा पनि। खरिदको समाधान चार डुअल-एक्सेलेरेटर सर्भरहरू र "हाम्रो एआई डाटा सेन्टर" शीर्षकको स्लाइड हो। सर्भरहरू दुई अवस्थित र्‍याकहरूमा जान्छन्, किनभने त्यहाँ ठाउँ छ, र ठाउँले अवरोध जस्तो महसुस गर्‍यो।.

होइन। एक पन्ध्र दिन भित्र GPU हरू व्यस्त सुनिन्छन् र त्यसपछि शान्त रूपमा थ्रोटल हुन्छन्। चेकपोइन्ट SAN मा ठोक्किँदा जागिरहरू क्रल हुन्छन्। एघार बजे नोड मर्छ र दौड भर्खरै... गयो। टोमोसले चिप्स किन्न असफल भएका छैनन्। उनले पोष्टकोड साझा गर्ने महँगो वर्कस्टेशनहरूको थुप्रो किनेका छन्। भवन अझै पनि एक उद्यम हल थियो।.

उनीहरूलाई क्याम्पस, नयाँ सबस्टेशन, वा नदी चाहिँदैन। उनीहरूलाई एउटा सानो सेल चाहिन्छ जुन सानो आकारको एआई डाटा सेन्टर जस्तै व्यवहार गर्छ: र्‍याकहरूले वास्तवमा समात्न सक्ने शक्ति, चिप्स नपकाई छोड्ने ताप, तालिम कार्यले कुरा गर्न सक्ने कपडा, चेकपोइन्ट लिन सक्ने भण्डारण, र नोड मर्दाको लागि रनबुक। तस्बिरहरू छोड्न नसक्ने भएकोले, चालीस मिनेट टाढा कोलो केज भाडामा लिनु समाधान होइन। दुई र्‍याकहरू रेट्रोफिट गर्नु हो।.

सेललाई के चाहिन्छ

• त्यो पङ्क्तिमा मापन गरिएको पावर बजेट, PDU हरूबाट, GPU इच्छासूचीबाट होइन। यदि अतिरिक्त क्षमताले प्रशिक्षण लोडमा चार सर्भरहरूलाई खुवाउन सक्दैन भने, कुराकानी त्यहाँ रोकिन्छ र तिनीहरूले एक सघन कोलो हेर्छन्, चमत्कार होइन।

• हावा शीतलनलाई यो घनत्वमा कहिल्यै ह्यान्डल गर्न भनिएको थिएन: हलले लिन सक्ने भए पछाडिको ढोकाको ताप एक्सचेन्जरहरू, वा यदि लिन सक्ने भए सानो तरल लूप। यदि यी दुवै होइन भने, सर्भरहरू भित्र जाँदैनन्।

• चार नोडहरू बीच समर्पित उच्च-ब्यान्डविथ कपडा, अफिस इथरनेट होइन। यदि विक्रेतासँग क्याटलगमा केवल १० Gb स्विच छ भने, त्यो क्लस्टर होइन।

• चेकपोइन्ट र तालिम शार्डहरूको लागि स्थानीय द्रुत भण्डारण, VM SAN होइन

• एउटा तालिकाकर्ता, एउटा चेकप्वाइन्ट अन्तराल, र एउटा लिखित पुन: सुरु मार्ग। हार्डवेयर भनेको सेलिब्रेटी हो। यो तह काम हो।

• तालिम कुराकानीबाट अलग, कारखाना लाइनको लागि बार लगाइएको अनुमान बक्स, किनकि सेवा गर्न सामूहिक होइन, पुच्छर विलम्बता र अलगाव चाहिन्छ।

• पावर, GPU घडी, थ्रोटल घटनाहरू, र काम भित्ता-घडी लग गर्न अनुमति। यदि तिनीहरूले ती निरीक्षण गर्न सकेनन् भने, तिनीहरूले GPU हरूको फोटो खिच्नेछन् र स्विचहरू छुटाउनेछन्।

उदाहरण निर्देशन

टोमोसले यसलाई सुविधाहरूमा संक्षिप्तमा, सामान्य भाषामा राख्छन्:

यसलाई एआई क्याम्पस नभन्नुहोस्। चारवटा डुअल-एक्सेलेरेटर सर्भरहरूको लागि अवस्थित हलमा दुई-र्‍याक प्रशिक्षण कक्ष बनाउनुहोस्। कारखानाका छविहरू साइटमा रहन्छन्। सफलता यो हो: चार नोडहरूले थर्मल थ्रोटल बिना १२-युग निरीक्षण-प्रशिक्षण रेसिपी पूरा गर्छन्, दशौं मिनेटमा होइन मिनेटमा चेकपोइन्ट लेख्छन्, र जब हामी उद्देश्यले श्रेणी मार्छौं तब त्यो चेकपोइन्टबाट पुनः सुरु गर्छन्। शीतलनले GPU हरूलाई तिनीहरूको प्रशिक्षण घडीमा राख्नुपर्छ। नेटवर्किङ ती चार बक्सहरूले साझा गर्ने कपडा हुनुपर्छ, कार्यालय स्ट्याक मार्फत बाटो होइन। भण्डारणले चिप्सलाई खुवाउनु पर्छ। यदि पछाडिको ढोकाको ताप एक्सचेन्जरहरू फिट हुँदैनन् भने, त्यसो भन्नुहोस् र रोक्नुहोस्। मिश्रित हलमा दुई र्‍याकहरूको लागि PUE उद्धृत नगर्नुहोस्। त्यो संख्या थिएटर हुनेछ।.

त्यसपछि उसले यसलाई तालिम कार्यमा नै राख्छ:

स्थानीय फास्ट पूलमा प्रत्येक ३० मिनेटमा चेकपोइन्ट। यदि कुनै श्रेणी मर्छ भने, अन्तिम पूर्ण चेकपोइन्टबाट पुन: सुरु गर्नुहोस्। SAN मा पर्खनुहोस्। घडीहरू गर्मीबाट घटेको बेला प्रशिक्षण नराख्नुहोस्। यसलाई लग गर्नुहोस् र रोक्नुहोस् ताकि हामी स्टल देख्न सकौं।.

राम्रो घण्टा यस्तो देखिन्छ: प्रशिक्षण घडीमा सबै आठ वटा GPU हरू, चेकपोइन्ट फाइल ल्यान्ड गरिएको छ, काम अझै पनि लकस्टेपमा छ। खराब घण्टा यस्तो देखिन्छ: पूर्ण रूपमा कराउँदै फ्यानहरू, घडीहरू बन्द छन्, दस मिनेट पछि चेकपोइन्ट २% लेखिएको छ, र कार्यालयमा कसैले "क्लस्टर माथि छ" भन्दै छ। माथि भनेको प्रशिक्षण होइन।.

यसलाई कसरी परीक्षण गर्ने

तिनीहरूले रेट्रोफिट गर्नु अघि परीक्षण लेख्छन्, जुन डेमोमा विश्वास नगर्नुको सम्पूर्ण बुँदा हो।.

• उही १२-युगको रेसिपी, उही १,२०,००० निरीक्षण चित्रहरू, आठ रनहरू

• समय भनेको काम पेश गर्ने समयदेखि युग १२ को अन्तिम चेकपोइन्टसम्म मापन गरिएको कुनै पनि पुन: सुरु गर्ने समय सहित, समाप्त रेसिपीको लागि पर्खाल-घडी हो।

• तापक्रममा पास: GPU घडीहरू दौडको लागि प्रशिक्षण लक्ष्यमा रहन्छन्। काम अन्ततः समाप्त भए पनि थ्रोटल घटना असफल हुन्छ।

• भण्डारणमा पास: कार्य लगबाट चेकप्वाइन्ट लेख्ने समय, मध्य र सबैभन्दा खराब

• कपडामा पास: जबसम्म श्रेणी स्वस्थ हुन्छ तबसम्म काम सामूहिक प्रतीक्षामा बस्दैन। यदि तिनीहरूले त्यो प्रतीक्षा देख्न सक्दैनन् भने, उपकरण पूरा हुँदैन।

• आठ रन मध्ये दुईले पुन: सुरु गर्ने मार्ग परीक्षण गर्न जानाजानी निश्चित चरणमा श्रेणी हत्या गर्छन्।

• अनुमान भनेको फ्याक्ट्री लाइनदेखि फेंस्ड सर्भिङ बक्ससम्मको छुट्टै २००-छवि परीक्षण हो। तालिम सफलतालाई सर्भिङ सफलताको रूपमा गणना गरिँदैन।

• तिनीहरूले १५-मिनेटको नमूनाहरूमा PDU हरूबाट र्याक पावर रेकर्ड गर्छन् ताकि कसैले पनि मेगावाट आविष्कार गर्नु नपरोस्।

सेललाई "एआई-रेडी" भन्न स्वीकृति: ८ मध्ये ८ रेसिपीहरू समाप्त; ८ मध्ये ० ले थर्मल थ्रोटल देखाउँछ; दुबै मारिएका रनहरू पुनः सुरु हुन्छन्; चेकपोइन्टहरू मिनेटमा रहन्छन्। यदि तिनीहरूले त्यो छुटाए भने, तिनीहरूसँग अझै पनि फेन्सी ग्राफिक्स कार्डहरू भएको सर्भर कोठा छ।.

नतिजा

आठ रनको बनाइएको परीक्षणबाट प्राप्त उदाहरणीय नतिजा, प्रकाशित केस्ट्रेल आंकडा होइन।.

अनुमानहरू: दुई र्‍याकमा चार डुअल-एक्सेलेरेटर सर्भरहरू; एउटा निरीक्षण मोडेल; १२०,००० स्टिलहरू; निश्चित १२-एपच रेसिपीका आठ रनहरू; वाल-क्लकमा रेसिपी समाप्त नभएसम्म पुन: सुरुहरू समावेश छन्; थ्रोटल भनेको तालिम घडीबाट लग गरिएको ड्रप हो; चेकपोइन्ट समय लेख्ने समय हो, इच्छा होइन; र्याक पावर PDU नमूनाहरू हो, क्याम्पस PUE होइन।.

रेट्रोफिट गर्नु अघि, अफिस इथरनेट र VM SAN मा सामान्य एयर-कूल्ड र्याकहरूमा GPU हरू:

• ८ मध्ये ५ रन पहिलो प्रयासमा सकियो। ती पाँच मध्ये मध्यकालीन भित्ता-घडी: १४ घण्टा

• ८ मध्ये ३ जनाले लगभग ११ घण्टामा स्टल पछि फेरि सुरु गर्नुपर्‍यो (बासी चेकपोइन्टको साथ नोड मरेको दुई पछि, चेकपोइन्टले SAN भरे पछि एक)। तत्काल पुन: प्रयास गर्नुहोस्, घडीमा रातभर पर्खनु पर्दैन: ११ घण्टा खेर फालियो र १४ घण्टाको दोस्रो प्रयास, वा ती तीनमा समाप्त रेसिपीको लागि २५ घण्टा

• सबै आठ वटामा समाप्त हुने नुस्खाको औसत समय, पुन: सुरु हुने समय समावेश: १८ घण्टा। (१४ मा पाँच, २५ मा तीन। सबै आठ वटाको मध्य अझै पनि १४ छ, जसले पुन: सुरु हुने समय लुकाउनेछ। त्यसैले यहाँ औसत आधारभूत हो।)

• थर्मल थ्रोटलले ८ मध्ये ७ रन लग इन गर्यो। घटाइएको घडीमा औसत समय: १४ घण्टाको प्रयासमा ३ घण्टा

• चेकपोइन्ट लेखन: औसत २२ मिनेट

• रैंक-किल त्यस्तो परीक्षा थिएन जुन उनीहरूले पास गर्न सक्थे। उनीहरूसँग रनबुक थिएन। दुई दुर्घटनात्मक मृत्युहरू निष्कर्ष थिए

• तालिमको समयमा दुई र्‍याकहरूमा अधिकतम IT लोड: लगभग १८ किलोवाट। पङ्क्तिमा वाट थियो। यसमा कूलिंग वा कपडा थिएन।

ती दुई र्‍याकहरूमा पछाडिको ढोकाको ताप एक्सचेन्जरहरू पछि, चार नोडहरू बीच समर्पित कपडा, चेकपोइन्टहरूको लागि सानो NVMe पूल, ३०-मिनेट चेकपोइन्टिङ, र रिस्टार्ट रनबुक:

• पहिलो प्रयासमा ८ मध्ये ८ ले काम सक्यो। औसत भित्ता-घडी: ९ घण्टा

• थर्मल थ्रोटल: ८ मध्ये ०

• चेकपोइन्ट लेखन: औसत ९० सेकेन्ड। सेटमा सबैभन्दा खराब: ३ मिनेट

• दुई जानाजानी गरिएका रैंक-किलहरू दुवै अन्तिम ३०-मिनेट चेकपोइन्टबाट पुनः सुरु भए। ती दुई रनहरूमा अतिरिक्त वाल-क्लक: लगभग ४० मिनेट प्रत्येक, निदान समावेश गरिएको, त्यसैले ती दुई रनहरू ९ घण्टा ४० मिनेटको नजिक बसे। औसत आठ स्थिर राउन्डहरू देखि ९ घण्टा सम्म

• अधिकतम IT लोड अझै पनि लगभग १८ किलोवाट। उस्तै चिप्स। फरक भवन व्यवहार

यस नमूनामा, नुस्खा समाप्त गर्नको लागि औसत समय १८ घण्टाबाट घटेर ९ घण्टामा झर्यो, अर्थात् प्रत्येकमा ९ घण्टा, आठ रनहरूमा ७२ घण्टा। पहिलो पटक समाप्त भएको समय ८ मध्ये ५ बाट ८ मा गयो। थ्रोटल ८ मध्ये ७ बाट ८ मा ० मा गयो। त्यो अन्तिम संख्याले बताउँछ कि उनीहरूले एक्सेलेटरहरू किनेका थिए वा पेपरवेटहरू। उनीहरूले समय परिवर्तनलाई उत्पादनमा ५०% बचत भन्ने छैनन्। आठ रन भनेको सानो, सजिलो सेट हो।.

यी तथ्याङ्कहरू उल्लेख गरिएको परीक्षण, सानो नमूना, एउटा मोडेल र एउटा मिश्रित हलमा आधारित उदाहरण अनुमान हुन्। तिनीहरू PUE होइनन्, क्याम्पस मेगावाट होइनन्, र केस्ट्रेलले क्षेत्रमा तालिम स्थल निर्माण गर्नुपर्छ भन्ने प्रमाण होइनन्। लगहरूको समीक्षा ९ घण्टा भित्र बस्यो; तिनीहरूले यसलाई लुकाएनन्। १८ किलोवाटको आंकडा गोलाकार PDU पठन हो, उपयोगिता बिल होइन। तिनीहरूले ७२ घण्टालाई लागतमा रूपान्तरण गरेनन्, किनभने कारखानाको मिश्रित बिजुली दरले नक्कली व्यापारिक केस बनाउने थियो।.

सेवा दिने चेक छुट्टै र सानो थियो: बार लगाइएको बक्समा २०० लाइन छविहरू, सबै साइटमा। त्यो अनुमान हो, प्रशिक्षण होइन। दुईलाई मिसाउनु लघुमा हाइब्रिड-हल गल्ती हुने थियो।.

के बिग्रन सक्छ?

• खरिदले चार सर्भरहरूलाई "एआई डाटा सेन्टर" भनिरहेको छ। लेबलले प्लम्बिङ लुकाउँछ, र अर्को खरिद उही बिरामी गल्लीको लागि थप GPU हरू हो।

• पछाडिको ढोकाबाट एक्सचेन्जरहरू भित्र जान्छन् र कसैले पनि पानीको छेउमा काम गर्दैनन्। पंखाहरू अझै कराउँछन्। घडीहरू अझै पनि खस्छन्।

• कपडा एउटा स्विच हो जसमा कुनै अतिरिक्त बाटो छैन। एउटा असफल लिङ्क र "क्लस्टर" फेरि चार वर्कस्टेशनहरू हुन्।

• NVMe पूल "चरण दुई" भएकोले चेकपोइन्टहरू SAN मा नै रहन्छन्। अर्को मृत नोड अघि दोस्रो चरण आइपुग्दैन।

• तिनीहरूले मिश्रित हलमा दुई र्‍याकहरूको लागि PUE उद्धृत गर्छन्। जलवायु, सीमा, र ERP पङ्क्तिको बाँकी भागले त्यो अनुपातलाई पोशाक बनाउँछ।

• तालिम र सेवाले कपडा बाँड्छ। चेकपोइन्ट बाढीले कारखाना लाइनलाई पर्खन बाध्य बनाउँछ। पुच्छर विलम्बता त्यहाँको उत्पादन हो, घनत्व होइन।

• एउटा नोड मर्छ र कसैले यसलाई चेकपोइन्ट रिस्टार्टको सट्टा अपटाइम टिकटको रूपमा व्यवहार गर्छ। इन्टरप्राइज अप्स र एआई अप्स एकअर्कासँग पूरा दिउँसो कुरा गर्छन्।

• तिनीहरूले पिंजडा भाडामा लिन सक्थे, तर तस्बिरहरू छोड्न सक्दैनन्। त्यो बाधालाई बिर्सेर उनीहरूलाई बादलको कुराकानीमा पठाउँछ, उनीहरूले आराम गर्नुपर्नेछ।

व्यावहारिक टेकवे

यस आकारमा, एआई डाटा सेन्टर भनेको गोदाम होइन र यो GPU इनभ्वाइस पनि होइन। यो सेल हो जसले एक्सेलेरेटरहरूलाई दौड पूरा गर्न दिन्छ: तिनीहरूले समात्न सक्ने शक्ति, छोड्ने ताप, कपडा, चेकपोइन्ट, र श्रेणीको मृत्यु हुँदा हुकमा कोही। केस्ट्रेललाई क्याम्पसको आवश्यकता थिएन। बहाना गर्न रोक्नको लागि तिनीहरूलाई दुई र्‍याकहरू चाहिन्थ्यो। धेरैजसो टोलीहरूले त्यो व्यवहार भाडामा लिनुपर्छ। केहीले, गोप्य डेटासेट र तातो सहन सक्ने हल भएकाले, सेल निर्माण गर्नुपर्छ र स्लाइड अस्वीकार गर्नुपर्छ।.

सोधिने प्रश्न

एआई डाटा सेन्टर भनेको के हो?

एउटा उच्च-घनत्व कम्प्युट साइट जहाँ पावर, कूलिंग, नेटवर्किङ, र भण्डारण समानान्तर प्रशिक्षण र मोडेल सेवा वरिपरि झुकेका हुन्छन्, सामान्य-उद्देश्य सर्भरहरूको व्यवस्थित पङ्क्तिहरू होइन। यो डिजाइन गरिएको छ कि विशाल संख्यामा एक्सेलेटरहरूले पग्लिएर, नेटवर्कमा रोकिएर, वा डिस्कमा पर्खिएर मोडेलहरूलाई तालिम दिन र सेवा दिन सक्छन्। एक साधारण उद्यम हल एक मिश्रित छिमेक हो। एक AI हल एक मोनोकल्चर हो जसको मूल्यको एकाइ एक्सेलेटर हो, जस्तै GPU वा TPU-शैली चिप्स। यो गोदाम जस्तो देखिन्छ र गणित गर्ने पावर स्टेशन जस्तै व्यवहार गर्दछ।.

एआई डाटा सेन्टर सामान्य डाटा सेन्टर भन्दा कसरी फरक छ?

परम्परागत हलहरूले धेरै साना सेवाहरूमा मिश्रित कार्यभार र अपटाइमको लागि अनुकूलन गर्छन्। एआई साइटहरूले अनुपातहरू उल्टाउँछन्: घनत्व बढ्छ, नेटवर्क एक कपडा बन्छ जुन बिना प्रशिक्षण कार्य कमजोर हुन सक्दैन, र भण्डारणले चेकपोइन्टहरू चलिरहनु पर्छ वा एक्सेलेरेटरहरू निष्क्रिय बस्नु पर्छ। इन्टरप्राइज अप्सले टिकटहरूमा सोच्दछ र विन्डोहरू परिवर्तन गर्दछ। एआई अप्सले कामको लाइनहरूमा सोच्दछ र लामो समयसम्म ढिलो नोड मर्दा बिरामी महसुस हुन्छ। तपाईं अझै पनि दुबै डेटा केन्द्रहरूलाई कल गर्न सक्नुहुन्छ। लेबलले प्लम्बिंग लुकाउँछ।.

एआई डाटा सेन्टरहरूले किन यति धेरै शक्ति प्रयोग गर्छन्?

उत्कृष्ट हार्डवेयर चलाख CPU होइन। यो एक्सेलेरेटर ट्रे हो: GPU हरू वा अन्य AI चिपहरू, सर्भरहरूमा प्याक गरिएका, त्यसपछि र्‍याकहरू, त्यसपछि उच्च-ब्यान्डविथ कपडा साझा गर्ने पङ्क्तिहरू। प्रति र्‍याक घनत्व प्लट ट्विस्ट हो: कम र्‍याकहरू, प्रत्येक एक सानो भट्टी। हल भरिएपछि मेगावाट IT लोड देखा पर्दछ, यद्यपि सामान्य आंकडा आविष्कार गर्नु यसको लायक छैन। सीमित कारक प्रायः सबस्टेशन हो, GPU हरूको इच्छा सूची होइन।.

एआई डाटा सेन्टरहरूलाई कसरी चिसो पारिन्छ?

उच्च-घनत्व र्‍याकहरूले तापलाई यसरी फ्याँक्छन् कि हावालाई वास्तवमा कहिल्यै ह्यान्डल गर्न भनिएको थिएन। तपाईं पछाडिको ढोकाको ताप एक्सचेन्जरहरू, तातो आइसलहरू, र चलाख कन्टेनमेन्टको साथ हावालाई अझ बलियो बनाउन सक्नुहुन्छ। त्यसपछि तरल पदार्थ देखा पर्दछ: प्रत्यक्ष-देखि-चिप कूलिंग, शीतलक लूपहरू, र केही डिजाइनहरूमा विसर्जन। थ्रोटल गर्ने एक्सेलेरेटर भनेको तपाईंले पहिले नै तिरेको र पूर्ण रूपमा प्रयोग गर्न सक्नुहुन्न। PUE अझै पनि महत्त्वपूर्ण छ किनभने फ्यान र पम्पहरूमा खर्च गरिएको प्रत्येक वाट GPU मा नगएको वाट हो। पानी पनि कथामा बस्छ: केही बिरुवाहरू चुस्की लिन्छन्, केहीले घुट्छन्।.

किन नेटवर्किङ GPU हरू जत्तिकै महत्त्वपूर्ण छ?

तालिम भनेको एउटा कुराकानी हो: हजारौं एक्सेलेरेटरहरूले कडा सिङ्क्रोनाइजेसनमा मोडेलको ग्रेडियन्ट, प्यारामिटर र शार्डहरू आदानप्रदान गर्छन्। यदि कपडा झट्किन्छ भने, सम्पूर्ण काम सबैभन्दा ढिलो हपमा पर्खन्छ। त्यसैले एआई हलहरू उच्च-ब्यान्डविथ नेटवर्किङ, कम विलम्बता, इन्फिनीब्यान्ड-इश कपडाहरू वा उही भूमिकामा इथरनेट, र लिङ्क असफल हुँदा आधा नफोल्ड हुने टोपोलोजीहरूमा अल्झन्छन्। इन्फरेन्सले टेल विलम्बता, धेरै साना अनुरोधहरू, र अलगावको ख्याल राख्छ। यस भवनमा प्लम्बिङ रेस्टुरेन्ट हो।.

एआई डाटा सेन्टर के को लागि प्रयोग गरिन्छ: प्रशिक्षण वा अनुमान?

तालिम एउटा अभियान हो: क्लस्टर भेला गर्नुहोस्, त्यसलाई डेटा खुवाउनुहोस्, धार्मिक रूपमा चेकपोइन्ट गर्नुहोस्, र घण्टा वा हप्तासम्म दौडनुहोस्। अनुमान भनेको पसलको अगाडिको भाग हो: पहिले नै प्रशिक्षित मोडेलहरू, अब जवाफ दिइरहेका छन्, विलम्बताले महत्त्वपूर्ण भूमिका खेल्छ। प्रशिक्षण क्याम्पसहरूले शक्ति, भूमि र घनत्वलाई पछ्याउँछन्। अनुमान साइटहरूले विलम्बता र उपस्थितिलाई पछ्याउँछन्। हाइब्रिड हलहरू अवस्थित छन् किनभने पूँजी असीमित हुँदैन, कहिलेकाहीँ दुईवटा कूलिंग लूपहरू भएको एउटा हल। ग्राहकको नजिक अलि पुरानो एक्सेलेरेटरले महाद्वीप टाढाको आकर्षकलाई हराउन सक्छ।.

एआई डाटा सेन्टरमा भण्डारण किन महत्त्वपूर्ण हुन्छ?

तालिम डेटा यति छिटो आइपुग्नु पर्छ कि GPU हरूले आफ्नो खुट्टा थिच्न नपरोस्। चेकपोइन्टहरू अवतरण गर्नुपर्छ ताकि दुर्घटनाले एक हप्ता खेर नजाओस्। सर्भिङ प्रतिकृति लाइभ हुनु अघि मोडेल तौलहरू लोड गर्नुपर्छ। भण्डारण थ्रुपुट, क्षमता मात्र होइन, शान्त अवरोध हो। तपाईं एक्सेलेरेटरहरूमा भाग्य खर्च गर्न सक्नुहुन्छ र भर्चुअल मेसिनहरूको लागि डिजाइन गरिएको विनम्र एरेको साथ तिनीहरूलाई भोकै राख्न सक्नुहुन्छ।.

जब नोड बीचैमा मर्छ तब के हुन्छ?

कडा रूपमा जोडिएको प्रशिक्षण कार्यमा एउटा मृत गतिवर्धकले सम्पूर्ण कोरसलाई रोक लगाउन सक्छ। प्रशिक्षणले आशावाद होइन, चेकपोइन्टहरू चाहन्छ। अनुमानले बिरामी नोडलाई निकासी गर्छ, प्रतिकृति उत्तर दिइरहेको हुन्छ, र जीवित रहन्छ। परिवर्तन विन्डोजहरू अझै पनि प्रशिक्षण रनहरूसँग टकराउँछन् जुन तपाईंको क्यालेन्डरको वास्ता गर्दैनन्। रिडन्डन्सी अझै पनि पावर, कूलिंग, मार्गहरू, र भण्डारणको लागि महत्त्वपूर्ण छ, तर विफलता मोड पुरानो नाइन-अफ-अपटाइम स्लाइड भन्दा कम व्यवस्थित छ।.

एआई डाटा सेन्टरले ग्रिड, पानी र छिमेकीहरूमा कस्तो प्रभाव पार्छ?

ग्रिड जडान प्रायः वास्तविक साइट-छनोट प्रक्रिया हो। सबस्टेशन र अन्य ग्राहकहरू भएका उपयोगिताको तुलनामा जग्गा सजिलो छ। चिसो पानी, यदि तपाईंले यसलाई प्रयोग गर्नुभयो भने, वर्षा असभ्य हुने बित्तिकै छिमेकीको समस्या बन्छ, साथै आवाज, दृश्य थोक, र सीमा बारमा गर्मी पनि हुन्छ। तालिम सस्तो बिजुली बजार र चिसो हावापानीमा लुक्न सक्छ। अनुमान प्रयोगकर्ताहरू नजिक हुन मन पराउँछ। कुनै पनि उत्तम साइट छैन। प्रेस विज्ञप्तिसँग सम्झौता छ।.

के मलाई एआई डाटा सेन्टर चाहिन्छ, वा भाडामा लिनुपर्छ?

धेरैजसो मानिसहरूलाई यी हलहरू मध्ये एउटाको स्वामित्व आवश्यक पर्दैन। हाइपरस्केलरहरूले निर्माण गर्छन् किनभने उत्पादन फ्लीट हो। प्रयोगशालाहरू निर्माण गर्छन् जब क्यु समय अवरोध हुन्छ वा डेटा छोड्न सक्दैन। गोप्य डेटासेट भएको बैंक, अस्पताल, सरकार, वा निर्माताले अन-प्रेम वा निजी कोलो केजलाई तर्कसंगत बनाउन सक्छ। अरू सबैले भाडामा लिनुपर्छ: एआई-तयार कोलोकेशन, क्लाउड रिजर्भेसन, वा व्यवस्थित क्लस्टर। तपाईंले पावर-प्लान्ट अपरेटर नबनाईकन एक्सेलेरेटरहरू प्राप्त गर्नुहुन्छ।.

सन्दर्भ सामग्रीहरू

1. आईईए - www.iea.org

2. LBNL - datacenters.lbl.gov

3. हरियो ग्रिड - www.thegreengrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. अपटाइम संस्थान - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. एनभिडिया - docs.nvidia.com

9. एनभिडिया - docs.nvidia.com

10. एनभिडिया - docs.nvidia.com

11. गुगल क्लाउड - docs.cloud.google.com

आधिकारिक एआई सहायक स्टोरमा नवीनतम एआई खोज्नुहोस्

हाम्रो बारेमा