Жасанды интеллект деректер орталығы дегеніміз не? [Бейне және викторина]

Қысқа жауап: Жасанды интеллект деректер орталығы - бұл жоғары тығыздықтағы орын. Чиптер танымал; ғимарат олардың жұмыс істейтінін шешеді. Егер кескіндер кетпесе, кішкентай ұяшықты жаңарту керек; көптеген командалар жалға алуы керек.

Негізгі қорытындылар:

Чиптер мен құрылыс: Қуат, салқындату, мата және сақтау үдеткіштердің жұмыс істейтінін анықтайды.

Сарай емес жерлер: Деректер шыға алмаған кезде екі сөрені жаңартыңыз; кампус сатып алмаңыз.

Орташа мән және медиана: Сегіз жүгірістен кейін медиана жасырылған мән қайта басталады; 18 сағаттық орташа мәнді пайдаланыңыз.

Дұрыс пайдаланбауға төзімділік: Аралас залдағы екі сөре үшін PUE бағасын қоймаңыз.

Көрнекі нәтижелер: Сегіз жүгіріс - бұл 50% өнімді үнемдеу емес, шағын карта.

Осыдан кейін оқуға болатын мақалалар:

🔗 Жасанды интеллект сенімді ме? Бейне және викторина
Жасанды интеллект сенімділігін қызықты бейне және интерактивті викторина арқылы зерттеңіз.

🔗 Күнделікті өмірде жасанды интеллектті қалай пайдалануға болады
Жасанды интеллекттің күнделікті тапсырмалар мен тәртіптерді жеңілдетудің практикалық жолдарын ашыңыз.

🔗 Жұмыста жасанды интеллектті қалай пайдалану керек
Жұмыс орнындағы өнімділікті жақсарту үшін жасанды интеллектті пайдаланудың практикалық жолдарын үйреніңіз.

🔗 Жасанды интеллект өздігінен ойлай ала ма?
Жасанды интеллект шынымен тәуелсіз ойлай ала ма немесе ақылға келе ме, соны түсініңіз.

Оның «қалыпты» деректер орталығынан қалай айырмашылығы бар

Дәстүрлі залдар аралас жұмыс жүктемелері мен көптеген шағын қызметтердегі жұмыс уақытын оңтайландырады. Сіз, әрине, артық жұмысқа және PUE тұжырымдамасы ретінде маңыздысыз - ғимарат ватт есептеу қуатын жеткізу үшін қосымша энергия жұмсайды. Сіз әдетте әрбір дәлізді портативті жылытқыш фермасы сияқты жұмыс істейтін сөренің айналасында жобаламайсыз.

Жасанды интеллект сайттары арақатынасты өзгертеді. Тығыздық артады. Желі оқыту жұмысы онсыз жұмыс істей алмайтын маталарға айналады. Сақтау орны бақылау пункттерін қозғалтып отыруы керек, әйтпесе үдеткіштер кептелістегі жарыс аттары сияқты бос тұрып қалады.

Мәдени айырмашылық та бар. Кәсіпорын операторлары төлемдер мен терезелерді ауыстыруды ойлайды. Жасанды интеллект операторлары жұмыс кезектерін және ұзақ мерзімді перспективада түйіннің кеш істен шығуы кезіндегі жағымсыз сезімді ойлайды. Менің ойымша, екеуін де «деректер орталықтары» деп атауға болады, себебі олар солай. Белгі тек құбырларды жасырады.

Моральдық рейтинг емес. Әртүрлі машиналар, бірдей тегі.

Графикалық процессорлар, үдеткіштер және қуатты жейтін сөре

Дәстүрлі көтерілген еденмен жүрсеңіз, сөрелер сыпайы көрінеді. Жасанды интеллект қатарымен жүрсеңіз, олар ғимаратты жұтып қойғысы келетін сияқты көрінеді.

Ең бастысы - ақылды процессор емес. Бұл үдеткіш науасы: GPU немесе басқа жасанды интеллект чиптері, серверлерге, содан кейін сөрелерге, содан кейін жоғары өткізу қабілеттілігін пайдаланатын қатарларға орналастырылған. GPU тігіс чиптерін бір алып үдеткіш болып көрінетін нәрсеге біріктіреді; кластерлік құрылым қатар масштабында да дәл осындай әдісті қолданады. Параллель оқыту тек сол сілтемелер тығыз және болжамды болып қалса ғана жұмыс істейді. Оны жоғалтсаңыз, сіздің «кластеріңіз» пошта индексін пайдаланатын қымбат жұмыс станцияларының үйіндісіне айналады.

Қуат чиптердің соңынан жүреді. Кеңседегі үлкен PDU емес. Бір зал толғаннан кейін мегаватт IT жүктемесі - мен сан ойлап таппаймын. Әр сөреге шаққандағы тығыздық - бұл сюжеттің бұрылысы. Сөрелер аз. Әрқайсысы кішкентай пеш. Шектеуші фактор көбінесе графикалық процессорлардың қалау тізімі емес, қосалқы станция болып табылады. Сіз мұны қалай істейтініңізді білесіз: сатып алушылар көбірек үдеткіштерді қалайды; коммуналдық қызмет ұзақ әңгіме мен өте үлкен чек қалайды.

Мен бұдан арыла алмайтын бір күлкілі метафора: тор - аш жануар. Сіз жылдамырақ жануарды өсіре аласыз. Сіз оны әлі де тамақтандыруыңыз керек, бірақ әлі де ыстықты басуыңыз керек. Екеуін де өткізіп жіберсеңіз, ол өте қымбат қағаз салмаққа айналады.

Қуат, жылу және салқындату мәселесі

Электр қуаты қосылған. Жылу жоқ. Бұл бүкіл дін.

Жоғары тығыздықтағы сөрелер жылуды ауаны ешқашан өңдеуді қажет етпейтіндей етіп шығарады. Сіз ауаны қаттырақ итеруге болады - артқы есіктің жылу алмастырғыштары, ыстық дәліздер, ақылды оқшаулау - және бұл белгілі бір дәрежеде жұмыс істейді. Содан кейін сұйықтық пайда болады:

• Чипке тікелей салқындату

• Зауыт бөлмесін химиялық зауыт сияқты көрсететін салқындатқыш ілмектер

• Су мен даяшылардың бір сөйлемді бөліспеуі керек деп ойлайтын адамдарды әлі де таң қалдыратын бірнеше дизайнға ену

Мұның ешқайсысы керемет емес. Мұның бәрі өнім, себебі сіз дроссельді үдеткішті сатып алғансыз және оны толық пайдалана алмайсыз.

PUE әлі де маңызды. Бұл жеке тұлға емес, арақатынас. Операторлар оны қуып жетеді, себебі желдеткіштер мен сорғыларға жұмсалған әрбір ватт - графикалық процессорға жұмсалмаған ватт. Мен «типтік» санды келтірмеймін; климат және шекараны қалай сызу оны өзгертеді, ал жалған дәлдік жоқтан да жаман. Су да әңгімеде бар. Кейбір өсімдіктер жұтады. Кейбіреулері жұтады. Булану арқылы салқындату өзен немесе құрғақшылық оны саяси еткенге дейін тиімді.

Желілік байланыс: неге мата чиптер сияқты маңызды

Адамдар графикалық процессорларды суретке түсіреді. Олар коммутаторларды суретке түсіруі керек.

Оқыту – әңгіме. Мыңдаған үдеткіштер модельдің градиенттерін, параметрлерін, бөліктерін тығыз синхронда алмастырады. Егер мата дірілдесе, бүкіл жұмыс ең баяу секіруде күтеді. Сондықтан жасанды интеллект залдары жоғары өткізу қабілеттілігі бар желілерге, төмен кідіріске және байланыс үзілген кезде екіге бүктелмейтін топологияларға баса назар аударады. InfiniBand тәрізді маталарға, сол рөлдегі Ethernet-ке, GPU қораптың ішінде өзара байланысады, бірінші рет дұрыс болуы керек кабельдер.

Қорытынды жасау – бұл басқа әңгіме. Модельдік қызмет көрсету құйрықтың кідірісіне мән береді – орташа емес, баяу жауап. Топтық және нақты уақыт режимі жеке тұлғаны бөледі. Оқу кластері үлкен, ұжымдық, барлығына бірдей қозғалысты. Қызмет көрсетуші флот жүктеме теңгергішінде кептеліссіз көптеген кішігірім сұраныстар мен оқшаулануды қалайды.

Мен осында болған кездегі сәтсіздік: адамдар желіні сантехника, ал қалдықтарды мейрамхана деп санайды. Бұл ғимаратта сантехника - мейрамхана. Мұны байқамай қалсаңыз, сіз жеткізуді қабылдай алмайтын ас үй сатып аласыз.

Оқыту және қорытынды: екі ғимарат, кейде сөзбе-сөз

Жаттығу – науқан. Сіз кластер жинайсыз, оған деректер бересіз, бақылау нүктесін дұрыс қоясыз, сағаттар немесе апталар бойы жүгіресіз және матаның оқиғасыз қалуын тілейсіз. Топтық жұмыс көп, өткізу қабілетіне құмар, үнсіз шыдамдылық танытасыз – істен шыққан түйін жүгірістен бір бөлігін алып тастағанша. Тығыз байланысқан жұмыстағы бір өлі үдеткіш бүкіл хорды тоқтата алады.

Қорытынды жасау - бұл дүкеннің витринасындағыдай. Модельдер қазірдің өзінде үйретілген, енді сұрақтарға жауап береді, суреттерді жіктейді, мәтін жасайды. Кідіріс маңызды. Тұтынушының жанындағы сәл ескі акселератор сәнді акселераторды құрлықтан алыстата алады.

Сонымен, сіз бөлінесіз. Оқу кампустары күш, жер және тығыздықты қуады. Қорытынды алаңдар кідіріс пен қатысуды қуады. Капитал шексіз емес болғандықтан, гибридті залдар да бар. Иә - әрқашан екі ғимарат емес. Кейде барқыт арқанмен және екі салқындату ілмегімен бір зал болады.

Бұл сондай-ақ колокация, гипермасштабты кампустар және жергілікті форк сияқты орындар. Гипермасштабтаушылар қалғандарымызды жиһазды орналастырып жатқандай етіп көрсететін масштабтарда құрылады. Колос тығыздықты сөре арқылы сатады. Деректер шыға алмаған кезде жергілікті форк әлі де болады.

Сақтау көлемі, бақылау пункттері және ашық чиптер

Ешкім параллель файлдық жүйені брошюраның мұқабасына қоймайды.

Оқыту деректері графикалық процессорлардың жұмысын тоқтататындай тез келуі керек. Апаттан кейін бір апта бойы ештеңе болмас үшін бақылау нүктелері қонуы керек. Сервистік көшірме іске қосылмас бұрын модельдің салмағы жүктелуі керек. Сақтау көлемі - тек сыйымдылық қана емес - тыныш кедергі. Сіз үдеткіштерге көп ақша жұмсай аласыз және оларды виртуалды машиналарға арналған сыпайы массивпен аш қалдыра аласыз.

Бұл үлгі таныс: жылтыр кластер, жұмыс кезегі және дөрекі шот-фактура сияқты артқа қарап тұрған енгізу/шығару кезегі. Деректер жолын кластерлемей кластерлеу - бұл өте қымбат бос уақытты алудың жолы. Чиптерді қоректендіріңіз немесе мүсін сатып алғаныңызды мойындаңыз.

Бағдарламалық жасақтама, оркестрлеу және көзге түспейтін операциялық қабат

Аппараттық құрал – танымалдылық. Жоспарлаушылар жұмысты жасайды.

Егер жұмыс орындары графикалық процессорларды таба алмаса, екі команда жұдырықтаспай кластерді бөлісе алмаса, сәтсіз рейтингті ауыстыру мүмкін болмаса, микробағдарлама баяу қозғалыста істен шыққанша ауытқып кетсе, жасанды интеллект деректер орталығы пайдасыз болады. Оркестрлеу, бақылау, қуатты шектеу - бұл сіз білетіндей, көзге түспейтін операциялық қабат.

Менің бұл қабатқа деген әлсіздігім бар. Сондай-ақ, дұрыс конфигурацияланбаған NIC күні бойы салқындату мәселесін тудыратын кезде... мұны қиын жолмен де байқайсыз.

Түйін жұмыс ортасында өлгенде

Түйін өледі. Терезелерді ауыстыру әлі де күнтізбеңізге мән бермейтін жаттығу жүгірулерімен соқтығысады. Сіз үлкен жұмыстарды жоспарлайсыз, қорытынды пулдарын қоршайсыз, «жұмыс баяу» сияқты көрінетін сәтсіздіктер үшін «жұмыс өлі» сияқты көрінгенше жұмыс кітаптарын жазасыз. Артықшылықтар әлі де маңызды - қуат, салқындату, жолдар, сақтау - бірақ сәтсіздік режимі ескі жұмыс уақыты слайдтарына қарағанда онша ретсіз емес. Қорытынды: көшірме, ауру түйінді босату, жауап беруді жалғастыру. Жаттығу оптимизмді емес, бақылау нүктелерін қалайды.

Орналасқан жері, су, электр желісі және көршілер

Көріністі тамашалау үшін коттедждің жанына осылардың бірін тастамайсыз.

Электр желісіне қосылу көбінесе нақты орын таңдау процесі болып табылады. Жер учаскесі қосалқы станциямен және басқа тұтынушылары бар коммуналдық қызметтермен салыстырғанда оңай. Салқындату үшін суды пайдалансаңыз, жаңбыр жауа бастағаннан кейін көршілес мәселеге айналады. Шу. Көрнекі көлем. Шекара қоршауындағы жылу. Жоспарлау комитеттері «бұлт» туралы пікірлерді егістік пен өзен қажет болған кезде анықтайды.

Кідіріс керісінше әсер етеді. Қорытынды пайдаланушылардың жанында болуды және өзара байланыс орнатуды ұнатады. Оқыту арзанырақ электр қуаты нарықтарында және салқын климатта жасырынуы мүмкін. Сала бір ғана мінсіз сайт бар сияқты сөйлейді, бірақ ол жоқ. Баспасөз хабарламасымен ымыраға келу бар.

Қалған жылу және шақырылмаған пеш

Брошюралар осыны жақсы көреді. Қалдық жылуды үйлерге, бассейндерге, жылыжайларға құйыңыз; бұл керемет сөйлем. Кейде аудандық цикл шынайы болады. Кейде кампус дұрыс емес жерде болады және жылу әлі де ауаға таралады. Мен брошюра нұсқасына күмәнмен қараймын; мен физикаға күмәнмен қарамаймын.

Кімге керек (және кім жалға алуы керек)

Көпшілікке бұл залдардың біріне иелік етудің қажеті жоқ.

Нақты тізім:

• Гипермасштабтаушылар, себебі өнім автопарк болып табылады

• Зертханалар, кезек уақыты кедергі болған кезде немесе деректер шыға алмаған кезде

• Құпия деректер жиынтығы бар банк, аурухана тобы, үкімет немесе өндіруші - жергілікті немесе жеке колоректальды тор, тіпті бұл қате болса да, рационалды болуы мүмкін

Басқалардың бәрі жалға алуы керек. Жасанды интеллектке дайын тығыздығы бар колокация. Бұлттық резервтеу. Басқарылатын кластер. Сіз электр станциясының операторы болмай-ақ үдеткіштерді аласыз. Біреу таңғы сағат 3-те салқындатқыш циклі үшін кім кезекшілікте екенін сұраған кезде романтика жоғалады.

Мойындаймын, мұнда мақтаныш бар. Кластерге иелік ету болжау құралдарына иелік етумен бірдей. Содан кейін электр қуатына төлем туралы есеп келіп, мақтаныш сезімі басылады.

Ғимарат не үшін арналған

Сонымен, жасанды интеллект деректер орталығы дегеніміз не? Бұрышында графикалық процессоры бар жалпы мақсаттағы IT емес, үдеткіштер, қуат, салқындату, мата және сақтау орындары оқыту және қызмет көрсету модельдеріне негізделген мамандандырылған, жоғары тығыздықтағы кампус. Ол қоймаға ұқсайды. Ол математикалық есептеулер жүргізетін электр станциясы сияқты жұмыс істейді.

Егер сіз басқа ештеңені есіңізде сақтасаңыз: чиптер танымал болады; қосалқы станция, салқындатқыш және желі сол чиптердің жақсы идея болған-болмағанын шешеді. Оқыту және қорытынды жасау шатырды ортақ пайдалана алады; олар әлі де әртүрлі әдепті қалайды. Көптеген ұйымдар жалға алуы керек. Бірнешеуі салуы керек. Көршілер кез келген нәрсені байқайды.

Бұлттың әрқашан ғимараты болған. Қазіргі кезде ғимараттың өз пікірі бар.

Нақты әлемдегі мысал: кескіндер шыға алмайтын кездегі екі сөрелі жаттығу ұяшығы

Сценарий

Томос Батыс Мидлендстегі 400 адамнан тұратын Kestrel Precision өндірушісінің инфрақұрылым жетекшісі. Олардың қазірдің өзінде шағын жергілікті залы бар: ERP, файл алмасу, виртуалды машиналар, осы мақала басталған аралас аудан. Ауамен салқындату. Кәдімгі Ethernet. Кеңсе дискілері үшін өте сыпайы SAN.

Машиналық көру тобы зауыттық фотосуреттерде тексеру моделін оқытуы керек. Фотосуреттер сайттан шыға алмайды. Олар компания бұлттық дискіге, тіпті жеке дискіге де орналастырмайтын процесті көрсетеді. Procurement шешімі - төрт қос үдеткішті сервер және «біздің жасанды интеллект деректер орталығымыз» атты слайд. Серверлер екі бар сөреге орналастырылады, себебі кеңістік бар және кеңістік шектеу болып көрінді.

Олай емес. Екі апта ішінде графикалық процессорлар жұмыс істеп тұрғандай естіледі, содан кейін ақырын дроссельдейді. Бақылау нүктесі SAN-ға тигенде жұмыс орындары ағып кетеді. Түйін сағат он бірде өшеді, ал жұмыс... жоғалады. Томос чиптерді сатып алудан бас тартқан жоқ. Ол пошта индексін бөлісетін қымбат жұмыс станцияларын сатып алды. Ғимарат әлі де кәсіпорын залы болды.

Оларға кампус, жаңа қосалқы станция немесе өзен қажет емес. Оларға жасанды интеллект деректер орталығы сияқты жұмыс істейтін шағын ұяшық қажет: сөрелер шынымен ұстай алатын қуат, чиптерді пісірмей кететін жылу, жаттығу жұмысы туралы айта алатын мата, бақылау нүктесін алатын сақтау орны және түйін өлген кездегі жұмыс кітабы. Кескіндер кете алмайтындықтан, қырық минуттық жердегі коло торды жалға алу шешім емес. Екі сөрені қайта жабдықтау - бұл шешім.

Жасушаға не қажет

• Сол қатардағы өлшенген қуат бюджеті, GPU тілектер тізімінен емес, PDU-дан алынған. Егер қосалқы сыйымдылық жаттығу жүктемесінде төрт серверді қамтамасыз ете алмаса, әңгіме сол жерде тоқтайды және олар керемет емес, тығызырақ түске қарайды

• Ауаны салқындату ешқашан мұндай тығыздықта жұмыс істеуді сұрамаған: егер дәлізге рұқсат етілсе, артқы есіктегі жылу алмастырғыштарды немесе егер рұқсат етілсе, кішкене сұйықтық ілмегін пайдалану керек. Екеуі де рұқсат етілмесе, серверлер кірмейді

• Кеңсе Ethernet емес, төрт түйін арасындағы арнайы жоғары өткізу қабілеттілігі бар мата. Егер жеткізушінің каталогында тек 10 ГБ коммутатор болса, бұл кластер емес

• VM SAN емес, бақылау пункттері мен жаттығу сынықтары үшін жергілікті жылдам сақтау орны

• Жоспарлағыш, бақылау нүктесінің аралығы және жазбаша қайта іске қосу жолы. Аппараттық құрал - бұл танымал тұлға. Бұл қабат - жұмыс

• Зауыт желісі үшін қоршалған қорытынды қорабы, жаттығу әңгімелерінен бөлек, себебі қызмет көрсету ұжымдық емес, құйрықтың кідірісі мен оқшаулануын қалайды

• Қуатты, GPU жиіліктерін, дроссель оқиғаларын және жұмыс қабырға сағатын тіркеуге рұқсат. Егер олар оларды тексере алмаса, GPU-ларды суретке түсіріп, қосқыштарды жіберіп алады

Мысал нұсқаулығы

Томос мұны нысандарда қысқаша, қарапайым тілмен былай деп түсіндіреді:

Мұны жасанды интеллект кампусы деп атамаңыз. Бар залда төрт қос үдеткішті серверлерге арналған екі сөрелік жаттығу ұяшығын салыңыз. Зауыттық кескіндер орнында қалады. Табыс мынада: төрт түйін термиялық дроссельсіз 12 дәуірлік тексеру-жаттығу рецептін аяқтайды, бақылау нүктесін ондаған минут емес, бірнеше минут ішінде жазады және біз әдейі дәрежені жойған кезде сол бақылау нүктесінен жалғастырады. Салқындату GPU-ларды оқыту сағаттарында ұстауы керек. Желі төрт қораптың ортақ мата болуы керек, кеңсе стегі арқылы өтетін жол емес. Сақтау чиптерді беруі керек. Егер артқы есіктегі жылу алмастырғыштар сәйкес келмесе, солай деп айтыңыз да, тоқтаңыз. Аралас залдағы екі сөре үшін PUE бағаламаңыз. Бұл сан театр болар еді.

Содан кейін ол мұны жаттығу жұмысының өзіне қояды:

Жергілікті жылдам пулға әр 30 минут сайын бақылау пунктінен өтіңіз. Егер дәреже өлсе, соңғы толық бақылау пунктінен қайта бастаңыз. SAN-да күтпеңіз. Сағаттар қызып кеткенше жаттығуды жалғастырмаңыз. Оны тіркеп, тоқтаңыз, сонда біз дүңгіршекті көре аламыз.

Жақсы сағат былай көрінеді: сегіз графикалық процессордың барлығы жаттығу сағаттарында, бақылау нүктесі файлы іске қосылды, жұмыс әлі де блоктауда. Нашар сағат былай көрінеді: желдеткіштер толық айқайлап жатыр, сағаттар тоқтап тұр, бақылау нүктесі он минуттан кейін 2% деп жазылып тұр және кеңседегі біреу «кластер жұмыс істеп тұр» деп айтып жатыр. Жұмыс істеу жаттығу емес.

Оны қалай тексеруге болады

Олар сынақты жаңартудан бұрын жазады, бұл демонстрацияға сенбеудің мәні.

• Сол 12 дәуірлік рецепт, сол 120 000 тексеру суреттері, сегіз жүгіріс

• Уақыт - дайын рецептке дейінгі уақыт, соның ішінде кез келген қайта іске қосу, тапсырманы жіберуден бастап 12-ші кезеңнің соңғы бақылау нүктесіне дейін өлшенеді

• Жылу беру: GPU сағаттары жаттығу нысанасында жұмыс аяқталғаннан кейін де қалады. Дроссель оқиғасы жұмыс ақырында аяқталғанның өзінде сәтсіздікке ұшырайды

• Сақтау рұқсаты: жұмыс журналынан бақылау нүктесінің жазу уақыты, медиана және ең нашарсы

• Матаны тапсыру: лауазым сау болған кезде жұмыс ұжымдық күтуде тұрмайды. Егер олар сол күтуді көре алмаса, құрал-жабдықтар аяқталмаған

• Сегіз жүгірістің екеуі қайта іске қосу жолын тексеру үшін арнайы белгіленген қадамда өлтірілген дәрежеге ие болады

• Қорытынды - зауыт желісінен қоршалған қызмет көрсету қорабына дейінгі бөлек 200 суретті сынақ. Жаттығудың сәттілігі қызмет көрсетудің сәттілігі болып саналмайды

• Олар PDU-дан 15 минуттық үлгілерде электр қуатын жазып алады, сондықтан ешкімге мегаватт ойлап табудың қажеті жоқ

Ұяшықты "AI-ready" деп шақыруға рұқсат: 8 рецепттің 8-і аяқталды; 8 рецепттің 0-і термиялық дроссельді көрсетеді; екі жойылған жүгіріс қайта жалғасады; бақылау нүктелері бірнеше минут ішінде қалады. Егер олар мұны жіберіп алса, оларда әлі де сәнді графикалық карталары бар сервер бөлмесі болады.

Нәтиже

Жарияланған Kestrel көрсеткіші емес, ойдан шығарылған сегіз жүгіруден тұратын сынақтың көрнекі нәтижесі.

Болжамдар: екі сөредегі төрт қос үдеткішті сервер; бір тексеру моделі; 120 000 кадр; бекітілген 12 дәуірлік рецепттің сегіз іске қосылуы; қабырға сағаты рецепт аяқталғанға дейін қайта іске қосуды қамтиды; дроссель жаттығу сағатынан бас тартуды білдіреді; бақылау нүктесінің уақыты - жазу, тілек емес; сөре қуаты - кампустың PUE емес, PDU үлгілері.

Жаңғыртудан бұрын, кеңсе Ethernet және VM SAN жүйелеріндегі кәдімгі ауамен салқындатылатын сөрелердегі GPU-лар:

• 8 жүгірістің 5-еуі бірінші әрекетте аяқталды. Сол бесеуінің ішіндегі қабырға сағатының орташа ұзақтығы: 14 сағат

• 8-нің 3-і шамамен 11 сағатта тоқтап қалғаннан кейін қайта бастауға мәжбүр болды (екеуі ескірген бақылау нүктесінен түйін өлгеннен кейін, біреуі бақылау нүктесі SAN-ды толтырғаннан кейін). Дереу қайталау әрекеті, сағатта түнгі күтудің қажеті жоқ: 11 сағат босқа кетті, сонымен қатар 14 сағаттық екінші әрекет немесе осы үшеуінде дайын рецептке 25 сағат қалды

• Барлық сегіз рецепт бойынша дайын рецептке дейінгі орташа уақыт, қайта бастауларды қосқанда: 18 сағат. (14-те бесеу, 25-те үшеу. Барлық сегіз рецепттің медианасы әлі де 14, бұл қайта бастауларды жасырады. Сондықтан орташа мән мұндағы негізгі мән болып табылады.)

• 8 әрекеттің 7-інде термиялық дроссель тіркелді. Қысқартылған сағаттағы орташа уақыт: 14 сағаттық әрекетте 3 сағат

• Бақылау пунктінде жазу уақыты: орташа 22 минут

• Олар дәреже бойынша өлтіру сынағынан өте алмады. Олардың сынақ кітапшасы болған жоқ. Екі кездейсоқ өлім - бұл қорытынды болды

• Жаттығу кезінде екі сөреге түсетін ең жоғары IT жүктемесі: шамамен 18 кВт. Қатарда ватт болды. Салқындату немесе мата болмады

Осы екі сөредегі артқы есік жылу алмастырғыштарынан кейін, төрт түйін арасындағы арнайы мата, бақылау нүктелеріне арналған шағын NVMe пулы, 30 минуттық бақылау пункті және қайта іске қосу нұсқаулығы:

• 8-ден 8-і бірінші әрекетте аяқталды. Қабырға сағатының орташа ұзақтығы: 9 сағат

• Термиялық дроссель: 8-ден 0

• Checkpoint жазу уақыты: медиана 90 секунд. Жиынтықтағы ең нашар уақыт: 3 минут

• Екі әдейі жасалған екі шабуыл соңғы 30 минуттық бақылау нүктесінен қайта жалғасты. Бұл екі шабуылға қосымша уақыт белгіленді: әрқайсысы шамамен 40 минут, диагнозды қоса алғанда, сондықтан екеуі шамамен 9 сағат 40 минутқа созылды. Орташа есеппен сегіз раунд 9 сағатқа дейін созылды

• Ең жоғары IT жүктемесі әлі де шамамен 18 кВт. Сол чиптер. Әртүрлі құрылыс сипаттамалары

Бұл үлгі бойынша рецептті аяқтауға дейінгі орташа уақыт сегіз айналымда 18 сағаттан 9 сағатқа немесе әрқайсысы 9 сағатқа, 72 сағатқа төмендеді. Бірінші рет аяқтау 8-ден 5-тен 8-ге дейін төмендеді. Дроссель 8-ден 7-ден 8-ге дейін төмендеді. Соңғы сан - олар үдеткіштерді немесе қағаз салмақтарды сатып алғанын көрсететін сан. Олар уақыттың өзгеруін өндірісте 50% үнемдеу деп атамайды. Сегіз айналым - бұл шағын, оңай жиынтық.

Бұл сандар көрсетілген сынаққа, шағын үлгіге, бір модельге және бір аралас залға негізделген мысал ретіндегі бағалау болып табылады. Олар PUE емес, кампус мегаватты емес және Kestrel компаниясының далада жаттығу алаңын салуы керек екендігінің дәлелі емес. Журналдарды қарау 9 сағат ішінде өтті; олар оны жасырмады. 18 кВт көрсеткіші коммуналдық қызметтерге арналған шот-фактура емес, дөңгелектелген PDU көрсеткіші. Олар 72 сағатты шығынға айналдырмады, себебі зауыттың аралас электр энергиясының тарифі жалған бизнес-іс жүргізуге негіз болар еді.

Қызмет көрсету чегі бөлек және кішірек болды: қоршалған қорапқа 200 жолдық кескін, барлығы орнында. Бұл жаттығу емес, қорытынды. Екеуін араластыру миниатюралық гибридті-холл қателігі болар еді.

Не дұрыс болмауы мүмкін

• Сатып алу төрт серверді «AI деректер орталығы» деп атай береді. Белгі сантехниканы жасырады, ал келесі сатып алу сол ауру бөлімі үшін көбірек GPU-ларды сатып алу болып табылады

• Артқы есіктегі ауыстырғыштар кіріп кетеді, бірақ ешкім су жағасын іске қоспайды. Жанкүйерлер әлі айқайлайды. Сағаттар әлі де төмендейді

• Бұл мата қосалқы жолы жоқ жалғыз қосқыш. Бір істен шыққан байланыс және «кластер» тағы да төрт жұмыс станциясы

• NVMe пулы «екінші фаза» болғандықтан, бақылау нүктелері SAN-да қалады. Екінші фаза келесі өлі түйінге дейін келмейді

• Олар аралас залдағы екі сөре үшін PUE бағасын белгілейді. Климат, шекара және ERP қатарының қалған бөлігі бұл арақатынасты өте қолайлы етеді

• Оқыту және қызмет көрсету матаны бөліседі. Бақылау нүктесінің толуы зауыт желісін күттіреді. Құйрықтың кідірісі тығыздық емес, өнім болып табылады

• Түйін өледі және біреу оны бақылау нүктесін қайта іске қосудың орнына жұмыс уақыты билеті ретінде қарастырады. Кәсіпорын операторлары мен жасанды интеллект операторлары бір-бірімен толық түстен кейін сөйлеседі

• Олар торды жалға ала алар еді, бірақ суреттер кете алмайды. Бұл шектеуді ұмытып, олар демалуға мәжбүр болады

Практикалық қорытынды

Бұл формадағы жасанды интеллект деректер орталығы қойма емес және GPU шот-фактурасы емес. Бұл үдеткіштерге жүгірісті аяқтауға мүмкіндік беретін ұяшық: олар ұстай алатын қуат, кететін жылу, мата, бақылау нүктесі және дәреже өлген кезде ілгекке түсетін біреу. Kestrel-ге кампус қажет емес еді. Оларға жалған сөйлеуді тоқтату үшін екі сөре қажет болды. Көптеген командалар бұл мінез-құлықты жалға алуы керек. Құпия деректер жиынтығы және жылуды қабылдай алатын залы бар бірнешеуі ұяшық құрып, слайдтан бас тартуы керек.

Жиі қойылатын сұрақтар

Жасанды интеллект деректер орталығы дегеніміз не?

Қуат, салқындату, желі және сақтау жүйелері жалпы мақсаттағы серверлердің реттелген қатарларына емес, параллель оқыту мен модельдерге қызмет көрсетуге бағытталған жоғары тығыздықтағы есептеу орны. Ол көптеген үдеткіштер модельдерді ерімей, желіде тоқтамай немесе дискіде күтпей оқыта және қызмет көрсете алатындай етіп жасалған. Кәдімгі кәсіпорын залы - аралас аудан. Жасанды интеллект залы - GPU немесе TPU стиліндегі чиптер сияқты құндылық бірлігі үдеткіш болып табылатын монокультура. Ол қоймаға ұқсайды және математикалық есептеулер жүргізетін электр станциясы сияқты әрекет етеді.

Жасанды интеллект деректер орталығы кәдімгі деректер орталығынан қалай ерекшеленеді?

Дәстүрлі залдар аралас жұмыс жүктемелері мен көптеген шағын қызметтердегі жұмыс уақытын оңтайландырады. Жасанды интеллект сайттары арақатынасты өзгертеді: тығыздық артады, желі оқыту жұмысы онсыз жұмыс істемейтін мата болады, ал сақтау орны бақылау пункттерін қозғалтып отыруы керек немесе үдеткіштер бос тұруы керек. Кәсіпорын операторлары билеттер мен терезелерді ауыстыру туралы ойлайды. Жасанды интеллект операторлары жұмыс кезектерін және ұзақ мерзімді перспективада түйіннің кеш істен шығуы кезіндегі жағымсыз сезімді ойлайды. Сіз екі деректер орталығына да қоңырау шала аласыз. Белгі тек құбырларды жасырады.

Неліктен жасанды интеллект деректер орталықтары соншалықты көп қуат пайдаланады?

Ең бастысы - ақылды процессор емес. Бұл үдеткіш науа: GPU немесе басқа жасанды интеллект чиптері, серверлерге, содан кейін сөрелерге, содан кейін жоғары өткізу қабілеттілігін пайдаланатын қатарларға орналастырылған. Сөредегі тығыздық - сюжеттің бұрылысы: әрқайсысы кішкентай пеш сияқты аз сөрелер. Зал толғаннан кейін мегаватт IT жүктемесі пайда болады, бірақ типтік санды ойлап табудың қажеті жоқ. Шектеуші фактор көбінесе GPU-лардың қалау тізімі емес, қосалқы станция болып табылады.

Жасанды интеллект деректер орталықтары қалай салқындатылады?

Жоғары тығыздықтағы сөрелер жылуды ауаны ешқашан өңдеуді қажет етпейтіндей етіп шығарады. Артқы есіктегі жылу алмастырғыштар, ыстық өткелдер және ақылды оқшаулау арқылы ауаны қаттырақ итеруге болады. Содан кейін сұйықтық пайда болады: тікелей чипке салқындату, салқындатқыш ілмектер және бірнеше конструкцияға батыру. Дроссельді үдеткіш - сіз бұрыннан төлеп қойған және толық пайдалана алмайтын үдеткіш. PUE әлі де маңызды, себебі желдеткіштер мен сорғыларға жұмсалған әрбір ватт - графикалық процессорға кетпеген ватт. Су да әңгімеде: кейбір өсімдіктер жұтып қояды, кейбіреулері жұтады.

Неліктен желілік байланыс графикалық процессорлар сияқты маңызды?

Оқыту – әңгіме: мыңдаған үдеткіштер тығыз синхронда модельдің градиенттерімен, параметрлерімен және сынықтарымен алмасады. Егер мата дірілдесе, бүкіл жұмыс ең баяу секіруде күтеді. Сондықтан жасанды интеллект залдары жоғары өткізу қабілеттілігі бар желілерге, төмен кідіріске, InfiniBand тәрізді маталарға немесе сол рөлдегі Ethernet-ке және байланыс үзілген кезде екіге бүктелмейтін топологияларға назар аударады. Қорытындылау үшін артқы кідіріс, көптеген кішігірім сұраныстар және оқшаулау маңызды. Бұл ғимаратта сантехника мейрамхана болып табылады.

Жасанды интеллект деректер орталығы не үшін қолданылады: оқыту немесе қорытынды жасау?

Оқыту – бұл науқан: кластерді жинап, оған деректер беріп, бақылау нүктесін діни түрде орнатып, бірнеше сағат немесе апта бойы жұмыс істеңіз. Қорытынды – бұл көрме витринасындағыдай: қазірдің өзінде үйретілген, қазір жауап беретін модельдер маңызды кідіріспен жауап береді. Оқыту кампустары күш, жер және тығыздықты қуады. Қорытынды алаңдары кідіріс пен қатысуды қуады. Капитал шексіз емес болғандықтан, гибридті залдар бар, кейде екі салқындату циклі бар бір зал. Тұтынушының жанындағы сәл ескі үдеткіш сәнді үдеткішті құрлықтан алыстата алады.

Неліктен жасанды интеллект деректер орталығында сақтау маңызды?

Оқыту деректері графикалық процессорлардың жұмысын тоқтататындай тез келуі керек. Апаттан кейін бір апта бойы ештеңе болмас үшін бақылау нүктелері қонуы керек. Сервистік көшірме іске қосылмас бұрын модельдің салмағы жүктелуі керек. Тыныш кедергі тек сыйымдылық емес, сақтау қабілеті де. Сіз үдеткіштерге көп ақша жұмсай аласыз және оларды виртуалды машиналарға арналған сыпайы массивпен толтыра аласыз.

Түйін жұмыс барысында өліп қалғанда не болады?

Тығыз байланысты жаттығу жұмысындағы бір өлі үдеткіш бүкіл хорды тоқтата алады. Жаттығу оптимизмді емес, бақылау нүктелерін қалайды. Қорытынды ауру түйінді құртады, көшірменің жауап беруін қамтамасыз етеді және жұмыс істеп тұрады. Өзгерту терезелері әлі де күнтізбеңізге мән бермейтін жаттығу жүгірулерімен соқтығысады. Резервтеу қуат, салқындату, жолдар және сақтау үшін әлі де маңызды, бірақ істен шығу режимі ескі жұмыс уақытының тоғыз жылжуына қарағанда онша ретсіз емес.

Жасанды интеллект деректер орталығының электр желісіне, суға және көршілерге әсері қандай?

Электр желісіне қосылу көбінесе нақты орын таңдау процесі болып табылады. Жер учаскесі қосалқы станциямен және басқа тұтынушылары бар коммуналдық қызметтермен салыстырғанда оңай. Салқындатуға арналған суды пайдалансаңыз, жаңбыр жауған кезде, шу, көрінетін көлем және шекара қоршауындағы жылумен қатар, көршілес мәселеге айналады. Оқыту арзан электр қуаты нарықтарында және салқын климатта жасырынуы мүмкін. Қорытынды пайдаланушылардың жанында болуды ұнатады. Бірде-бір мінсіз орын жоқ. Баспасөз хабарламасында ымыраға келу керек.

Маған жасанды интеллект деректер орталығы қажет пе, әлде жалға алуым керек пе?

Көпшілікке бұл залдардың біріне ие болудың қажеті жоқ. Гипермасштабтаушылар өнім - автопарк болғандықтан жасайды. Зертханалар кезек уақыты тар болған кезде немесе деректер шыға алмаған кезде жасайды. Құпия деректер жиынтығы бар банк, аурухана, үкімет немесе өндіруші жергілікті немесе жеке коло торды рационалды ете алады. Қалғандары жалға алуы керек: жасанды интеллектке дайын колокация, бұлттық резервтеу немесе басқарылатын кластер. Сіз электр станциясының операторы болмай-ақ үдеткіштерді аласыз.

Сілтемелер

1. ХЭА - www.iea.org

2. LBNL - datacenters.lbl.gov

3. Жасыл тор - www.thegreegrid.org

4. LBNL - datacenters.lbl.gov

5. LBNL - datacenters.lbl.gov

6. Uptime институты - journal.uptimeinstitute.com

7. NVIDIA - developer.nvidia.com

8. NVIDIA - docs.nvidia.com

9. NVIDIA - docs.nvidia.com

10. NVIDIA - docs.nvidia.com

11. Google Cloud - docs.cloud.google.com

Ресми AI көмекші дүкенінен ең соңғы AI-ді табыңыз

Біз туралы