NVIDIA жадысы үлкен суперкомпьютерлердің жаңа класын – суперкомпьютерді жариялады NVIDIA DGX суперчиптерге негізделген NVIDIA GH200 Grace Hopper және коммутатор жүйелері NVIDIA NVLink. Ол генеративті қолданбалар үшін келесі ұрпақ үлгілерін әзірлеуге арналған AI, кеңес беру жүйелері және деректерді талдау жұмыс жүктемелері.
Жад кеңістігі NVIDIA DGX GH200 256 GH200 суперчиптерін біріктіру үшін NVLink коммутатор жүйесімен NVLink қосылу технологиясын пайдаланады, нәтижесінде олар бір графикалық процессор ретінде жұмыс істейді. Бұл 1 эксафлоп өнімділікті және 144 ТБ ортақ жадты қамтамасыз етеді, бұл алдыңғы буыннан 500 есе көп. NVIDIA DGX A100, ол 2020 жылы ұсынылған.
«Генеративті AI, үлкен тілдік модельдер мен кеңес беру жүйелері заманауи экономиканың цифрлық қозғалтқыштары болып табылады, деді негізін қалаушы және бас директор. NVIDIA Дженсен Хуанг. – DGX GH200 AI суперкомпьютерлері заманауи жеделдетілген есептеу және желілік технологияларды біріктіреді NVIDIAAI шекараларын кеңейту».
Компанияның веб-сайтындағы баспасөз хабарламасында айтылғандай, GH200 суперчиптері дәстүрлі CPU-GPU PCIe қосылымының қажеттілігін жояды. Олар процессорды біріктіреді NVIDIA Қолға негізделген Grace және GPU NVIDIA H100 тензор ядросы бір жағдайда. Бұл GPU мен CPU арасындағы өткізу қабілеттілігін 7 есе арттырады, қуат тұтынуды айтарлықтай азайтады және жаңа суперкомпьютерлер үшін 600 ГБ GPU Hopper архитектурасын қамтамасыз етеді. DGX GH200 архитектурасы алдыңғы буынға қарағанда 48 есе көп NVLink өткізу қабілеттілігін қамтамасыз етеді.
Google Cloud күтілуде Meta бұл Microsoft DGX GH200 жүйесіне қол жеткізуге және оның AI жұмыс жүктемелерін жасаудағы мүмкіндіктерін зерттеуге алғашқылардың бірі болады. Өндіруші сонымен қатар DGX GH200 дизайнын бұлттық қызмет жеткізушілеріне үлгі ретінде ұсынбақ, осылайша олар оны инфрақұрылымына бейімдей алады.
«Жетілдірілген генеративті модельдерді жасау жасанды интеллект инфрақұрылымына инновациялық тәсілдерді қажет етеді», - деді есептеуіш вице-президенті. Google Cloud Марк Ломейер. «NVLink-тің жаңа масштабы және Грейс Хоппер суперчипінің жады ауқымды AI-дағы негізгі кедергілерді шешеді және біз оның Google Cloud және генеративті AI бастамалары үшін әлеуетін зерттеуді асыға күтеміз».
Azure инфрақұрылымы бойынша корпоративтік вице-президенті Microsoft Гириш Баблани DGX GH200-дің терабайт деректер жинақтарымен жұмыс істеу әлеуетін атап өтті, бұл әзірлеушілерге үлкен масштабта және жеделдетілген жылдамдықта зерттеулер жүргізуге мүмкіндік береді.
Компания сонымен қатар суперкомпьютер жасайды NVIDIA DGX GH200 негізіндегі Helios зерттеушілері мен әзірлеушілер тобына арналған. Ол төрт DGX GH200 жүйесімен жабдықталады және үлкен AI үлгілерін оқыту үшін деректер өткізу қабілетін арттыру үшін әрқайсысы Quantum-2 InfiniBand желісі арқылы өзара байланысты болады. Helios құрамына 1024 Грейс Хоппер суперчиптері кіреді және жыл соңына дейін пайдалануға беріледі деп күтілуде.
Бағдарламалық қамтамасыз ету NVIDIA Base Command AI жұмыс процесін басқаруды, кәсіпорын деңгейіндегі кластерді басқаруды, есептеуді, сақтауды және желілік инфрақұрылымды жылдамдататын кітапханаларды және AI жұмыс жүктемелері үшін оңтайландырылған жүйелік бағдарламалық құралды қамтамасыз етеді. Сондай-ақ AI Enterprise бағдарламалық жасақтамасы бар, ол 100-ден астам фреймворктарды, алдын ала дайындалған үлгілерді және генеративті AI қоса, өндірістік AI әзірлеу мен орналастыруды жеңілдету үшін әзірлеу құралдарын ұсынады. AI, компьютерлік көру, сөйлеу AI және т.б.
Суперкомпьютерлер NVIDIA DGX GH200 жыл соңына дейін қол жетімді болады.
Сондай-ақ оқыңыз: