जनरेटिव एआई के लिए ब्लैकवेल बी200 जीपीयू - एनवीडिया जीटीसी 2024

जनरेटिव एआई (Generative AI) इस समय प्रौद्योगिकी उद्योग में सबसे चर्चित विषय है, और बड़े भाषा मॉडल पर आधारित एआई लगभग सभी क्षेत्रों में तेजी से फैल रहा है। चिप उद्योग में आगे किस प्रकार का परिवर्तन आएगा? एआई के बढ़ते क्रेज के चलते, प्रमुख तकनीकी कंपनियां इस नए बाजार पर कब्जा करने के लिए होड़ में लगी हैं। जनरेटिव एआई की नई मांगों को पूरा करने के लिए आवश्यक कम्प्यूटेशनल शक्ति प्रदान करना सबसे महत्वपूर्ण कड़ी है, और एनवीडिया ठीक यही कर रही है।

महज 15 महीनों के भीतर, एनवीडिया का बाजार मूल्य छह गुना बढ़कर 2.2 ट्रिलियन अमेरिकी डॉलर से अधिक हो गया, जिससे यह एप्पल और माइक्रोसॉफ्ट के बाद दुनिया की तीसरी सबसे बड़ी प्रौद्योगिकी कंपनी बन गई, और इसका विकास जारी है। कृत्रिम बुद्धिमत्ता कंपनियों के लिए पसंदीदा आपूर्तिकर्ता के रूप में अपनी बाजार स्थिति को मजबूत करने के लिए, एनवीडिया ने जीटीसी 2024 में कृत्रिम बुद्धिमत्ता मॉडल चलाने के लिए ब्लैकवेल जीपीयू आर्किटेक्चर की एक नई पीढ़ी लॉन्च की। इसके अलावा, यह एनआईएम और ओमनीवर्स के माध्यम से अपनी डाउनस्ट्रीम उद्योग श्रृंखला का और विस्तार करेगी।

दो घंटे के उद्घाटन भाषण में, एनवीडिया के संस्थापक जेन्सेन हुआंग ने दुनिया को एनवीडिया के नए इंजन के बारे में बताया: नए कंप्यूटिंग आर्किटेक्चर के तहत हार्डवेयर, सॉफ्टवेयर और सेवाएं।

• नई ब्लैकवेल जीपीयू आर्किटेक्चर और जीबी200 'सुपरचिप' हॉपर की तुलना में 4 गुना अधिक प्रशिक्षण प्रदर्शन प्रदान करेगी, जिसमें बड़े मॉडल पैरामीटर ट्रिलियन स्तर तक पहुंच सकते हैं।
• एनआईएम नामक नवोन्मेषी सॉफ्टवेयर कंपनियों के लिए एनवीडिया प्लेटफॉर्म पर बड़े मॉडलों को अनुकूलित करना आसान बनाता है।
• ओम्निवर्स क्लाउड रोबोटिक्स, स्वायत्त ड्राइविंग और डिजिटल ट्विन के प्रशिक्षण और अनुप्रयोग को एक ही प्लेटफॉर्म में एकीकृत करता है।
• कस्टम मॉडल डेवलपमेंट सॉफ्टवेयर नीमो और एआई फैक्ट्री।

 

ब्लैकवेल बी200 जीपीयू और जीबी200

ब्लैकवेल का नाम गणितज्ञ डेविड हेरोल्ड ब्लैकवेल के नाम पर रखा गया है। यह हॉपर आर्किटेक्चर के बाद विकसित हुई जीपीयू आर्किटेक्चर की नई पीढ़ी है। GB200 ब्लैकवेल पर आधारित पहला चिप है और यह इस साल के अंत तक उपलब्ध हो जाएगा।

 

 

ब्लैकवेल जीपीयू स्टैंडअलोन जीपीयू के रूप में उपलब्ध होंगे, या दो ब्लैकवेल जीपीयू को मिलाकर एनवीडिया के ग्रेस सीपीयू के साथ जोड़ा जा सकता है ताकि एक सुपरचिप, जीबी200 बनाया जा सके।

GB200 दो B200 GPU को 900GB/s की अल्ट्रा-लो पावर इंटर-चिप इंटरकनेक्ट के माध्यम से ग्रेस CPU से जोड़ता है। Nvidia का कहना है कि यह सिस्टम 27 ट्रिलियन पैरामीटर वाले मॉडल को सपोर्ट कर सकता है। CPT-4 में कथित तौर पर 1.7 ट्रिलियन पैरामीटर हैं।

अति उच्च स्तरीय एआई प्रदर्शन प्राप्त करने के लिए, जीबी200 से लैस सिस्टम एनवीडिया क्वांटम-एक्स800 इन्फिनिबैंड और स्पेक्ट्रम-एक्स800 इथरनेट प्लेटफॉर्म से कनेक्ट हो सकते हैं। ये दोनों प्लेटफॉर्म 800 जीबी/सेकंड तक की गति से उच्च-प्रदर्शन नेटवर्किंग प्रदान करते हैं।

एनवीडिया का कहना है कि जीबी200 मौजूदा एच100 जीपीयू की तुलना में इन्फरेंस वर्कलोड के लिए प्रदर्शन में 30 गुना सुधार प्रदान करता है।

इसके अलावा, एनवीडिया ने जीबी200 एनवीएल72 लिक्विड-कूलिंग सिस्टम भी जारी किया।नेतृत्व किया यह एक रैक सिस्टम है। इसमें ग्रेस सीपीयू के 36 सेट और ब्लैकवेल जीपीयू के 72 सेट शामिल हैं। GB200 NVL72 पर, इन्फरेंस कंप्यूटिंग क्षमता 1440 PFLOPS तक पहुंच सकती है, और अधिकतम ट्रांसमिशन वॉल्यूम 260TB प्रति सेकंड तक पहुंच सकता है। इसके अलावा, FP8 प्रेसिजन ट्रेनिंग कंप्यूटिंग क्षमता 720 PFLOPS तक पहुंच सकती है, जो लगभग एक सुपरकंप्यूटर क्लस्टर के बराबर है।

 

 

मॉडल प्रशिक्षण, फाइन-ट्यूनिंग और इन्फरेंस के लिए क्लाउड प्लेटफॉर्म NVIDIA DGX B200 सिस्टम में ब्लैकवेल GPU और GB200 सुपरचिप को शामिल किया जाएगा। सभी NVIDIA DGX प्लेटफॉर्म में एंटरप्राइज-ग्रेड डेवलपमेंट और डिप्लॉयमेंट के लिए NVIDIA AI Enterprise सॉफ्टवेयर शामिल है।

जेन्सेन हुआंग ने कहा कि एनवीडिया की योजना भविष्य में ब्लैकवेल का उपयोग करके दुनिया भर की कृत्रिम बुद्धिमत्ता कंपनियों में प्रवेश करने और सभी ओईएम, क्षेत्रीय क्लाउड, राष्ट्रीय संप्रभु एआई और दूरसंचार कंपनियों के साथ अनुबंध पर हस्ताक्षर करने की है।

Amazon, Dell, Google, Meta, Microsoft, OpenAI और Tesla सभी ने Blackwell GPU का उपयोग करने की योजना बनाई है।

एनआईएम (एनवीडिया इन्फरेंस माइक्रोसर्विस)

यदि कोई उद्यम किसी बड़े मॉडल का उपयोग करना चाहता है, तो आमतौर पर उसे अपने व्यवसाय को आगे बढ़ाने के लिए फाइन-ट्यूनिंग और निजीकृत परिनियोजन की आवश्यकता होती है। इस सम्मेलन में, एनवीडिया ने अपनी मॉडल कस्टमाइजेशन सेवा, एनआईएम (एनवीडिया इन्फरेंस माइक्रोसर्विस) लॉन्च की।

सबसे पहले, इस डिजिटल बॉक्स में चुनने के लिए कई संबंधित मॉडल उपलब्ध हैं, जिनमें इसके साझेदारों द्वारा विकसित ओपन-सोर्स मॉडल लामा भी शामिल हैं। एनवीडिया के अनुसार, इन्हें एनवीडिया हार्डवेयर के आधार पर अनुकूलित किया गया है। चाहे हार्डवेयर एक सीपीयू वाला लैपटॉप हो या कई जीपीयू नोड्स वाला कंपनी-स्तरीय हार्डवेयर, दोनों का सीधे उपयोग किया जा सकता है।

 

 

इसके अतिरिक्त, यह उपयोगकर्ताओं को बड़े मॉडलों को बेहतर ढंग से समायोजित करने में मदद करता है। उदाहरण के लिए, नवंबर 2023 में NVIDIA द्वारा घोषित NVIDIA NeMo Retriever तकनीक को संपूर्ण माइक्रोसर्विस में एकीकृत किया गया है, और यह उद्यमों को RAG फ़ंक्शन सक्रिय करने में मदद कर सकती है। इसके अलावा, इसमें सूचना को शीघ्रता से प्राप्त करने में सहायता के लिए Lemo Retriever, उपयोगकर्ताओं को डिजिटल मानव बनाने में सहायता के लिए डिजिटल मानव माइक्रोसर्विस आदि भी शामिल हैं।

चिकित्सा क्षेत्र में, एनवीडिया ने जनरेटिव एआई के आधार पर वैश्विक स्वास्थ्य सेवा कंपनियों की दक्षता में सुधार लाने में मदद करने के लिए चिकित्सा परिदृश्यों पर आधारित 25 नई माइक्रोसेवाएं लॉन्च की हैं। इन माइक्रोसेवाओं में जनरेटिव केमिस्ट्री के लिए MoIMIM, प्रोटीन संरचना भविष्यवाणी के लिए ESMFold और शोधकर्ताओं को यह समझने में मदद करने के लिए DiffDock जैसे कई दवा खोज मॉडल शामिल हैं कि दवा के अणु लक्ष्यों के साथ कैसे परस्पर क्रिया करते हैं।

 

 

स्वास्थ्य सेवा उद्योग की कंपनियां इन माइक्रोसेवाओं का उपयोग खरबों दवा यौगिकों की जांच करने, बीमारी का शीघ्र पता लगाने में सहायता के लिए अधिक रोगी डेटा एकत्र करने या अन्य चीजों के अलावा अधिक स्मार्ट डिजिटल सहायकों को लागू करने के लिए कर सकती हैं।

एनवीडिया ने एक उदाहरण दिया जिसमें बताया गया कि एनवीडिया की माइक्रोसेवाएं जीनोम विश्लेषण वर्कफ़्लो में वेरिएंट कॉलिंग की गति को सीपीयू पर चलने की तुलना में 50 गुना से अधिक बढ़ा सकती हैं। कुछ स्टार्टअप्स ने कृत्रिम बुद्धिमत्ता द्वारा संचालित एक मेडिकल क्लिनिकल डायलॉग प्लेटफॉर्म विकसित किया है। यह प्लेटफॉर्म फोन पर मरीजों से बात करके अपॉइंटमेंट, प्री-ऑपरेटिव अपॉइंटमेंट, डिस्चार्ज फॉलो-अप आदि की व्यवस्था करेगा, जिससे कर्मचारियों की व्यापक कमी की समस्या काफी हद तक कम हो जाएगी और मरीजों के उपचार के परिणाम बेहतर होंगे। इससे चिकित्सकों का तीन घंटे तक का समय भी बचेगा।

वर्तमान में, दुनिया भर में लगभग 50 एप्लिकेशन प्रदाता एनवीडिया की मेडिकल माइक्रोसेवाओं का उपयोग कर रहे हैं।

ओम्निवर्स - डिजिटल वेयरहाउस और रोबोट

ओम्निवर्स एक ऐसा एकीकृत प्लेटफॉर्म है जो कंप्यूटर ग्राफिक्स, कृत्रिम बुद्धिमत्ता, तकनीकी कंप्यूटिंग और भौतिक सिमुलेशन के लिए जाना जाता है और इसमें एनवीडिया माहिर है। यह वातावरण का 1:1 डिजिटल ट्विन बना सकता है। एनवीडिया ने ओम्निवर्स इसाक सिम्युलेटर पर रोबोट प्रशिक्षण के लिए एक रोबोट लर्निंग एप्लिकेशन, इसाक लैब विकसित किया है। नई कंप्यूट ऑर्केस्ट्रेशन सेवाओं के साथ, रोबोट को भौतिकी-आधारित सिमुलेशन में प्रशिक्षित किया जा सकता है और उन्हें तुरंत वास्तविक दुनिया के वातावरण में स्थानांतरित किया जा सकता है।

जेन्सेन हुआंग ने प्रोजेक्ट GR00T की घोषणा की, जो जेटसन थोर पर आधारित उत्पादन रोबोट विकसित करने के लिए मानवाकार रोबोटों का एक सामान्य आधार मॉडल है।

 

 

एनवीडिया ने एक डिजिटल वेयरहाउस केस का भी प्रदर्शन किया: 100,000 वर्ग फुट के वेयरहाउस के लिए एक ओमनीवर्स सिमुलेशन वातावरण, जो रनिंग वीडियो, डिजिटल वर्कर एएमआर को इसाक परसेप्शन स्टैक के साथ एकीकृत करता है, और 100 सिमुलेटेड सीलिंग-माउंटेड कैमरों से पूरे वेयरहाउस का एक केंद्रीकृत गतिविधि मानचित्र प्रस्तुत करता है।

 

 

वीडियो में दिखाया गया है कि जब किसी डिजिटल वर्कर एएमआर का निर्धारित मार्ग बाधित होता है, तो एनवीडिया मेट्रोपोलिस वास्तविक समय में पथ नियोजन को बदल सकता है। जनरेटिव एआई-आधारित मेट्रोपोलिस विज़न फाउंडेशन मॉडल के माध्यम से, ऑपरेटर स्थिति को समझने के लिए सामान्य भाषा का उपयोग करके प्रश्न भी पूछ सकते हैं।

एनवीडिया ने ओमनीवर्स क्लाउड के लिए एक एपीआई बनाने की घोषणा की है, जो बेहद उपयोगकर्ता-अनुकूल और एआई-सक्षम होगा। उदाहरण के लिए, यह प्राकृतिक भाषा में दिए गए दृश्य विवरणों से सीधे सिमुलेशन वातावरण की 3डी छवियां बना सकता है।

इसके अलावा, एनवीडिया ने विजन प्रो के साथ साझेदारी की घोषणा की, जिससे ओमनीवर्स क्लाउड को विजन प्रो पर स्ट्रीमिंग करने की सुविधा मिलेगी।

ड्राइव थोर ऑनबोर्ड कंप्यूटिंग प्लेटफ़ॉर्म

पिछली पीढ़ी के DRIVE Thor की तुलना में, DRIVE Thor अधिक सुविधाओं से भरपूर स्वायत्त कॉकपिट प्रदर्शन प्रदान करेगा। इसमें नई NVIDIA Blackwell आर्किटेक्चर एकीकृत है, जिसे विशेष रूप से ट्रांसफ़ॉर्मर, LLM और जनरेटिव AI वर्कलोड के लिए डिज़ाइन किया गया है।

 

 

BYD और NVIDIA का सहयोग ऑटोमोबाइल से लेकर क्लाउड तक फैला हुआ है। DRIVE Thor पर अगली पीढ़ी के इलेक्ट्रिक वाहनों का बेड़ा तैयार करने के अलावा, BYD क्लाउड-आधारित AI विकास और प्रशिक्षण तकनीकों के लिए NVIDIA के AI इंफ्रास्ट्रक्चर का उपयोग करने की भी योजना बना रही है। GAC और XPeng जैसी निर्माताओं ने भी संकेत दिया है कि वे DRIVE Thor ऑनबोर्ड कंप्यूटिंग प्लेटफॉर्म का उपयोग करेंगी।

संचार एवं जलवायु अनुप्रयोग - डिजिटल ट्विन क्लाउड प्लेटफ़ॉर्म

संचार उद्योग में, एनवीडिया ने 6जी अनुसंधान क्लाउड प्लेटफॉर्म लॉन्च किया है। इस प्लेटफॉर्म के आधार पर, संचार कंपनियां भौतिक भूभाग और मानव निर्मित संरचनाओं का सटीक अनुकरण कर सकती हैं, जिससे वायरलेस ट्रांसमिशन की विश्वसनीयता बढ़ती है। इसके साझेदारों में नोकिया और सैमसंग शामिल हैं।

इसके अतिरिक्त, NVIDIA ने मौसम का अनुकरण और दृश्य प्रस्तुत करने के लिए Earth-2 नामक जलवायु डिजिटल ट्विन क्लाउड प्लेटफॉर्म पेश किया है। पारंपरिक CPU-आधारित मॉडलिंग के विपरीत, Earth-2 उपयोगकर्ताओं को कुछ ही सेकंडों में चेतावनी और अद्यतन पूर्वानुमान प्रदान कर सकता है। साथ ही, इसके द्वारा उत्पन्न जलवायु छवियों का रिज़ॉल्यूशन वर्तमान संख्यात्मक मॉडलों की तुलना में 12.5 गुना अधिक है, ये 1000 गुना अधिक तेज़ हैं और इनकी ऊर्जा दक्षता 3000 गुना अधिक है, जिससे कम रिज़ॉल्यूशन वाले पूर्वानुमानों की अशुद्धियों को दूर किया जा सकता है।

 

 

जेन्सेन हुआंग ने व्यावहारिक उपयोग के उदाहरण भी प्रस्तुत किए। उदाहरण के लिए, ताइवान का केंद्रीय मौसम ब्यूरो इस मॉडल का उपयोग तूफानों के आने के स्थान का अधिक सटीक पूर्वानुमान लगाने, लोगों को समय रहते सुरक्षित स्थानों पर पहुंचाने और हताहतों की संख्या कम करने के लिए करने की योजना बना रहा है।

एनवीडिया ने यह भी घोषणा की कि जापान में विकसित हो रहे नए एबीसीआई-क्यू सुपरकंप्यूटर को एनवीडिया के एक्सेलरेशन और क्वांटम कंप्यूटिंग प्लेटफॉर्म द्वारा सपोर्ट किया जाएगा। 500 से अधिक नोड्स में फैले 2000 से अधिक एनवीडिया एच100 जीपीयू द्वारा समर्थित यह सुपरकंप्यूटर दुनिया का एकमात्र पूरी तरह से ऑफलोड करने योग्य इन-नेटवर्क कंप्यूटिंग प्लेटफॉर्म है और अगले साल की शुरुआत में इसे तैनात किए जाने की उम्मीद है।

आज के दौर में, जहाँ 'जेनरेटिव एआई' भविष्य का प्रतीक है, हर कोई इस चलन के साथ कदम मिलाकर चलना चाहता है। 2024 के जीटीसी सम्मेलन में, 900 से अधिक सत्रों और सौ से अधिक प्रदर्शकों के साथ, 10,000 से अधिक लोगों ने मुख्य भाषण को लाइव देखा। एप्पल के अलावा, एनवीडिया उन चुनिंदा कंपनियों में से एक है जो तकनीक को सबके लिए सुलभ बनाने में सक्षम है। समय के चलन के अनुरूप, एनवीडिया भविष्य के एआई के लिए कंप्यूटिंग शक्ति प्रदान करने के साथ-साथ सबसे बड़ा लाभार्थी भी बन रही है, और उम्मीद है कि यह दुनिया की सबसे अधिक बाजार मूल्य वाली कंपनी बन जाएगी।