Karta graficzna Blackwell B200 do generatywnej sztucznej inteligencji – NVIDIA GTC 2024
Generatywna sztuczna inteligencja (AI) to obecnie najgorętszy temat w branży technologicznej, a jej koncentracja wokół rozbudowanych modeli językowych obejmuje niemal wszystkie sektory. Jakiej transformacji dokona się branża chipów? Napędzane szaleństwem na punkcie AI, duże firmy technologiczne rywalizują o zdobycie tego nowego rynku. Zapewnienie mocy obliczeniowej, aby sprostać nowym wymaganiom generacji AI, jest najważniejszym ogniwem i właśnie tym zajmuje się NVIDIA.
W ciągu 15 miesięcy wartość rynkowa firmy NVIDIA wzrosła sześciokrotnie, przekraczając 2,2 biliona dolarów, stając się trzecią co do wielkości firmą technologiczną na świecie po Apple i Microsoft, i nadal się rozwija. Aby umocnić swoją pozycję rynkową jako preferowanego dostawcy dla firm z branży sztucznej inteligencji, Nvidia zaprezentowała nową generację architektury GPU Blackwell do obsługi modeli sztucznej inteligencji podczas konferencji GTC 2024. Ponadto, firma będzie dalej rozwijać swój łańcuch dostaw w branży poprzez NIM i Omniverse.
W dwugodzinnym przemówieniu otwierającym założyciel firmy NVIDIA, Jensen Huang, przedstawił światu nowy silnik firmy NVIDIA: sprzęt, oprogramowanie i usługi oparte na nowej architekturze obliczeniowej.
• Nowa architektura GPU Blackwell i 'Superchip' GB200 zapewnią czterokrotnie większą wydajność szkoleniową niż Hopper, a duże parametry modelu osiągną poziom biliona.
• Innowacyjne oprogramowanie NIM ułatwia firmom dostosowywanie dużych modeli na platformie NVIDIA.
• Omniverse Cloud integruje szkolenie i zastosowanie robotyki, autonomicznej jazdy i cyfrowych bliźniaków w jednej platformie.
• Oprogramowanie do tworzenia modeli niestandardowych Nemo i fabryka AI.
Karta graficzna Blackwell B200 i GB200
Nazwa Blackwell pochodzi od nazwiska matematyka Davida Harolda Blackwella. Jest to nowa generacja architektury GPU, oparta na architekturze Hoppera. GB200 to pierwszy układ oparty na architekturze Blackwell i będzie dostępny pod koniec tego roku.
Procesory graficzne Blackwell będą dostępne jako samodzielne procesory graficzne, można też połączyć dwa procesory graficzne Blackwell i sparować je z procesorem Grace firmy Nvidia, tworząc superukład GB200.
GB200 łączy dwa procesory graficzne B200 z procesorem Grace za pomocą połączenia międzyukładowego o ultraniskim poborze mocy 900 GB/s. Według Nvidii system może obsługiwać modele z 27 bilionami parametrów. CPT-4 ma podobno 1,7 biliona parametrów.
Aby osiągnąć ultrawysoką wydajność AI, systemy wyposażone w GB200 mogą łączyć się z platformami NVIDIA Quantum-X800 InfiniBand i Spectrum-X800 Ethernet. Obie platformy zapewniają wysoką wydajność sieciową z prędkością do 800 Gb/s.
Firma Nvidia twierdzi, że GB200 zapewnia 30-krotny wzrost wydajności w przypadku zadań wnioskowania w porównaniu z obecnym procesorem graficznym H100.
Ponadto Nvidia wypuściła także chłodzenie cieczowe GB200 NVL72PROWADZONY System rackowy. Składa się z 36 zestawów procesorów Grace i 72 zestawów procesorów graficznych Blackwell. W przypadku GB200 NVL72 moc obliczeniowa wnioskowania może osiągnąć 1440 PFLOPS, a maksymalna przepustowość transmisji może osiągnąć 260 TB na sekundę. Dodatkowo, moc obliczeniowa precyzyjnego treningu FP8 może osiągnąć 720 PFLOPS, co jest niemal równoważne klastrowi superkomputerów.
Procesor graficzny Blackwell i superukład GB200 zostaną wprowadzone do platformy chmurowej NVIDIA DGX B200, która umożliwi trenowanie modeli, precyzyjne dostrajanie i wnioskowanie. Wszystkie platformy NVIDIA DGX zawierają oprogramowanie NVIDIA AI Enterprise do tworzenia i wdrażania rozwiązań klasy korporacyjnej.
Jensen Huang powiedział, że Nvidia planuje wykorzystać Blackwell do wejścia na rynek firm zajmujących się sztuczną inteligencją na całym świecie oraz podpisać umowy ze wszystkimi producentami OEM, regionalnymi chmurami obliczeniowymi, krajowymi suwerennymi firmami zajmującymi się sztuczną inteligencją oraz firmami telekomunikacyjnymi.
Amazon, Dell, Google, Meta, Microsoft, OpenAI i Tesla planują wykorzystać procesory graficzne Blackwell.
NIM (mikrousługa wnioskowania Nvidia)
Jeśli przedsiębiorstwo chce korzystać z rozbudowanego modelu, zazwyczaj wymaga on dostrojenia i prywatyzacji wdrożenia, aby usprawnić swoją działalność. Na tej konferencji firma Nvidia zaprezentowała usługę personalizacji modeli – NIM (Nvidia Inference Microservice).
Przede wszystkim, ten dekoder cyfrowy oferuje szeroki wybór powiązanych modeli, w tym modele open source Llama od partnerów. Według firmy NVIDIA, zostały one zoptymalizowane w oparciu o sprzęt firmy NVIDIA. Niezależnie od tego, czy jest to laptop z jednym procesorem, czy też sprzęt firmowy z wieloma węzłami GPU, oba mogą być używane bezpośrednio.
Ponadto pomaga użytkownikom w precyzyjnym dostrajaniu dużych modeli. Na przykład technologia NVIDIA NeMo Retriever, ogłoszona przez firmę NVIDIA w listopadzie 2023 roku, jest zintegrowana z całą mikrousługą i może pomóc przedsiębiorstwom w aktywowaniu funkcji RAG. Ponadto zawiera ona również moduł Lemo Retriever, który ułatwia szybkie wyszukiwanie informacji, cyfrowe mikrousługi ludzkie, które pomagają użytkownikom tworzyć cyfrowe osoby, i tak dalej.
W obszarze zastosowań medycznych firma NVIDIA wprowadziła 25 nowych mikrousług opartych na scenariuszach medycznych, aby pomóc globalnym firmom z branży opieki zdrowotnej zwiększyć wydajność w oparciu o generatywną sztuczną inteligencję. Te mikrousługi obejmują szereg modeli odkrywania leków, w tym MoIMIM do chemii generatywnej, ESMFold do przewidywania struktury białek oraz DiffDock, który pomaga badaczom zrozumieć, jak cząsteczki leków oddziałują z celami terapeutycznymi.
Przedsiębiorstwa z branży opieki zdrowotnej mogą wykorzystywać te mikrousługi m.in. do badania bilionów związków chemicznych stosowanych w lekach, gromadzenia większej ilości danych o pacjentach w celu wspomagania wczesnego wykrywania chorób lub wdrażania inteligentniejszych asystentów cyfrowych.
Firma NVIDIA podała przykład, w którym mikrousługi NVIDIA mogą przyspieszyć wywoływanie wariantów w procesie analizy genomu ponad 50-krotnie w porównaniu z działaniem na procesorze. Niektóre startupy stworzyły platformę do dialogu medycznego opartego na sztucznej inteligencji. Platforma będzie rozmawiać z pacjentami przez telefon w celu umawiania wizyt, wizyt przedoperacyjnych, monitorowania wypisu itp., co znacznie złagodzi powszechny problem niedoboru personelu i poprawi wyniki leczenia pacjentów. Oszczędza to również lekarzom do trzech godzin.
Obecnie z mikrousług medycznych firmy NVIDIA korzysta niemal 50 dostawców aplikacji na całym świecie.
Omniverse - Cyfrowy Magazyn i Roboty
Omniverse to prawdziwie zunifikowana platforma dla grafiki komputerowej, sztucznej inteligencji, obliczeń technologicznych i symulacji fizycznych, w której NVIDIA jest ekspertem. Pozwala ona na uzyskanie cyfrowego bliźniaka środowiska 1:1. Nvidia stworzyła Isaac Lab, aplikację do nauki robotów, przeznaczoną do szkolenia na symulatorze Omniverse Isaac. Dzięki nowym usługom koordynacji obliczeniowej roboty mogą być szkolone w symulacjach opartych na fizyce, a następnie bezstratnie migrowane do środowisk rzeczywistych.
Jensen Huang ogłosił projekt GR00T, który jest ogólnym modelem bazowym dla robotów humanoidalnych służącym do opracowywania robotów produkcyjnych opartych na Jetson Thor.
Firma NVIDIA zaprezentowała również przykład cyfrowego magazynu: środowisko symulacyjne Omniverse dla magazynu o powierzchni 100 000 stóp kwadratowych, które integruje bieżące nagrania wideo, cyfrowe roboty AMR pracowników ze stosem percepcyjnym Isaac oraz scentralizowaną mapę aktywności całego magazynu pochodzącą ze 100 symulowanych kamer zamontowanych na suficie.
Na filmie widać, jak w przypadku zablokowania zaplanowanej trasy cyfrowego robota AMR, NVIDIA Metropolis może zmieniać planowanie ścieżki w czasie rzeczywistym. Dzięki generatywnemu, opartemu na sztucznej inteligencji modelowi Metropolis, operatorzy mogą nawet używać języka naturalnego do zadawania pytań, aby zrozumieć sytuację.
Firma NVIDIA ogłosiła stworzenie interfejsu API dla platformy Omniverse Cloud, który będzie niezwykle przyjazny dla użytkownika i będzie obsługiwał sztuczną inteligencję. Na przykład, będzie on mógł tworzyć trójwymiarowe obrazy środowisk symulacyjnych bezpośrednio z opisów scen w języku naturalnym.
Ponadto firma NVIDIA ogłosiła partnerstwo z Vision Pro, dzięki któremu Omniverse Cloud będzie mogło przesyłać strumieniowo treści do Vision Pro.
Platforma komputerowa pokładowa DRIVE Thor
W porównaniu z poprzednią generacją DRIVE Orin, DRIVE Thor zaoferuje bardziej zaawansowany, autonomiczny kokpit. Integruje nową architekturę NVIDIA Blackwell, zaprojektowaną specjalnie z myślą o zadaniach Transformer, LLM i generatywnej sztucznej inteligencji.
Współpraca BYD z firmą NVIDIA obejmuje zarówno motoryzację, jak i chmurę obliczeniową. Oprócz budowy flot pojazdów elektrycznych nowej generacji w oparciu o platformę DRIVE Thor, BYD planuje również wykorzystać infrastrukturę AI firmy NVIDIA do rozwoju i szkolenia technologii AI w chmurze. Producenci tacy jak GAC i XPeng również zadeklarowali, że będą korzystać z platformy obliczeniowej DRIVE Thor.
Aplikacje komunikacyjne i klimatyczne – platforma chmurowa Digital Twin
W branży komunikacyjnej firma NVIDIA uruchomiła platformę chmurową do badań 6G. Bazując na niej, firmy telekomunikacyjne mogą precyzyjnie symulować ukształtowanie terenu i konstrukcje stworzone przez człowieka, zwiększając niezawodność transmisji bezprzewodowej. Jej partnerami są Nokia i Samsung.
Ponadto NVIDIA wprowadziła platformę chmurową Earth-2 Climate Digital Twin do symulacji i wizualizacji pogody. W przeciwieństwie do tradycyjnego modelowania opartego na procesorach, Earth-2 może dostarczać użytkownikom ostrzeżenia i aktualne prognozy znacznie szybciej, w zaledwie kilka sekund. Co więcej, generowane przez nią obrazy klimatyczne mają rozdzielczość 12,5 razy wyższą niż obecne modele numeryczne, są 1000 razy szybsze i 3000 razy bardziej energooszczędne, co pozwala na korygowanie niedokładności prognoz o niskiej rozdzielczości.
Jensen Huang przedstawił również praktyczne zastosowania. Na przykład Centralne Biuro Meteorologiczne Tajwanu planuje wykorzystać ten model do dokładniejszego przewidywania miejsca lądowania tajfunów, wcześniejszej ewakuacji ludzi i zmniejszenia liczby ofiar.
Firma NVIDIA ogłosiła również, że nowy japoński superkomputer ABCI-Q będzie obsługiwany przez platformy akceleracji i obliczeń kwantowych NVIDIA. Ten superkomputer, obsługiwany przez ponad 2000 procesorów graficznych NVIDIA H100 w ponad 500 węzłach, jest jedyną na świecie w pełni odciążalną platformą obliczeniową w sieci i ma zostać wdrożony na początku przyszłego roku.
W obecnej erze, w której „generatywna sztuczna inteligencja” reprezentuje przyszłość, każdy chce podążać za tym trendem. Na konferencji GTC 2024 ponad 10 000 osób obejrzało na żywo prelekcję, obejmującą ponad 900 sesji i setkę wystawców. Poza Apple, NVIDIA jest jedną z niewielu firm, które potrafią przekształcić technologię w coś, do czego każdy chce się zbliżyć. Zgodnie z panującym trendem, NVIDIA, dostarczając moc obliczeniową dla przyszłej sztucznej inteligencji, staje się jednocześnie największym beneficjentem i oczekuje się, że stanie się firmą o najwyższej wartości rynkowej na świecie.