GPU Blackwell B200 dành cho Trí tuệ nhân tạo tạo sinh - NVIDIA GTC 2024
Trí tuệ nhân tạo tạo sinh (Generative AI) hiện là chủ đề nóng nhất trong ngành công nghệ, với AI tập trung vào các mô hình ngôn ngữ quy mô lớn đang lan rộng khắp hầu hết các lĩnh vực. Ngành công nghiệp chip sẽ trải qua sự chuyển đổi như thế nào tiếp theo? Được thúc đẩy bởi cơn sốt AI, các công ty công nghệ lớn đều đang cạnh tranh để chiếm lĩnh thị trường mới này. Cung cấp sức mạnh tính toán để đáp ứng các yêu cầu mới của AI tạo sinh là mắt xích quan trọng nhất, và đó chính xác là những gì NVIDIA đang làm.
Chỉ trong vòng 15 tháng, giá trị thị trường của NVIDIA đã tăng vọt gấp sáu lần, vượt quá 2,2 nghìn tỷ đô la Mỹ, trở thành công ty công nghệ lớn thứ ba thế giới sau Apple và Microsoft, và vẫn tiếp tục tăng trưởng. Để củng cố vị thế thị trường là nhà cung cấp được ưa chuộng cho các công ty trí tuệ nhân tạo, Nvidia đã ra mắt thế hệ kiến trúc GPU Blackwell mới để chạy các mô hình trí tuệ nhân tạo tại GTC 2024. Ngoài ra, hãng cũng sẽ tiếp tục mở rộng chuỗi ngành công nghiệp hạ nguồn thông qua NIM và Omniverse.
Trong bài phát biểu khai mạc kéo dài hai giờ, người sáng lập NVIDIA, Jensen Huang, đã giới thiệu với thế giới về "động cơ" mới của NVIDIA: phần cứng, phần mềm và dịch vụ dựa trên kiến trúc điện toán mới.
• Kiến trúc GPU Blackwell mới và 'Superchip' GB200 sẽ cung cấp hiệu năng huấn luyện gấp 4 lần so với Hopper, với các tham số mô hình lớn đạt đến cấp độ nghìn tỷ.
• Phần mềm NIM tiên tiến giúp các công ty dễ dàng tùy chỉnh các mô hình lớn trên nền tảng NVIDIA.
• Omniverse Cloud tích hợp việc đào tạo và ứng dụng robot, lái xe tự hành và mô hình song sinh kỹ thuật số trong một nền tảng duy nhất.
• Phần mềm phát triển mô hình tùy chỉnh Nemo và nhà máy AI.
GPU Blackwell B200 và GB200
Blackwell được đặt tên theo nhà toán học David Harold Blackwell. Đây là thế hệ kiến trúc GPU mới kế thừa kiến trúc Hopper. GB200 là chip đầu tiên dựa trên kiến trúc Blackwell và sẽ có mặt trên thị trường vào cuối năm nay.
GPU Blackwell sẽ được bán riêng lẻ hoặc có thể kết hợp hai GPU Blackwell với CPU Grace của Nvidia để tạo ra một siêu chip, gọi là GB200.
GB200 kết nối hai GPU B200 với CPU Grace thông qua một đường truyền liên chip siêu tiết kiệm năng lượng 900GB/s. Nvidia cho biết hệ thống này có thể triển khai các mô hình với 27 nghìn tỷ tham số. CPT-4 được cho là có 1,7 nghìn tỷ tham số.
Để đạt được hiệu năng AI cực cao, các hệ thống được trang bị GB200 có thể kết nối với nền tảng NVIDIA Quantum-X800 InfiniBand và Spectrum-X800 Ethernet. Cả hai nền tảng này đều cung cấp khả năng kết nối mạng hiệu năng cao với tốc độ lên đến 800Gb/s.
Nvidia cho biết GB200 mang lại hiệu năng cải thiện gấp 30 lần cho các tác vụ suy luận so với GPU H100 hiện tại.
Ngoài ra, Nvidia cũng đã phát hành card đồ họa GB200 NVL72 tản nhiệt nước.DẪN ĐẾN Hệ thống rack này bao gồm 36 bộ CPU Grace và 72 bộ GPU Blackwell. Trên GB200 NVL72, sức mạnh tính toán suy luận có thể đạt tới 1440 PFLOPS, và dung lượng truyền tải tối đa có thể đạt 260TB mỗi giây. Ngoài ra, sức mạnh tính toán huấn luyện độ chính xác FP8 có thể đạt tới 720PFlops, gần như tương đương với một cụm siêu máy tính.
GPU Blackwell và siêu chip GB200 sẽ được tích hợp vào nền tảng đám mây NVIDIA DGX B200 để huấn luyện, tinh chỉnh và suy luận mô hình. Tất cả các nền tảng NVIDIA DGX đều bao gồm phần mềm NVIDIA AI Enterprise để phát triển và triển khai ở cấp độ doanh nghiệp.
Jensen Huang cho biết Nvidia có kế hoạch sử dụng Blackwell để thâm nhập vào các công ty trí tuệ nhân tạo trên toàn thế giới trong tương lai, và ký kết hợp đồng với tất cả các nhà sản xuất thiết bị gốc (OEM), các nhà cung cấp dịch vụ đám mây khu vực, các công ty AI quốc gia và các công ty viễn thông.
Amazon, Dell, Google, Meta, Microsoft, OpenAI và Tesla đều đã lên kế hoạch sử dụng GPU Blackwell.
NIM (Dịch vụ vi mô suy luận Nvidia)
Nếu một doanh nghiệp muốn sử dụng một mô hình lớn, họ thường cần tinh chỉnh và triển khai riêng tư để hỗ trợ hoạt động kinh doanh của mình. Tại hội nghị này, Nvidia đã ra mắt dịch vụ tùy chỉnh mô hình của mình, NIM (Nvidia Inference Microservice).
Trước hết, hộp kỹ thuật số này có nhiều mô hình liên quan để lựa chọn, bao gồm cả các mô hình mã nguồn mở Llama từ các đối tác của hãng. Theo NVIDIA, chúng đã được tối ưu hóa dựa trên phần cứng của NVIDIA. Cho dù phần cứng là máy tính xách tay chỉ có một CPU hay máy tính cấp doanh nghiệp với nhiều GPU, cả hai đều có thể được sử dụng trực tiếp.
Ngoài ra, nó còn giúp người dùng tinh chỉnh các mô hình lớn. Ví dụ, công nghệ NVIDIA NeMo Retriever được NVIDIA công bố vào tháng 11 năm 2023 được tích hợp vào toàn bộ dịch vụ vi mô và có thể giúp các doanh nghiệp kích hoạt chức năng RAG. Bên cạnh đó, nó cũng bao gồm một công cụ truy xuất Lemo để hỗ trợ truy xuất thông tin nhanh chóng, các dịch vụ vi mô về con người kỹ thuật số để giúp người dùng tạo ra con người kỹ thuật số, v.v.
Trong lĩnh vực ứng dụng y tế, NVIDIA đã ra mắt 25 dịch vụ vi mô mới dựa trên các kịch bản y tế để giúp các công ty chăm sóc sức khỏe toàn cầu nâng cao hiệu quả dựa trên trí tuệ nhân tạo tạo sinh. Các dịch vụ vi mô này bao gồm một loạt các mô hình khám phá thuốc, bao gồm MoIMIM cho hóa học tạo sinh, ESMFold để dự đoán cấu trúc protein và DiffDock giúp các nhà nghiên cứu hiểu cách các phân tử thuốc tương tác với các mục tiêu.
Các công ty trong ngành chăm sóc sức khỏe có thể sử dụng các dịch vụ vi mô này để sàng lọc hàng nghìn tỷ hợp chất thuốc, thu thập thêm dữ liệu bệnh nhân để hỗ trợ phát hiện bệnh sớm hoặc triển khai các trợ lý kỹ thuật số thông minh hơn, cùng nhiều ứng dụng khác.
NVIDIA đã đưa ra một ví dụ cho thấy các dịch vụ vi mô của NVIDIA có thể tăng tốc quá trình gọi biến thể trong quy trình phân tích bộ gen lên hơn 50 lần so với việc chạy trên CPU. Một số công ty khởi nghiệp đã xây dựng nền tảng đối thoại lâm sàng y tế dựa trên trí tuệ nhân tạo. Nền tảng này sẽ trò chuyện với bệnh nhân qua điện thoại để sắp xếp các cuộc hẹn, cuộc hẹn trước phẫu thuật, theo dõi sau khi xuất viện, v.v., điều này sẽ giúp giảm bớt đáng kể vấn đề thiếu hụt nhân viên y tế phổ biến và cải thiện kết quả điều trị cho bệnh nhân. Nó cũng giúp các bác sĩ tiết kiệm đến ba giờ.
Hiện nay, gần 50 nhà cung cấp ứng dụng trên toàn thế giới đang sử dụng các dịch vụ vi mô y tế của NVIDIA.
Omniverse - Kho hàng kỹ thuật số và Robot
Omniverse là một nền tảng thực sự thống nhất dành cho đồ họa máy tính, trí tuệ nhân tạo, điện toán công nghệ và mô phỏng vật lý, những lĩnh vực mà NVIDIA rất giỏi. Nó có thể tạo ra bản sao kỹ thuật số 1:1 của môi trường. NVIDIA đã xây dựng Isaac Lab, một ứng dụng học máy dành cho robot để huấn luyện trên trình mô phỏng Isaac của Omniverse. Với các dịch vụ điều phối điện toán mới, robot có thể được huấn luyện trong các mô phỏng dựa trên vật lý và được chuyển đổi hoàn toàn sang môi trường thực tế mà không cần huấn luyện trước.
Jensen Huang đã công bố Dự án GR00T, một mô hình cơ bản tổng quát dành cho robot hình người nhằm phát triển các robot sản xuất dựa trên Jetson Thor.
NVIDIA cũng giới thiệu một mô hình nhà kho kỹ thuật số: môi trường mô phỏng Omniverse cho một nhà kho rộng 100.000 feet vuông, tích hợp video đang chạy, robot tự hành AMR kỹ thuật số với hệ thống nhận diện Isaac và bản đồ hoạt động tập trung của toàn bộ nhà kho từ 100 camera gắn trên trần nhà được mô phỏng.
Trong video, khi lộ trình dự kiến của robot tự hành AMR bị cản trở, NVIDIA Metropolis có thể thay đổi kế hoạch đường đi trong thời gian thực. Thông qua mô hình nền tảng thị giác Metropolis dựa trên trí tuệ nhân tạo tạo sinh, người vận hành thậm chí có thể sử dụng ngôn ngữ tự nhiên để đặt câu hỏi nhằm hiểu rõ tình hình.
NVIDIA đã công bố việc tạo ra một API cho Omniverse Cloud, API này sẽ rất thân thiện với người dùng và có khả năng tích hợp trí tuệ nhân tạo. Ví dụ, nó có thể tạo ra hình ảnh 3D của môi trường mô phỏng trực tiếp từ mô tả cảnh bằng ngôn ngữ tự nhiên.
Hơn nữa, NVIDIA đã công bố hợp tác với Vision Pro, cho phép Omniverse Cloud truyền phát dữ liệu đến Vision Pro.
Nền tảng điện toán trên tàu DRIVE Thor
So với thế hệ trước DRIVE Orin, DRIVE Thor sẽ cung cấp hiệu năng buồng lái tự động phong phú hơn. Nó tích hợp kiến trúc NVIDIA Blackwell mới, được thiết kế đặc biệt cho các tác vụ Transformer, LLM và AI tạo sinh.
Sự hợp tác giữa BYD và NVIDIA trải rộng từ lĩnh vực ô tô đến điện toán đám mây. Ngoài việc xây dựng thế hệ xe điện tiếp theo trên nền tảng DRIVE Thor, BYD cũng có kế hoạch sử dụng cơ sở hạ tầng AI của NVIDIA cho việc phát triển và đào tạo công nghệ AI dựa trên đám mây. Các nhà sản xuất như GAC và XPeng cũng đã cho biết họ sẽ sử dụng nền tảng điện toán tích hợp DRIVE Thor.
Ứng dụng Truyền thông & Khí hậu - Nền tảng đám mây mô hình song sinh kỹ thuật số
Trong ngành công nghiệp viễn thông, NVIDIA đã ra mắt nền tảng đám mây nghiên cứu 6G. Dựa trên nền tảng này, các công ty viễn thông có thể mô phỏng chính xác địa hình vật lý và các công trình nhân tạo, nâng cao độ tin cậy của đường truyền không dây. Các đối tác của họ bao gồm Nokia và Samsung.
Ngoài ra, NVIDIA đã giới thiệu nền tảng đám mây mô phỏng và trực quan hóa thời tiết Earth-2. Không giống như các mô hình truyền thống dựa trên CPU, Earth-2 có thể cung cấp cho người dùng cảnh báo và dự báo cập nhật nhanh hơn nhiều, chỉ trong vài giây. Hơn nữa, hình ảnh khí hậu mà nó tạo ra có độ phân giải cao hơn 12,5 lần so với các mô hình số hiện tại, nhanh hơn 1000 lần và tiết kiệm năng lượng hơn 3000 lần, giúp khắc phục những sai sót của các dự đoán có độ phân giải thấp.
Jensen Huang cũng giới thiệu các trường hợp sử dụng thực tiễn. Ví dụ, Cục Khí tượng Trung ương Đài Loan dự định sử dụng mô hình này để dự đoán chính xác hơn vị trí đổ bộ của bão, sơ tán người dân sớm và giảm thiểu thương vong.
NVIDIA cũng thông báo rằng siêu máy tính ABCI-Q mới của Nhật Bản sẽ được hỗ trợ bởi các nền tảng tăng tốc và điện toán lượng tử của NVIDIA. Siêu máy tính này, được hỗ trợ bởi hơn 2000 GPU NVIDIA H100 trên hơn 500 nút, là nền tảng điện toán mạng có khả năng chuyển tải hoàn toàn duy nhất trên thế giới và dự kiến sẽ được triển khai vào đầu năm tới.
Trong thời đại hiện nay, khi "trí tuệ nhân tạo tạo sinh" đại diện cho tương lai, ai cũng muốn bắt kịp xu hướng. Tại hội nghị GTC 2024, hơn 10.000 người đã theo dõi bài phát biểu khai mạc trực tiếp, với hơn 900 phiên thảo luận và hàng trăm nhà triển lãm. Bên cạnh Apple, NVIDIA là một trong số ít các công ty có thể biến công nghệ thành thứ mà mọi người đều muốn tiếp cận. Phù hợp với xu hướng thời đại, trong khi NVIDIA cung cấp sức mạnh tính toán cho AI tương lai, chính họ cũng trở thành người hưởng lợi lớn nhất và được kỳ vọng sẽ trở thành công ty có giá trị thị trường cao nhất thế giới.