อีเมล:sales@hsbytechnology.com
วาปัตย์:8613480819877
Leave Your Message

GPU Blackwell B200 สำหรับ AI เชิงสร้างสรรค์ - NVIDIA GTC 2024

24 ตุลาคม 2024

ปัญญาประดิษฐ์เชิงสร้างสรรค์ (Generative AI) กำลังเป็นหัวข้อที่ร้อนแรงที่สุดในอุตสาหกรรมเทคโนโลยีในขณะนี้ โดย AI ที่เน้นโมเดลภาษาขนาดใหญ่กำลังแพร่หลายไปเกือบทุกภาคส่วน อุตสาหกรรมชิปจะเผชิญกับการเปลี่ยนแปลงแบบไหนต่อไป? ด้วยกระแสความนิยม AI ที่กำลังมาแรง บริษัทเทคโนโลยีชั้นนำต่างแข่งขันกันเพื่อแย่งชิงตลาดใหม่นี้ การจัดหาพลังการประมวลผลเพื่อตอบสนองความต้องการใหม่ๆ ของ Gen AI คือส่วนสำคัญที่สุด และนี่คือสิ่งที่ NVIDIA กำลังทำอยู่


ภายใน 15 เดือน มูลค่าตลาดของ NVIDIA พุ่งสูงขึ้นถึงหกเท่าตัว จนทะลุ 2.2 ล้านล้านดอลลาร์สหรัฐ กลายเป็นบริษัทเทคโนโลยีที่ใหญ่ที่สุดเป็นอันดับสามของโลก รองจาก Apple และ Microsoft และยังคงเติบโตอย่างต่อเนื่อง เพื่อเสริมสร้างตำแหน่งทางการตลาดในฐานะผู้จัดจำหน่ายที่ได้รับความนิยมสำหรับบริษัทปัญญาประดิษฐ์ NVIDIA ได้เปิดตัวสถาปัตยกรรม GPU Blackwell รุ่นใหม่สำหรับการประมวลผลโมเดลปัญญาประดิษฐ์ในงาน GTC 2024 นอกจากนี้ยังจะขยายห่วงโซ่อุตสาหกรรมปลายน้ำผ่าน NIM และ Omniverse ต่อไปอีกด้วย


ในสุนทรพจน์เปิดงานที่กินเวลานานสองชั่วโมง เจนเซน หวง ผู้ก่อตั้ง NVIDIA ได้แสดงให้โลกเห็นถึงกลไกใหม่ของ NVIDIA ซึ่งประกอบด้วยฮาร์ดแวร์ ซอฟต์แวร์ และบริการภายใต้สถาปัตยกรรมคอมพิวเตอร์แบบใหม่


• สถาปัตยกรรม GPU Blackwell ใหม่และชิป GB200 'Superchip' จะมอบประสิทธิภาพการฝึกฝนที่เพิ่มขึ้นถึง 4 เท่าเมื่อเทียบกับ Hopper โดยสามารถรองรับพารามิเตอร์โมเดลขนาดใหญ่ที่ระดับล้านล้านได้
• ซอฟต์แวร์ NIM ที่ล้ำสมัยช่วยให้บริษัทต่างๆ สามารถปรับแต่งโมเดลขนาดใหญ่บนแพลตฟอร์ม NVIDIA ได้ง่ายขึ้น
• Omniverse Cloud ผสานรวมการฝึกอบรมและการประยุกต์ใช้หุ่นยนต์ การขับขี่อัตโนมัติ และดิจิทัลทวินไว้ในแพลตฟอร์มเดียว
• ซอฟต์แวร์พัฒนาโมเดลแบบกำหนดเอง Nemo และ AI Factory

 

การ์ดจอ Blackwell B200 และ GB200


Blackwell ตั้งชื่อตามนักคณิตศาสตร์ เดวิด แฮโรลด์ แบล็กเวลล์ เป็นสถาปัตยกรรม GPU รุ่นใหม่ที่พัฒนาต่อยอดจากสถาปัตยกรรม Hopper โดย GB200 เป็นชิปตัวแรกที่ใช้สถาปัตยกรรม Blackwell และจะวางจำหน่ายภายในสิ้นปีนี้

 

205.jpg

 

GPU Blackwell จะมีให้เลือกทั้งแบบ GPU เดี่ยว หรือสามารถนำ GPU Blackwell สองตัวมาประกอบและจับคู่กับ CPU Grace ของ Nvidia เพื่อสร้าง Superchip รุ่น GB200 ได้


GB200 เชื่อมต่อ GPU B200 สองตัวเข้ากับ CPU Grace ผ่านการเชื่อมต่อระหว่างชิปพลังงานต่ำพิเศษ 900GB/s Nvidia กล่าวว่าระบบนี้สามารถใช้งานโมเดลที่มีพารามิเตอร์ได้ถึง 27 ล้านล้านตัว ส่วน CPT-4 นั้นมีรายงานว่ามีพารามิเตอร์ 1.7 ล้านล้านตัว


เพื่อให้ได้ประสิทธิภาพ AI ระดับสูงเป็นพิเศษ ระบบที่ติดตั้ง GB200 สามารถเชื่อมต่อกับแพลตฟอร์ม NVIDIA Quantum-X800 InfiniBand และ Spectrum-X800 Ethernet ได้ ทั้งสองแพลตฟอร์มนี้ให้เครือข่ายประสิทธิภาพสูงด้วยความเร็วสูงสุดถึง 800Gb/s


Nvidia ระบุว่า GB200 ให้ประสิทธิภาพที่ดีขึ้นถึง 30 เท่าสำหรับงานประมวลผลแบบ Inference เมื่อเทียบกับ GPU H100 รุ่นปัจจุบัน


นอกจากนี้ Nvidia ยังได้เปิดตัวชิประบายความร้อนด้วยของเหลว GB200 NVL72 อีกด้วยนำ ระบบแร็คนี้ประกอบด้วยซีพียู Grace 36 ชุด และจีพียู Blackwell 72 ชุด บน GB200 NVL72 พลังการประมวลผลแบบอนุมานสามารถสูงถึง 1440 PFLOPS และปริมาณการส่งข้อมูลสูงสุดสามารถเข้าถึง 260TB ต่อวินาที นอกจากนี้ พลังการประมวลผลการฝึกอบรมความแม่นยำ FP8 ยังสามารถสูงถึง 720 PFLOPS ซึ่งเกือบเทียบเท่ากับคลัสเตอร์ซูเปอร์คอมพิวเตอร์

 

206.jpg

 

หน่วยประมวลผลกราฟิก Blackwell GPU และชิปประมวลผล GB200 จะถูกนำมาใช้ในแพลตฟอร์มคลาวด์ NVIDIA DGX B200 เพื่อใช้ในการฝึกฝนโมเดล การปรับแต่ง และการอนุมานผลลัพธ์ แพลตฟอร์ม NVIDIA DGX ทุกรุ่นมาพร้อมกับซอฟต์แวร์ NVIDIA AI Enterprise สำหรับการพัฒนาและการใช้งานในระดับองค์กร


เจนเซน หวง กล่าวว่า Nvidia วางแผนที่จะใช้ Blackwell เพื่อเข้าสู่บริษัทปัญญาประดิษฐ์ทั่วโลกในอนาคต และลงนามในสัญญากับผู้ผลิตอุปกรณ์ดั้งเดิม (OEM) ทุกราย ผู้ให้บริการคลาวด์ระดับภูมิภาค โครงการปัญญาประดิษฐ์ระดับชาติ และบริษัทโทรคมนาคมต่างๆ


บริษัทต่างๆ เช่น Amazon, Dell, Google, Meta, Microsoft, OpenAI และ Tesla ต่างวางแผนที่จะใช้ GPU ของ Blackwell


NIM (Nvidia Inference Microservice)


หากองค์กรต้องการใช้โมเดลขนาดใหญ่ มักจะต้องมีการปรับแต่งอย่างละเอียดและการใช้งานแบบเฉพาะเจาะจงเพื่อช่วยสนับสนุนธุรกิจของตน ในงานประชุมครั้งนี้ Nvidia ได้เปิดตัวบริการปรับแต่งโมเดล NIM (Nvidia Inference Microservice)


ก่อนอื่นเลย กล่องดิจิทัลนี้มีโมเดลที่เกี่ยวข้องให้เลือกมากมาย รวมถึงโมเดลโอเพนซอร์สอย่าง Llama จากพันธมิตรของ NVIDIA ด้วย ตามที่ NVIDIA ระบุ โมเดลเหล่านี้ได้รับการปรับแต่งให้เหมาะสมกับฮาร์ดแวร์ของ NVIDIA ไม่ว่าจะเป็นแล็ปท็อปที่มี CPU เพียงตัวเดียว หรือฮาร์ดแวร์ระดับบริษัทที่มี GPU หลายตัว ก็สามารถใช้งานได้โดยตรง

 

207.jpg

 

นอกจากนี้ ยังช่วยให้ผู้ใช้ปรับแต่งโมเดลขนาดใหญ่ได้อย่างละเอียด ตัวอย่างเช่น เทคโนโลยี NVIDIA NeMo Retriever ที่ NVIDIA ประกาศในเดือนพฤศจิกายน 2023 ได้ถูกรวมเข้ากับไมโครเซอร์วิสทั้งหมด และสามารถช่วยให้องค์กรต่างๆ เปิดใช้งานฟังก์ชัน RAG ได้ นอกจากนี้ยังรวมถึง Lemo retriever เพื่อช่วยในการเรียกค้นข้อมูลอย่างรวดเร็ว ไมโครเซอร์วิสสำหรับมนุษย์ดิจิทัลเพื่อช่วยผู้ใช้สร้างมนุษย์ดิจิทัล และอื่นๆ อีกมากมาย


ในด้านการประยุกต์ใช้ทางการแพทย์ NVIDIA ได้เปิดตัวไมโครเซอร์วิสใหม่ 25 รายการโดยอิงจากสถานการณ์ทางการแพทย์ เพื่อช่วยให้บริษัทด้านการดูแลสุขภาพทั่วโลกปรับปรุงประสิทธิภาพโดยใช้ AI แบบสร้างสรรค์ ไมโครเซอร์วิสเหล่านี้ประกอบด้วยโมเดลการค้นพบยาหลากหลายประเภท รวมถึง MoIMIM สำหรับเคมีเชิงสร้างสรรค์ ESMFold สำหรับการทำนายโครงสร้างโปรตีน และ DiffDock เพื่อช่วยให้นักวิจัยเข้าใจว่าโมเลกุลยาทำปฏิกิริยากับเป้าหมายอย่างไร

 

208.jpg

 

บริษัทในอุตสาหกรรมการดูแลสุขภาพสามารถใช้ไมโครเซอร์วิสเหล่านี้ในการคัดกรองสารประกอบยาหลายล้านล้านรายการ รวบรวมข้อมูลผู้ป่วยเพิ่มเติมเพื่อช่วยในการตรวจหาโรคในระยะเริ่มต้น หรือนำผู้ช่วยดิจิทัลอัจฉริยะมาใช้ และอื่นๆ อีกมากมาย


NVIDIA ยกตัวอย่างว่า ไมโครเซอร์วิสของ NVIDIA สามารถเร่งความเร็วในการระบุความแปรผันในกระบวนการวิเคราะห์จีโนมได้มากกว่า 50 เท่า เมื่อเทียบกับการทำงานบน CPU นอกจากนี้ สตาร์ทอัพบางแห่งได้สร้างแพลตฟอร์มการสนทนาทางคลินิกทางการแพทย์ที่ขับเคลื่อนด้วยปัญญาประดิษฐ์ แพลตฟอร์มนี้จะสนทนากับผู้ป่วยทางโทรศัพท์เพื่อจัดการนัดหมาย การนัดหมายก่อนการผ่าตัด การติดตามผลหลังการจำหน่ายผู้ป่วย ฯลฯ ซึ่งจะช่วยบรรเทาปัญหาการขาดแคลนบุคลากรอย่างแพร่หลายและปรับปรุงผลลัพธ์การรักษาผู้ป่วยได้อย่างมาก และยังช่วยประหยัดเวลาของแพทย์ได้ถึงสามชั่วโมงอีกด้วย


ปัจจุบัน ผู้ให้บริการแอปพลิเคชันเกือบ 50 รายทั่วโลกกำลังใช้งานไมโครเซอร์วิสทางการแพทย์ของ NVIDIA


ออมนิเวิร์ส - คลังสินค้าดิจิทัลและหุ่นยนต์


Omniverse เป็นแพลตฟอร์มที่รวมทุกอย่างไว้ในที่เดียวอย่างแท้จริง สำหรับกราฟิกคอมพิวเตอร์ ปัญญาประดิษฐ์ การประมวลผลทางเทคโนโลยี และการจำลองทางกายภาพ ซึ่งเป็นสิ่งที่ NVIDIA เชี่ยวชาญ สามารถสร้างแบบจำลองดิจิทัลทวินแบบ 1:1 ของสภาพแวดล้อมได้ NVIDIA ได้สร้าง Isaac Lab ซึ่งเป็นแอปพลิเคชันการเรียนรู้ของหุ่นยนต์สำหรับการฝึกฝนบนโปรแกรมจำลอง Isaac ของ Omniverse ด้วยบริการการจัดการการประมวลผลแบบใหม่ หุ่นยนต์สามารถได้รับการฝึกฝนในการจำลองทางฟิสิกส์และย้ายไปยังสภาพแวดล้อมจริงได้ทันทีโดยไม่ต้องมีการเริ่มต้นใดๆ


เจนเซน หวง ประกาศโครงการ GR00T ซึ่งเป็นแบบจำลองพื้นฐานทั่วไปสำหรับหุ่นยนต์ฮิวมานอยด์ เพื่อพัฒนาหุ่นยนต์สำหรับการผลิตโดยอิงจาก Jetson Thor

 

201.jpg

 

นอกจากนี้ NVIDIA ยังได้จัดแสดงตัวอย่างคลังสินค้าดิจิทัล: สภาพแวดล้อมจำลอง Omniverse สำหรับคลังสินค้าขนาด 100,000 ตารางฟุต ซึ่งผสานรวมวิดีโอการทำงาน หุ่นยนต์ AMR ดิจิทัลที่ทำงานร่วมกับชุดประมวลผลการรับรู้ Isaac และแผนที่กิจกรรมส่วนกลางของคลังสินค้าทั้งหมดจากกล้องจำลองที่ติดตั้งบนเพดานจำนวน 100 ตัว

 

202.jpg

 

ในวิดีโอ เมื่อเส้นทางที่วางแผนไว้ของหุ่นยนต์ AMR ที่ทำงานแบบดิจิทัลถูกกีดขวาง NVIDIA Metropolis สามารถเปลี่ยนแปลงการวางแผนเส้นทางได้แบบเรียลไทม์ ด้วยแบบจำลองพื้นฐานการมองเห็นของ Metropolis ที่ใช้ AI ผู้ควบคุมยังสามารถใช้ภาษาธรรมชาติในการตั้งคำถามเพื่อทำความเข้าใจสถานการณ์ได้อีกด้วย


NVIDIA ประกาศสร้าง API สำหรับ Omniverse Cloud ซึ่งจะใช้งานง่ายและรองรับ AI ได้เป็นอย่างดี ตัวอย่างเช่น สามารถสร้างภาพ 3 มิติของสภาพแวดล้อมจำลองได้โดยตรงจากคำอธิบายฉากด้วยภาษาธรรมชาติ


นอกจากนี้ NVIDIA ยังประกาศความร่วมมือกับ Vision Pro ซึ่งจะช่วยให้ Omniverse Cloud สามารถสตรีมไปยัง Vision Pro ได้


แพลตฟอร์มการประมวลผลบนรถยนต์ DRIVE Thor


เมื่อเทียบกับ DRIVE Orin รุ่นก่อนหน้า DRIVE Thor จะมอบประสิทธิภาพการทำงานในห้องโดยสารอัตโนมัติที่ครบครันยิ่งขึ้น โดยได้รวมเอาสถาปัตยกรรม NVIDIA Blackwell ใหม่ล่าสุด ซึ่งออกแบบมาโดยเฉพาะสำหรับงานประมวลผล Transformer, LLM และ AI เชิงสร้างสรรค์

 

203.jpg

 

ความร่วมมือระหว่าง BYD และ NVIDIA ขยายขอบเขตจากรถยนต์ไปสู่ระบบคลาวด์ นอกจากการสร้างกลุ่มรถยนต์ไฟฟ้ารุ่นใหม่บนแพลตฟอร์ม DRIVE Thor แล้ว BYD ยังวางแผนที่จะใช้โครงสร้างพื้นฐาน AI ของ NVIDIA สำหรับการพัฒนาและฝึกอบรมเทคโนโลยี AI บนระบบคลาวด์อีกด้วย ผู้ผลิตรถยนต์อย่าง GAC และ XPeng ก็ได้แสดงเจตจำนงที่จะใช้แพลตฟอร์มการประมวลผลบนรถยนต์ DRIVE Thor เช่นกัน


การสื่อสารและแอปพลิเคชันด้านสภาพภูมิอากาศ - แพลตฟอร์มคลาวด์ดิจิทัลทวิน


ในอุตสาหกรรมการสื่อสาร NVIDIA ได้เปิดตัวแพลตฟอร์มคลาวด์สำหรับการวิจัย 6G แพลตฟอร์มนี้ช่วยให้บริษัทด้านการสื่อสารสามารถจำลองภูมิประเทศและสิ่งก่อสร้างต่างๆ ได้อย่างแม่นยำ ส่งผลให้ความน่าเชื่อถือของการส่งสัญญาณไร้สายเพิ่มขึ้น พันธมิตรของ NVIDIA ได้แก่ Nokia และ Samsung


นอกจากนี้ NVIDIA ยังได้เปิดตัวแพลตฟอร์มคลาวด์ดิจิทัลจำลองสภาพอากาศ Earth-2 สำหรับจำลองและแสดงภาพสภาพอากาศ แตกต่างจากการจำลองแบบเดิมที่ใช้ CPU Earth-2 สามารถให้คำเตือนและพยากรณ์อากาศที่อัปเดตแก่ผู้ใช้ได้เร็วกว่ามาก ในเวลาเพียงไม่กี่วินาที ยิ่งไปกว่านั้น ภาพสภาพอากาศที่สร้างขึ้นมีความละเอียดสูงกว่าแบบจำลองเชิงตัวเลขในปัจจุบันถึง 12.5 เท่า เร็วกว่า 1,000 เท่า และประหยัดพลังงานมากกว่า 3,000 เท่า ช่วยแก้ไขความไม่แม่นยำของการพยากรณ์ที่มีความละเอียดต่ำ

 

204.jpg

 

นอกจากนี้ เจนเซน หวง ยังได้แนะนำกรณีการใช้งานจริง ตัวอย่างเช่น สำนักงานอุตุนิยมวิทยากลางของไต้หวันวางแผนที่จะใช้แบบจำลองนี้เพื่อพยากรณ์ตำแหน่งที่พายุไต้ฝุ่นขึ้นฝั่งได้อย่างแม่นยำยิ่งขึ้น เพื่ออพยพผู้คนได้เร็วขึ้น และลดจำนวนผู้เสียชีวิต


NVIDIA ยังประกาศด้วยว่าซูเปอร์คอมพิวเตอร์ ABCI-Q รุ่นใหม่ของญี่ปุ่นจะได้รับการสนับสนุนจากแพลตฟอร์มการเร่งความเร็วและการประมวลผลควอนตัมของ NVIDIA ซูเปอร์คอมพิวเตอร์เครื่องนี้ได้รับการสนับสนุนจาก GPU NVIDIA H100 มากกว่า 2,000 ตัว กระจายอยู่ทั่วกว่า 500 โหนด และเป็นแพลตฟอร์มการประมวลผลแบบออฟโหลดในเครือข่ายเพียงแห่งเดียวในโลก และคาดว่าจะเริ่มใช้งานได้ในช่วงต้นปีหน้า


ในยุคปัจจุบันที่ 'ปัญญาประดิษฐ์เชิงสร้างสรรค์' (Generative AI) คืออนาคต ทุกคนต่างต้องการตามให้ทันกระแส ในงานประชุม GTC ปี 2024 มีผู้รับชมการบรรยายหลักสดกว่า 10,000 คน มีการจัดเซสชั่นกว่า 900 เซสชั่น และผู้จัดแสดงสินค้ากว่าร้อยราย นอกจาก Apple แล้ว NVIDIA เป็นหนึ่งในไม่กี่บริษัทที่สามารถเปลี่ยนเทคโนโลยีให้กลายเป็นสิ่งที่ทุกคนต้องการเข้าถึงได้ สอดคล้องกับกระแสของยุคสมัย ในขณะที่ NVIDIA มอบพลังการประมวลผลสำหรับ AI ในอนาคต บริษัทก็กลายเป็นผู้ได้รับประโยชน์มากที่สุด และคาดว่าจะกลายเป็นบริษัทที่มีมูลค่าตลาดสูงสุดในโลก