Article by Nongkoo OverclockTeam On June 3, 2023 203 views
NVIDIA CEO Jensen Huang เปิดตัวแพลตฟอร์ม Generative AI สําหรับทุกอุตสาหกรรม

NVIDIA CEO เปิดตัวแพลตฟอร์ม Generative AI สําหรับทุกอุตสําหกรรม

grace-hopper-superchip-1-e1670969676880

คีย์โน้ตในงาน COMPUTEX แสดงให้เห็นถึงระบบซอฟต์แวร์ และบริการใหม่ ๆ ซึ่งหลายอย่างขับเคลื่อนโดย Grace Hopper Superchips เพื่อควบคุมเทคโนโลยีที่มีการเปลี่ยนแปลงมากที่สุดในยุคของเรา

การปราศรัยต่อหน้าผู้คนเป็นครั้งแรกของเขานับตั้งแต่เกิดโรคระบาด Jensen Huang ผู้ก่อตั้งและซีอีโอของ NVIDIA ได้เริ่มการประชุมในงาน COMPUTEX ที่ไทเป โดยประกาศแพลตฟอร์มที่บริษัทต่าง ๆ สามารถใช้ขับเคลื่อนประวัติศาสตร์หน้าใหม่ของ Generative AI ซึ่งเปลี่ยนอุตสาหกรรมตั้งแต่การโฆษณาไปจนถึงการผลิต รวมถึงโทรคมนาคม เขาได้อธิบายถึงบริการคอมพิวเตอร์แบบเร่งความเร็ว ซอฟต์แวร์และระบบที่เปิดใช้งานโมเดลธุรกิจใหม่และทาให้โมเดลปัจจุบันมีประสิทธิภาพมากขึ้น

- Grace Hopper ขับเคลื่อนซูเปอร์คอมพิวเตอร์หน่วยความจาขนาดใหญ่สาหรับ Generative AI

- สถาปัตยกรรมอ้างอิงแบบแยกส่วนทาให้สามารถกาหนดค่าเซิร์ฟเวอร์แบบเร่งความเร็วได้มากกว่า 100 รายการ

- WPP และ NVIDIA ร่วมสร้าง Content Engine สาหรับโฆษณาดิจิทัลใน Omniverse

- เทคโนโลยีเครือข่ายที่ช่วยเร่งระบบ AI Cloud บนอีเทอร์เน็ต

- NVIDIA ACE for Games มอบชีวิตให้กับตัวละครด้วย Generative AI

- ผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ทั่วโลกยอมรับ NVIDIA AI

nvidia-grace-hopper-superchip

ขุมพลังใหม่สําหรับ Enterprise AI

ตอนนี้ Grace Hopper อยู่ในขั้นตอนการผลิตเต็มรูปแบบแล้ว Huang ประกาศการผสานรวม CPU NVIDIA Grace ที่ประหยัดพลังงานเข้ากับ GPU NVIDIA H100 Tensor Core ประสิทธิภาพสูงไว้ในโมดูลเดียว

สาหรับองค์กรที่ต้องการประสิทธิภาพสูงสุดของ AI เขาได้เปิดตัว DGX GH200 ซึ่งเป็น AI ซูเปอร์คอมพิวเตอร์ที่มีหน่วยความจาขนาดใหญ่ ใช้ NVIDIA NVLink เพื่อรวมชิป NVIDIA GH200 Grace Hopper สูงสุด 256 ตัวไว้ในศูนย์ข้อมูลเดี่ยว เพื่อประมวลผลเหมือนเป็น GPU เดียวกัน

DGX GH200 อัดแน่นไปด้วยประสิทธิภาพที่เหนือกว่าและมีหน่วยความจาที่ใช้ร่วมกัน 144 เทราไบต์ ซึ่งมากกว่าในระบบ NVIDIA DGX A100 ที่มีหน่วยความจา 320GB เกือบ 500 เท่าซึ่งช่วยให้นักพัฒนาสร้างโมเดลภาษาขนาดใหญ่สาหรับแชทบอท , Generative AI, อัลกอริทึมที่ซับซ้อนสาหรับระบบผู้แนะนา และโครงข่ายประสาทเทียมแบบกราฟที่ใช้สาหรับการตรวจจับการฉ้อโกง และการวิเคราะห์ข้อมูล Google Cloud, Meta และ Microsoft เป็นกลุ่มแรก ๆ ที่คาดว่าจะได้รับสิทธิ์เข้าถึง DGX GH200 เพื่อสารวจขีดความสามารถสาหรับเวิร์กโหลด AI เชิงสร้างสรรค์

“ซูเปอร์คอมพิวเตอร์ DGX GH200 AI ผสานรวมเทคโนโลยีคอมพิวเตอร์และเครือข่ายเร่งความเร็วขั้นสูงที่สุดของ NVIDIA เพื่อขยายขอบเขตของ AI ” Huang กล่าว

NVIDIA กำลังสร้างซูเปอร์คอมพิวเตอร์ AI ขนาดใหญ่ของตัวเองอย่าง NVIDIA Helios ซึ่งจะเปิดตัวในปีนี้ โดยจะใช้ระบบ DGX GH200 สี่ระบบที่เชื่อมโยงกับเครือข่าย NVIDIA  Quantum-2 InfiniBand ที่มีแบนด์วิธสูงสุด 400Gb/s เพื่อเร่งความเร็วข้อมูลสาหรับการฝึกอบรมโมเดล AI ขนาดใหญ่

DGX GH200 สร้างจุดสุดยอดของระบบหลายร้อยระบบที่ประกาศในงานโดยใช้ GPU และ CPU ล่าสุดของ NVIDIA พวกเขาร่วมกันนา AI กาเนิดและเร่งการประมวลผลมาสู่ผู้ใช้หลายล้านคน เมื่อมองไปยังภาพรวม Huang ประกาศว่าการระบบมากกว่า 400 รายการที่มีการตั้งค่าการทางานที่ต่างกัน กาลังจะออกสู่ตลาดด้วยสถาปัตยกรรม NVIDIA Hopper, Grace และ Ada Lovelace พวกเขาตั้งเป้าที่จะรับมือกับความท้าทายที่ซับซ้อนที่สุดในด้าน AI

nvidia-grace-ref-design-hgx-hpc-ai-inference-3c33-d

วิทยาศาสตร์ข้อมูล และการประมวลผลประสิทธิภาพสูง

เร่งควํามเร็วเวิร์คโหลดทุกขนําดเพื่อให้เหมาะกับความต้องการของศูนย์ข้อมูลทุกขนาด Huang ได้ประกาศ NVIDIA MGXซึ่งเป็นสถาปัตยกรรมอ้างอิงแบบแยกส่วนสาหรับการสร้างเซิร์ฟเวอร์เร่งความเร็วผู้ผลิตระบบจะใช้มันเพื่อเป็นต้นแบบในการกาหนดค่าเซิร์ฟเวอร์ที่แตกต่างกันกว่าร้อยรายการอย่างรวดเร็วและคุ้มค่าเพื่อให้เหมาะกับแอปพลิเคชัน AI, HPC และ NVIDIA Omniverse ที่หลากหลาย

MGX ช่วยให้ผู้ผลิตสร้าง CPU

และเซิร์ฟเวอร์เร่งความเร็วโดยใช้สถาปัตยกรรมทั่วไปและส่วนประกอบแบบโมดูลาร์ รองรับ GPU, CPU , หน่วยประมวลผลข้อมูล (DPU) และอะแดปเตอร์เครือข่ายของ NVIDIA รวมถึงโปรเซสเซอร์ x86 และ Arm ในแชสซีระบายความร้อนด้วยอากาศและระบายความร้อนด้วยของเหลวที่หลากหลาย QCT และ Supermicro จะเป็นเจ้าแรกในตลาดที่มีการออกแบบ MGXซึ่งจะพร้อมใช้ในราวเดือนสิงหาคม ระบบ ARS -221GL-NR ของ Supermicro ที่ประกาศในงาน COMPUTEX จะใช้ Grace CPU ในขณะที่ระบบ S74G-2U ของ QCT ที่ประกาศในงานนี้เช่นกันจะใช้ Grace Hopper ASRock Rack, ASUS, GIGABYTE และ Pegatron จะใช้ MGX เพื่อสร้างคอมพิวเตอร์เร่งความเร็วรุ่นต่อไป

2023-06-03_12-30-39

5G ต้องกําร Grace Hopper

คีย์โน้ตของเขายังแสดงให้เห็นว่า NVIDIA ช่วยพลิกโฉมหน้าใหม่ให้กับ 5G ด้วย Grace Hopper ได้อย่างไร Huang ประกาศว่า NVIDIA กำลังทางานร่วมกับยักษ์ใหญ่ด้านโทรคมนาคมเพื่อสร้างเครือข่ายกระจายศูนย์ข้อมูลในญี่ปุ่นโดยจะให้บริการ 5G และแอปพลิเคชัน Generative AI บนแพลตฟอร์มคลาวด์ทั่วไป ศูนย์ข้อมูลจะใช้ Grace Hopper และ NVIDIA BlueField-3 DPU ในระบบ MGX แบบโมดูลาร์ เช่นเดียวกับสวิตช์ NVIDIA Spectrum Ethernet เพื่อส่งมอบจังหวะเวลาที่แม่นยาสูงตามที่โปรโตคอล 5G ต้องการ แพลตฟอร์มดังกล่าวจะลดต้นทุนโดยการเพิ่มประสิทธิภาพสเปกตรัมในขณะที่ลดการใช้พลังงานระบบจะช่วยสารวจแอปพลิเคชันในการขับขี่อัตโนมัติ , โรงงาน , AI , AR&VR , คอมพิวเตอร์วิทัศน์ และฝาแฝดดิจิทัล การใช้งานในอนาคตอาจรวมถึงการประชุมทางวิดีโอ 3มิติและการสื่อสารแบบโฮโลแกรม

ติดเทอร์โบชําร์จเครือข่ํายคลําวด์

นอกจากนี้ Huang ยังเปิดตัว NVIDIA Spectrum-X ซึ่งเป็นแพลตฟอร์มเครือข่ายที่สร้างขึ้นเพื่อปรับปรุงประสิทธิภาพและประสิทธิผลของ AI Cloud บนอีเทอร์เน็ต มันรวมสวิตช์อีเธอร์เน็ต Spectrum-4 เข้ากับ BlueField-3 DPU และซอฟต์แวร์เพื่อมอบประสิทธิภาพ AI และประสิทธิภาพพลังงานที่เพิ่มขึ้น 1.7เท่าเมื่อเทียบกับแฟบริคอีเทอร์เน็ตแบบดั้งเดิมสวิตช์ NVIDIA Spectrum-X, Spectrum-4 และ BlueField-3 DPU มีวางจาหน่ายแล้วจากผู้ผลิตระบบ เช่น Dell Technologies, Lenovo และ Supermicro

Huang ประกาศว่า NVIDIA ก าลังสร้าง Israel-1 ซึ่งเป็น Generative AI ซูเปอร์คอมพิวเตอร์ในศูนย์ข้อมูลของอิสราเอลมูลค่าหลายร้อยล้านดอลลาร์ ซึ่งจะถูกสร้างด้วยเซิร์ฟเวอร์ Dell PowerEdge , แพลตฟอร์มซูเปอร์คอมพิวเตอร์ NVIDIA HGX H100 และแพลตฟอร์ม Spectrum-X พร้อม BlueField-3 DPU และสวิตช์ Spectrum-4 ให้ชีวิตกับตัวละครในเกม และ Generative AI ส่งผลกระทบต่อวิธีการเล่นของผู้คนเช่นกัน

Huang ประกาศ NVIDIA Avatar Cloud Engine (ACE) สาหรับเกมซึ่งเป็นบริการที่นักพัฒนาสามารถใช้เพื่อสร้างและปรับใช้โมเดล AI แบบกาหนดเองสาหรับคาพูด การสนทนา และภาพเคลื่อนไหว มันจะให้ทักษะการสนทนากับตัวละครที่ไม่สามารถเล่นได้ (NPC) ดังนั้นพวกเขาจึงสามารถตอบคาถามด้วยบุคลิกที่เหมือนจริงตามที่พัฒนาขึ้น NVIDIA ACE for Games มีโมเดลพื้นฐานของ AI เช่น NVIDIA Riva เพื่อตรวจจับและถอดเสียงคาพูดของผู้เล่น , NVIDIA NeMo สร้างการตอบสนองแบบกาหนดเองที่เคลื่อนไหวด้วย NVIDIA Omniverse Audio2Face

2023-06-03_12-30-48

เร่ง Generative AI บน Windows

Huang อธิบายว่า NVIDIA และ Microsoft ทางานร่วมกันเพื่อขับเคลื่อนนวัตกรรมสาหรับพีซีที่ใช้ Windows ในยุค Generative AI ได้อย่างไร เครื่องมือ เฟรมเวิร์ก และไดรเวอร์ใหม่ที่ได้รับการปรับปรุงช่วยให้นักพัฒนาบนแพลตฟอร์มพีซีสามารถพัฒนาและปรับใช้ AI ได้ง่ายขึ้น ตัวอย่างเช่น Microsoft Olive toolchain

สาหรับการเพิ่มประสิทธิภาพและการปรับใช้โมเดล AI ที่เร่งด้วย GPU และไดรเวอร์กราฟิกใหม่จะเพิ่มประสิทธิภาพ DirectML บนพีซีที่ใช้ Windows ด้วย NVIDIA GPU การทางานร่วมกันจะปรับปรุงและขยายฐานการติดตั้งพีซี 100 ล้านเครื่องที่ใช้ GPU RTX พร้อม Tensor Cores ที่เพิ่มประสิทธิภาพของแอปและเกมบน Windows ที่เร่งความเร็วด้วย AI มากกว่า 400 รายการ

แปลงอุตสําหกรรมที่ใหญ่ที่สุดในโลกให้เป็นดิจิทัล

Generative AI ยังสร้างโอกาสใหม่ในอุตสาหกรรมโฆษณาดิจิทัลมูลค่า 700,000 ล้านดอลลาร์ ตัวอย่างเช่น WPP ซึ่งเป็นองค์กรบริการด้านการตลาดที่ใหญ่ที่สุดในโลก กาลังทางานร่วมกับ NVIDIA เพื่อสร้างเครื่องมือสร้างเนื้อหาที่เปิดใช้งาน AI เป็นครั้งแรกบน Omniverse Cloud ในการสาธิต Huang แสดงให้เห็นว่าทีมครีเอทีฟจะเชื่อมต่อเครื่องมือออกแบบ 3 มิติ เช่น Adobe Substance 3D เพื่อสร้างผลิตภัณฑ์ไคลเอนต์ฝาแฝดดิจิทัลใน NVIDIA Omniverse ได้อย่างไร จากนั้น เนื้อหาจากเครื่องมือสร้าง AI ที่ได้รับการฝึกอบรมเกี่ยวกับข้อมูลที่มาจากความรับผิดชอบและสร้างด้วย NVIDIA Picasso จะช่วยให้พวกเขาสร้างชุดเสมือนจริงได้อย่างรวดเร็ว จากนั้นลูกค้าของ WPP สามารถใช้ฉากที่สมบูรณ์เพื่อสร้างโฮสต์ของโฆษณา วิดีโอ และประสบการณ์ 3 มิติ สาหรับตลาดทั่วโลกและให้ผู้ใช้ได้สัมผัสบนอุปกรณ์ใด ๆ ที่เข้าสู่เว็บไซต์ได้

grace-hopper-overview

โรงงํานสร้ํางอนําคตของ AI

ด้วยโรงงานประมาณ 10 ล้านแห่ง ภาคการผลิตมูลค่า 46 ล้านล้านดอลลาร์จึงเป็นสาขาที่อุดมสมบูรณ์สาหรับอุตสาหกรรมดิจิทัล“อุตสาหกรรมที่ใหญ่ที่สุดในโลกสร้างสิ่งที่จับต้องได้ การสร้างแบบดิจิทัลก่อนสามารถช่วยประหยัดได้หลายพันล้าน ” Huang กล่าว

คีย์โน้ตของเขาแสดงให้เห็นว่าผู้ผลิตอุปกรณ์อิเล็กทรอนิกส์ เช่น Foxconn Industrial Internet,Innodisk, Pegatron, Quanta และ Wistron กำลังจาลองเวิร์กโฟลว์ดิจิทัลด้วยเทคโนโลยี NVIDIA เพื่อบรรลุวิสัยทัศน์ของโรงงานดิจิทัลอัจฉริยะทั้งหมดพวกเขากาลังใช้ Omniverse และ Generative AI APIเพื่อเชื่อมต่อเครื่องมือการออกแบบและการผลิต เพื่อให้สามารถสร้างโรงงานฝาแฝดดิจิทัลได้ นอกจากนี้ยังใช้ NVIDIA Isaac Sim สาหรับการจาลองและทดสอบหุ่นยนต์ และ NVIDIA Metropolis ซึ่งเป็นเฟรมเวิร์ก AI สาหรับการมองเห็นสาหรับการตรวจสอบด้วยแสงอัตโนมัติ ส่วนประกอบล่าสุด NVIDIA Metropolis for Factory สามารถสร้างระบบควบคุมคุณภาพแบบกาหนดเองได้ ทาให้ผู้ผลิตมีความได้เปรียบในการแข่งขัน ช่วยให้บริษัทต่าง ๆ พัฒนาแอปพลิเคชัน AI ที่ล ้าสมัย

AI เร่งสํายกํารผลิต

ตัวอย่างเช่น Pegatron ซึ่งผลิตสินค้ากว่า 300 รายการทั่วโลก รวมถึงแล็ปท็อปและสมาร์ทโฟน กำลังสร้างโรงงานเสมือนจริงด้วย Omniverse, Isaac Sim และ Metropolis ที่ช่วยให้สามารถทดลองกระบวนการต่าง ๆ ในสภาพแวดล้อมจาลอง ประหยัดเวลาและค่าใช้จ่าย

นอกจากนี้ Pegatron ยังใช้ชุดพัฒนาซอฟต์แวร์ NVIDIA DeepStream เพื่อพัฒนาแอปพลิเคชันวิดีโออัจฉริยะที่นาไปสู่การปรับปรุงปริมาณงานถึง 10 เท่า Foxconn Industrial Internet ซึ่งเป็นหน่วยงานบริการของผู้ผลิตเทคโนโลยีรายใหญ่ที่สุดของโลก ก าลังทางานร่วมกับพันธมิตรด้วย NVIDIA Metropolis เพื่อทาให้ส่วนสาคัญของจุดตรวจสอบการรับประกันคุณภาพของแผงวงจรเป็นแบบอัตโนมัติในวิดีโอ Huang แสดงให้เห็นว่า Techman Robot ซึ่งเป็นบริษัทในเครือ Quanta ใช้ NVIDIA Isaac Sim เพื่อเพิ่มประสิทธิภาพการตรวจสอบสายการผลิตของบริษัทยักษ์ใหญ่ในไต้หวันได้อย่างไร โดยพื้นฐานแล้ว มีการใช้หุ่นยนต์จาลองเพื่อฝึกหุ่นยนต์ให้เรียนรู้ในการสร้างหุ่นยนต์ที่ดีขึ้น ระบบนิเวศของพันธมิตรขนาดใหญ่ — รวมถึง ADLINK, Aetina, Deloitte, Quantiphi และ Siemens กาลังช่วยนาโซลูชันการผลิตเหล่านี้ออกสู่ตลาด Huang กล่าว เป็นอีกตัวอย่างหนึ่งของวิธีที่ NVIDIA ช่วยให้บริษัทต่าง ๆ รู้สึกถึงประโยชน์ของ Generative AI ด้วยการประมวลผลแบบเร่งความเร็ว