NVIDIA เปิดตัวแพลตฟอร์ม Grace Hopper Superchip รุ่นถัดไป GH200 สำหรับยุคของการประมวลผลแบบเร่งความเร็วและ Generative AI

แพลตฟอร์ม NVIDIA GH200 Grace Hopper เจนเนอเรชั่นถัดไป ที่ใช้ Grace Hopper Superchip ใหม่พร้อมโปรเซสเซอร์ HBM3e ตัวแรกของโลก สร้างขึ้นสำหรับยุคของการประมวลผลแบบเร่งความเร็วและ AI กำเนิด

สร้างขึ้นเพื่อจัดการกับเวิร์กโหลด Generative AI ที่ซับซ้อนที่สุดในโลก ซึ่งครอบคลุมโมเดลภาษาขนาดใหญ่ ระบบผู้แนะนำ และฐานข้อมูลเวกเตอร์ แพลตฟอร์มใหม่นี้จะพร้อมใช้งานในการกำหนดค่าที่หลากหลาย

การกำหนดค่าแบบคู่ — ซึ่งให้ความจุหน่วยความจำเพิ่มขึ้นสูงสุด 3.5 เท่า และแบนด์วิดท์มากกว่ารุ่นปัจจุบันถึง 3 เท่า — ประกอบด้วยเซิร์ฟเวอร์เดี่ยวที่มี 144 Arm Neoverse cores, ประสิทธิภาพ AI 8 petaflops และมีหน่วยความจำ 282GB ที่ใช้เทคโนโลยีหน่วยความจำ HBM3e ล่าสุด

NVIDIA AI Workbench เร่งการใช้ Generative AI แบบกำหนดเองมาใช้สำหรับองค์กรต่าง ๆ ทั่วโลก

พื้นที่ทำงานที่รวมเป็นหนึ่งเดียวและใช้งานง่ายช่วยให้นักพัฒนาสามารถสร้าง ทดสอบ และปรับแต่งโมเดล AI เจนเนอเรทีฟที่ได้รับการฝึกล่วงหน้าได้อย่างรวดเร็วบนพีซีหรือเวิร์กสเตชัน จากนั้นปรับขนาดให้เป็นศูนย์ข้อมูล คลาวด์สาธารณะ หรือ NVIDIA DGX Cloud

AI Workbench ขจัดความซับซ้อนในการเริ่มต้นโครงการ AI ขององค์กร เข้าถึงได้โดยผ่านอินเทอร์เฟซที่เรียบง่ายซึ่งทำงานบนระบบเครือข่ายภายใน ช่วยให้นักพัฒนาสามารถปรับแต่งโมเดลจากแหล่งข้อมูลยอดนิยม เช่น Hugging Face, GitHub และ NVIDIA NGC โดยใช้ข้อมูลที่กำหนดเอง ซึ่งสามารถแชร์ข้ามแพลตฟอร์มต่าง ๆ ได้อย่างง่ายดาย

NVIDIA และ Hugging Face เชื่อมต่อนักพัฒนาหลายล้านคนเข้ากับ Generative AI Supercomputing

NVIDIA และ Hugging Face ร่วมมือกันเพื่อนำซูเปอร์คอมพิวติ้ง AI เจนเนอเรทีฟมาไว้ที่ปลายนิ้วของนักพัฒนาหลายล้านคนที่สร้างโมเดลภาษาขนาดใหญ่ (LLM) และแอปพลิเคชัน AI ขั้นสูงอื่นๆ

โดยให้นักพัฒนาเข้าถึง NVIDIA DGX Cloud ซูเปอร์คอมพิวติ้ง AI ภายในแพลตฟอร์ม Hugging Face เพื่อฝึกและปรับแต่งโมเดล AI ขั้นสูง การรวมกันนี้จะช่วยผลักดันการยอมรับ Generative AI ของอุตสาหกรรมโดยใช้ LLM ที่ได้รับการปรับแต่งแบบกำหนดเองด้วยข้อมูลทางธุรกิจสำหรับแอปพลิเคชันเฉพาะอุตสาหกรรม รวมถึงแชทบอทอัจฉริยะ การค้นหา และการสรุป