Article by Nongkoo OverclockTeam On October 5, 2023 307 views
6Estates ผู้ให้บริการโซลูชัน AI ระดับองค์กรในสิงคโปร์ทำการติดตั้ง NVIDIA DGX BasePOD ครั้งแรกกับระบบ NVIDIA DGX H100 ในเอเชียตะวันออกเฉียงใต้

6Estates ผู้ให้บริการโซลูชัน AI ระดับองค์กรในสิงคโปร์ทำการติดตั้ง NVIDIA DGX BasePOD ครั้งแรกกับระบบ NVIDIA DGX H100 ในเอเชียตะวันออกเฉียงใต้

6estates-establishes-first-deployment-of-nvidia-dgx-basepod-with-nvidia-dgx-h100-systems-in-southeast-asia

วันนี้ก็มีข่าวจากทาง Nvidia มาอัพเดทให้ทุกท่านได้ชมกันครับกับข่าวของบริษัท 6Estates ผู้ให้บริการโซลูชัน AI ระดับองค์กรในสิงคโปร์ได้ทำการทำการติดตั้ง NVIDIA DGX BasePOD ครั้งแรกกับระบบ NVIDIA DGX H100 ในภูมิภาคเอเชียตะวันออกเฉียงใต้ เพื่อเสริมศักยภาพธุรกิจด้วย LLM และแอปพลิเคชัน AI ที่สามารถปรับแต่งได้

386728812_6624058311005397_57230582317489148_n

6Estates Pte Ltd ("6Estates") ผู้ให้บริการโซลูชัน AI ระดับองค์กรในสิงคโปร์ ได้สร้าง NVIDIA DGX™ BasePOD* ตัวแรก *ที่พร้อมการใช้งานด้วยระบบ NVIDIA DGX H100 ในเอเชียตะวันออกเฉียงใต้ เพื่อเร่งนวัตกรรม AI และการเปลี่ยนแปลงทางดิจิทัลทั่วภูมิภาค 6Estates แยกตัวจากมหาวิทยาลัยแห่งชาติสิงคโปร์และมหาวิทยาลัย Tsinghua โดยมุ่งเน้นไปที่การนำเสนอโซลูชันที่ได้รับการสนับสนุนจากโมเดลภาษาขนาดใหญ่ (LLM) เฉพาะโดเมนแก่องค์กรต่างๆ 6Estates ยังเป็นสมาชิกของ NVIDIA Inception ซึ่งเป็นโปรแกรมสำหรับสตาร์ทอัพที่ล้ำหน้าซึ่งปฏิวัติอุตสาหกรรมด้วยความก้าวหน้าทางเทคโนโลยี

2023-10-05_9-45-07

DGX BasePOD ใช้ประโยชน์จากแพลตฟอร์มศูนย์ข้อมูลแบบฟูลสแตกของ NVIDIA รวมถึงการประมวลผลชั้นนำของอุตสาหกรรม พื้นที่เก็บข้อมูล ระบบเครือข่าย ซอฟต์แวร์ และการจัดการโครงสร้างพื้นฐาน ทั้งหมดนี้ได้รับการปรับให้เหมาะสมเพื่อการทำงานร่วมกันและให้ประสิทธิภาพสูงสุดในวงกว้าง

6Estates วางแผนที่จะใช้ NVIDIA DGX BasePOD สำหรับข้อเสนอ Model Solutions ใหม่ ซึ่งเสริมศักยภาพองค์กรด้วย LLM และแอปพลิเคชันเฉพาะโดเมนที่ปรับแต่งได้ บริษัทจะสามารถเข้าถึงซอฟต์แวร์ NVIDIA AI Enterprise เพื่อความปลอดภัย เสถียร และรองรับ AI การผลิต เลเยอร์ซอฟต์แวร์ของแพลตฟอร์ม NVIDIA AI หรือ NVIDIA AI Enterprise นำเสนอเฟรมเวิร์กมากกว่า 100+ เฟรมเวิร์ก ด้วยโมเดลที่ได้รับการฝึกล่วงหน้า และเครื่องมือการพัฒนาเพื่อ accelerate data science และปรับปรุงการปรับใช้ AI กำเนิดที่พร้อมสำหรับการผลิต คอมพิวเตอร์วิทัศน์ AI ในการสนทนาพูดคุย และอื่นๆ

คลัสเตอร์ยังสนับสนุนโซลูชัน AI ที่มีอยู่ของ 6Estates กล่าวคือ แพลตฟอร์มการประมวลผลเอกสารอัจฉริยะ ซึ่งทำให้การประมวลผลและการวิเคราะห์สำหรับเอกสารที่ไม่มีโครงสร้างและไม่มีเทมเพลตเป็นอัตโนมัติ และทำให้ขั้นตอนการทำงานอัตโนมัติสำหรับผู้ให้กู้และบริษัทการค้าตั้งแต่ต้นจนจบ

" Generative AI มีศักยภาพมหาศาลสำหรับที่จะเปลี่ยนแปลงวิธีการดำเนินธุรกิจต่างๆ นับตั้งแต่วิธีที่พวกเขาดำเนินการตามกระบวนการภายในไปจนถึงวิธีที่พวกเขาเข้าใจและให้บริการฐานลูกค้า เราเห็นความต้องการที่เหลือเชื่อจากลูกค้าที่ต้องการใช้โซลูชัน LLM ที่ได้รับการปรับแต่งมาอย่างดีและด้วย การรับประกันความปลอดภัยสูงสุด และเรารู้สึกตื่นเต้นที่จะนำสิ่งนี้มาสู่ความเป็นจริงสำหรับองค์กรต่างๆ ในภูมิภาค*" *ดร. Luan Huanbo ผู้ก่อตั้งและซีอีโอของ 6Estates กล่าว

2023-10-05_9-44-48

การฝึกอบรมและการอนุมานแบบจำลองรุ่นต่อไป

ระบบ NVIDIA DGX H100 เป็นส่วนประกอบสำคัญของแพลตฟอร์มการประมวลผล AI ที่ทันสมัยและทรงพลังที่สุดในโลก แต่ละระบบประกอบด้วย NVIDIA H100 Tensor Core GPU แปดตัว ซึ่งมี Transformer Engine ใหม่ ความสามารถ Multi-Instance GPU รุ่นที่สองที่ปลอดภัย และการเชื่อมต่อ NVIDIA NVLink รุ่นที่สี่ ด้วยระบบ DGX H100 6Estates สามารถบรรลุความเร็วที่สูงขึ้นสูงสุด 4 เท่าสำหรับการฝึก GPT-3 AI และความเร็วที่สูงขึ้นสูงสุด 30 เท่าสำหรับการอนุมาน AI เมื่อเทียบกับรุ่นก่อนหน้า การใช้ NVIDIA DGX H100 ทำให้ 6Estates สามารถลดระยะเวลาการฝึกอบรมโมเดลลงอย่างมาก เพื่อมอบบริการ Model Solutions ที่เร็วขึ้นให้กับลูกค้าองค์กร

คลัสเตอร์ NVIDIA DGX BasePOD ของ 6Estates พร้อมระบบ NVIDIA DGX H100 สามารถช่วยขับเคลื่อนการฝึกอบรม LLM เฉพาะโดเมนและการปรับใช้ในสถานที่ให้กับลูกค้า

“การสนับสนุนองค์กรขนาดใหญ่ที่จำเป็นต้องประมวลผลและทำความเข้าใจข้อมูลลูกค้าจำนวนมากเพื่อพัฒนา LLM ที่เปลี่ยนแปลงอย่างแท้จริงนั้นต้องใช้ทรัพยากรการประมวลผลจำนวนมาก NVIDIA DGX H100 ให้การเข้าถึงประสิทธิภาพชั้นนำของอุตสาหกรรมที่จำเป็นในการดำเนินการดังกล่าว” ดร. Luan กล่าว

“Generative AI ช่วยให้ธุรกิจต่างๆ ในอุตสาหกรรมต่างๆ สร้างโอกาสใหม่ๆ และให้บริการลูกค้าได้ดีขึ้น การใช้ซูเปอร์คอมพิวเตอร์ NVIDIA DGX AI ของ 6Estates สามารถช่วยให้องค์กรต่างๆ ทั่วเอเชียตะวันออกเฉียงใต้ขับเคลื่อนการเติบโตผ่านการพัฒนาบริการและโซลูชัน AI ขั้นสูง” Dennis Ang ผู้อำนวยการอาวุโสของ ธุรกิจองค์กรสำหรับภูมิภาคอาเซียนและ ANZ ที่ NVIDIA

2023-10-05_9-43-26

เสริมศักยภาพธุรกิจด้วย LLM เฉพาะโดเมนที่ปรับแต่งได้

6Estates ได้เริ่มพัฒนา LLM เฉพาะโดเมนสำหรับลูกค้าหลายราย โดยรายหนึ่งอยู่ในโดเมนทางการเงิน โดยบริษัทเชิงพาณิชย์มีเป้าหมายในการฝึกอบรมโมเดลขนาด 70B ~ 130B และอีกรายอยู่ในโดเมนทางการแพทย์ โดยมีสถาบันการวิจัยตั้งเป้าที่จะฝึกอบรม 7B, 13B และ รุ่นขนาด 65B

ประโยชน์ของ LLM เฉพาะโดเมนนั้นมีมากมาย สำหรับอุตสาหกรรมบริการทางการเงิน ซึ่งเป็นตลาดสำคัญของ 6Estates คลัสเตอร์นี้จะถูกนำมาใช้เพื่อสนับสนุนลูกค้าด้วย:

- การเริ่มต้นใช้งานลูกค้าอัตโนมัติและการประเมินการฉ้อโกง / ความเสี่ยง

- ดึงข้อมูลเชิงลึกของลูกค้าเพื่อการประเมินและติดตามสินเชื่อ

- การสังเคราะห์ข้อมูลลูกค้าผ่านแอปพลิเคชันทั้งภายในและภายนอก

- การคาดการณ์และติดตามผลกระทบทางการเงินจากลูกค้า

- การสร้างคำแนะนำผลิตภัณฑ์ที่เหมาะสมมากขึ้น

- มอบการสนับสนุนลูกค้าอัตโนมัติที่แม่นยำและมีข้อมูลมากขึ้น

- ลดความซับซ้อนของการรายงานและการวิเคราะห์สำหรับทีมผู้บริหาร

- อำนวยความสะดวกให้กับประสบการณ์ที่คุ้มค่าของพนักงานมากขึ้นผ่านการลดการทำงานด้วยตนเอง

6Estates พร้อมที่จะจัดเตรียมความสามารถ AI ในสถานที่ที่กำหนดเองให้กับบริษัทต่างๆ รวมถึงการประมวลผลเอกสารอัจฉริยะที่ใช้ AI และเวิร์กโฟลว์อัตโนมัติตั้งแต่ต้นทางไปจนถึงปลายทาง

ติดต่อทีมงานวันนี้เพื่อสำรวจวิธีใช้ LLM เฉพาะโดเมนเพื่อขับเคลื่อนการเติบโตและประสิทธิภาพธุรกิจ และเสริมสร้างการดำเนินธุรกิจของคุณ

เกี่ยวกับ 6 เอสเตท

6Estates เป็นผู้ให้บริการโซลูชัน AI ระดับองค์กรที่ขับเคลื่อนโดย LLM ซึ่งตั้งอยู่ในสิงคโปร์ โดยแยกตัวจากมหาวิทยาลัยแห่งชาติสิงคโปร์และมหาวิทยาลัยชิงหัว โดยนำเสนอโซลูชัน LLM เฉพาะโดเมนที่ครอบคลุม ตั้งแต่ฮาร์ดแวร์และโมเดลพื้นฐาน ไปจนถึงการปรับแต่ง LLM และแอปพลิเคชัน

ด้วยการนำเสนอโซลูชั่นแบบจำลอง 6Estates เพิ่มศักยภาพให้กับลูกค้าองค์กรในเอเชียตะวันออกเฉียงใต้ด้วยความสามารถ AGI ​​ในองค์กรที่ปรับแต่งได้อย่างเต็มที่ นอกจากนี้ ยังนำเสนอแอปพลิเคชันที่ขับเคลื่อนด้วย LLM ที่พร้อมใช้งานผ่านแพลตฟอร์มการประมวลผลเอกสารอัจฉริยะ ซึ่งให้การแยกและวิเคราะห์เอกสารที่รวดเร็วและแม่นยำ รวมถึงขั้นตอนการทำงานอัตโนมัติแบบ end-to-end สำหรับผู้ให้กู้และบริษัทการค้า