เล็กแต่ทรงพลัง!! ระบบสมองกลแบบฝังตัว (Embedded system) พร้อมขับเคลื่อนด้วย NVIDIA Jetson เพื่ออนาคตที่ชาญฉลาดยิ่งขึ้น

Article by Nongkoo OverclockTeam On October 12, 2023 279 views
เล็กแต่ทรงพลัง!! ระบบสมองกลแบบฝังตัว (Embedded system) พร้อมขับเคลื่อนด้วย NVIDIA Jetson เพื่ออนาคตที่ชาญฉลาดยิ่งขึ้น

เล็กแต่ทรงพลัง!! ระบบสมองกลแบบฝังตัว (Embedded system) พร้อมขับเคลื่อนด้วย NVIDIA Jetson เพื่ออนาคตที่ชาญฉลาดยิ่งขึ้น

1

ระบบสมองกลแบบฝังตัว (Embedded system) ได้ปฏิวัติอุตสาหกรรมมากมาย โดยขับเคลื่อนทุกสิ่งตั้งแต่ยานพาหนะอัตโนมัติและโดรน ไปจนถึงระบบเฝ้าระวังอัจฉริยะและอุปกรณ์ทางการแพทย์ เนื่องจากความต้องการแอปพลิเคชันอัจฉริยะและขับเคลื่อนด้วย AI ยังคงเพิ่มขึ้น ความต้องการโซลูชันการประมวลผลแบบฝังตัวที่ทรงพลังและมีประสิทธิภาพจึงมีความสำคัญมากขึ้น ประสิทธิภาพที่เพิ่มขึ้นเมื่อเร็วๆ นี้ในการประมวลผลแบบเร่งความเร็วที่เสริมด้วย AI ช่วยขับเคลื่อนแนวโน้มไปสู่จุดสูงสุดใหม่ด้วยผู้เล่นหลักในที่เกิดเหตุ NVIDIA และตระกูลระบบสมองกลฝังตัว Jetson ซึ่งมีส่วนร่วมมากที่สุดโดยการสร้างโซลูชันเฉพาะและล้ำสมัยสำหรับ AI ที่เน้นความคล่องตัว การใช้งาน

ทุกสิ่งที่ระบบต้องการภายในแพ็คเกจขนาดเล็ก

2

โดยพื้นฐานแล้วผลิตภัณฑ์ NVIDIA Jetson ใช้งานการออกแบบ System-on-Module (SoM) ซึ่งมีความคล้ายคลึงอย่างมากกับ SoC หรือ System-on-Chip ซึ่งเป็นสมองของซิลิคอนที่อาศัยอยู่ภายในสมาร์ทโฟนและแท็บเล็ตของคุณ วิธีการนี้โดยพื้นฐานแล้วประกอบด้วย CPU, GPU, RAM และพื้นที่จัดเก็บข้อมูลในส่วนประกอบขนาดใหญ่ชิ้นเดียวที่ให้พื้นที่ทางกายภาพที่เล็กลงและร่องรอยทางไฟฟ้าที่ใกล้เคียงยิ่งขึ้นเพื่อประสิทธิภาพที่ดีขึ้น ในขณะที่ส่วนประกอบขนาดเล็กอื่นๆ ได้รับการติดตั้งและมีอยู่นอกแพ็คเกจ SoM ด้วยแนวทางนี้ NVIDIA สามารถมอบความสามารถในการอนุมาน AI และการเรียนรู้เชิงลึกในขณะที่ยังคงรักษาประสิทธิภาพการใช้พลังงานไว้ได้ ข้อเสนอ NVIDIA Jetson ยอดนิยม เมื่อบทเรียนเกี่ยวกับ SoC เสร็จสิ้นแล้ว เรามาดูผลิตภัณฑ์ NVIDIA Jetson ที่ได้รับความนิยมมากที่สุดบางส่วนที่มีอยู่ในตลาดในปัจจุบันกันดีกว่า

Jetson Orin Nano

3

Jetson Orin Nano ได้รับการรองพื้นให้เป็นหนึ่งในบอร์ดอันทรงคุณค่าและมีสิ่งกีดขวางทางเข้าที่ดีที่สุด โดยประกอบด้วย CPU ARM Cortex-A78AE แบบ 6 คอร์ พร้อมด้วยคอร์ CUDA 1,024 คอร์ และ Tensor Core 32 คอร์ ซึ่งขับเคลื่อนโดยสถาปัตยกรรม Ampere ที่มีชื่อเสียง

ฟอร์มแฟคเตอร์ขนาดเล็กช่วยให้เป็นโปรเซสเซอร์หลักที่อยู่เบื้องหลังโซลูชันต่างๆ เช่น กล้องวงจรปิดอัจฉริยะ ระบบอัตโนมัติในบ้าน และแม้แต่หุ่นยนต์ขนาดเล็ก

4

ตัวอย่างหนึ่งที่คุณสามารถพบได้ในประเทศมาเลเซียและอาจใกล้เคียงที่สุดกับคุณคือกล้องป้ายทะเบียนและกล้องระบุรถยนต์ในสถานีเก็บค่าผ่านทาง

ที่จัดทำโดย Tapway ซึ่งเข้าร่วมโปรแกรม NVIDIA Metropolis เมื่อเร็วๆ นี้ โดยจะช่วยแก้ไขปัญหาหลักของยานพาหนะประเภทต่างๆ ที่ต้องเสียค่าธรรมเนียมที่แตกต่างกัน และมักจะตามมาด้วยการตรวจสอบโดยมนุษย์

ด้วยเหตุนี้ ซอฟต์แวร์ VehicleTrack ของ Tapway จึงสามารถอ่านป้ายทะเบียนและตรวจจับประเภทยานพาหนะ ยี่ห้อ และสีได้ในเวลาเพียง 50 มิลลิวินาที สามารถทำได้แม้ว่ารถจะเข้าใกล้จากทิศทางที่ความเร็ว 40 กม./ชม.

เมื่อฝึกฝนกับ NVIDIA Triton Inference Server แบ็คเอนด์จะสามารถจัดการสตรีมวิดีโอ 50 รายการพร้อมกันที่มาจากอุปกรณ์ Edge ซึ่งสามารถขับเคลื่อนโดยผลิตภัณฑ์คลาส Jetson Nano

Jetson TX2i

5

ออกแบบมาเพื่อเคสการประมวลผลที่ขอบเป็นหลัก Jetson TX2i ก้าวไปอีกขั้นด้วยสเปกตรัมขนาดเล็กและมีประสิทธิภาพด้วยอัตราการใช้พลังงานและฟอร์มแฟคเตอร์ที่ต่ำกว่าบอร์ดคลาส "นาโน"

ใช้สถาปัตยกรรม Pascal รุ่นเก่า โดยโฮสต์ LPDDR4 RAM ขนาด 8GB และที่เก็บข้อมูล eMMC ขนาด 32GB พร้อมด้วย CPU ARM-A57 และคอร์ CUDA จำนวน 256 คอร์

ด้วยเหตุนี้ ผู้ที่ต้องการใช้งบประมาณของตนในจำนวนหน่วยที่ใช้งานมากขึ้นโดยมีข้อกำหนดด้านประสิทธิภาพที่ต่ำกว่าแต่ตรงกันจะพบว่า Jetson TX2i มีความเป็นไปได้

สถานที่เช่นโรงงานอัจฉริยะจะใช้ประโยชน์จาก Jetson TX2i สำหรับระบบการมองเห็นอัจฉริยะและระบบอัตโนมัติทางอุตสาหกรรม

6

ตัวอย่างในชีวิตจริงมาจากอุตสาหกรรม Musashi Seimitsu ในญี่ปุ่นซึ่งมุ่งเน้นการผลิตรถยนต์และชิ้นส่วนที่เกี่ยวข้อง

กระบวนการอัตโนมัติจะดำเนินการในรูปแบบของการตรวจสอบด้วยแสงเพื่อหาข้อบกพร่องในเกียร์และการเชื่อม ซึ่งก่อนหน้านี้ทั้งหมดจะดำเนินการด้วยตนเองและคิดเป็นสัดส่วนสูงสุดถึง 20% ของเวลาในการผลิตทั้งหมด

ขั้นแรกพวกเขาใช้ NVIDIA DGX Station เพื่อฝึกฝนอัลกอริธึมเครือข่าย Inception v2 Keras ซึ่งจากนั้นจะประมวลผลโดยใช้ NVIDIA Jetpack และ TensorRT

สุดท้ายนี้ โมเดลที่ปรับใช้ได้จะดำเนินการภายในโมเดล Jetson TX2 ที่ติดตั้งซอฟต์แวร์และอุปกรณ์ต่อพ่วงไว้ล่วงหน้า ช่วยให้ Musashi สร้างและปรับใช้ Neural Cube ได้อย่างรวดเร็ว (โซลูชันการตรวจสอบด้วยแสงทั้งหมดตามที่พวกเขาเรียก) ได้อย่างง่ายดาย เมื่อดำเนินการ รูปภาพของชิ้นส่วนที่ผลิตใหม่จะถูกสแกนและวิเคราะห์หาข้อบกพร่อง เมื่อพบแล้ว แขนหุ่นยนต์จะดึงชิ้นส่วนที่ชำรุดออกแล้วแทนที่ด้วยชิ้นส่วนที่ดีเมื่อเป็นไปได้

ซอฟต์แวร์ปัจจุบันสามารถบรรลุความแม่นยำ 99% ในการค้นหาข้อบกพร่อง 1 มม. บนเกียร์ภายใน 5 วินาที และข้อบกพร่อง 0.5 มม. ในการเชื่อมภายใน 7.5 วินาทีโดยไม่ต้องมีการควบคุมดูแลจากมนุษย์

Jetson Xavier NX

7

ต้องการบางสิ่งที่มีพลังมากขึ้นแต่ไม่ต้องการมากเกินไปใช่ไหม ถ้าอย่างนั้น Jetson Xavier NX ก็ควรทำกลอุบาย

แม้ว่าจะไม่ใช่รุ่นล่าสุดและยิ่งใหญ่ที่สุด แต่เวอร์ชัน 16GB (ทั้ง RAM และพื้นที่เก็บข้อมูล) ใช้พลังงานจาก GPU ที่ใช้ Volta พร้อมด้วย 384 CUDA cores และ 48 Tensor cores ควบคู่ไปกับ CPU Carmel ARM v8.2 ของ NVIDIA ที่สามารถมอบประสิทธิภาพ AI 21 TOPS

ทั้งหมดนี้สามารถจ่ายไฟได้เพียง 10W ที่ทำงานผ่านเครือข่ายที่เป็นกลางและซับซ้อนที่ทันสมัยไปพร้อมๆ กัน ในขณะเดียวกันก็รับอินพุตข้อมูลจากเซ็นเซอร์ความละเอียดสูงหลายตัว

ตัวอย่างของระบบที่ใช้โดรนและอุปกรณ์ถ่ายภาพทางการแพทย์ควบคู่ไปกับอุปกรณ์เมืองอัจฉริยะ

8

การใช้งานโซลูชัน Jetson ของ Saildrone ค่อนข้างมีเอกลักษณ์ เนื่องจากบริษัทมีความเชี่ยวชาญในการพัฒนายานยนต์ไร้คนขับแบบไร้คนขับ (USV) ที่ติดตั้งเซ็นเซอร์จำนวนมาก

กลุ่มเซ็นเซอร์เหล่านี้สามารถเก็บข้อมูลได้มากมายซึ่งสามารถประมวลผลบนโมดูล Jetson สำหรับ AI ที่เอดจ์ จากนั้นส่งผ่านไปยัง DeepStream SDK สำหรับการวิเคราะห์วิดีโออัจฉริยะ

เป้าหมายหลักคือการทำให้การดำเนินการรวบรวมข้อมูลข่าวกรองทางทะเลคุ้มค่าที่สุดเท่าที่จะเป็นไปได้ ขณะเดียวกันก็บรรจุข้อมูลแบบเรียลไทม์ทั้งหมดเพื่อการวิจัยและวัตถุประสงค์ทางอุตสาหกรรม เช่น ในสาขาวิทยาศาสตร์ การประมง การพยากรณ์อากาศ การทำแผนที่มหาสมุทร และความมั่นคงทางทะเล

เนื่องจากสภาพอากาศและการเปลี่ยนแปลงสภาพภูมิอากาศเกิดขึ้นมากกว่าที่ต้องการในช่วงไม่กี่ปีที่ผ่านมา พันธกิจของ Saildrone ในการรับทราบสถานะของมหาสมุทรอย่างต่อเนื่องจะบรรลุผลสำเร็จได้ด้วยอุปกรณ์ที่ทั้งทรงพลัง กะทัดรัด และพกพาได้ ซึ่งช่วยให้สามารถประมวลผลข้อมูลได้ตลอดเวลา ทั้งภายในเครื่องหรือบนคลาวด์ .

Jetson AGX Orin Industrial

9

สำหรับองค์กรที่แสวงหาสิ่งที่ดีที่สุดโดยไม่ต้องกังวลเรื่องงบประมาณ Jetson AGX Orin Industrial ถือเป็นอุปกรณ์ที่มีประสิทธิภาพดีที่สุดในกลุ่มผลิตภัณฑ์ Jetson

มาพร้อมกับซีพียู NVIDIA Arm Cortex A78AE V8.2 แบบ 12 คอร์ จุดเด่นหลักมาจากคอร์ CUDA 2048 + คอมโบคอร์เทนเซอร์ 64 คอร์ที่ขับเคลื่อนโดย NVIDIA Ampere พร้อม RAM LPDDR5 ขนาด 64GB และที่เก็บข้อมูล eMMC ขนาด 64GB

การรวมกันดังกล่าวทำให้ประสิทธิภาพ AI อยู่ที่ 248 TOPS ซึ่งมากกว่า Jetson Xavier NX 16GB ถึง 10 เท่า

อย่าลืมจิตวิญญาณหลักของตระกูล Jetson ซึ่งเป็นการประมวลผลที่มีประสิทธิภาพ โดยใช้พลังงานที่ช่วง 15W ถึง 75W

ความก้าวหน้าล่าสุดในหุ่นยนต์เคลื่อนที่อัตโนมัติที่สามารถจัดการวัสดุอันตรายในขณะที่ขนส่งจากที่หนึ่งไปยังอีกที่หนึ่งนั้น ต้องใช้การประมวลผลที่ซับซ้อนซึ่งทำได้เฉพาะกับบางสิ่งในระดับของโมเดลนี้เท่านั้น

10

เนื่องจากชิปดังกล่าวถูกใช้โดยผู้เล่นชั้นนำในอุตสาหกรรม หนึ่งในแบรนด์ที่ใช้ชิปดังกล่าวก็คือ PepsiCo ยักษ์ใหญ่ด้านอาหารและเครื่องดื่ม ซึ่งใช้โซลูชันวิชันซิสเต็มขั้นสูง KoiReader Technologies ซึ่งเป็นพันธมิตรของ NVIDIA Metropolis

ระบบนี้ช่วยให้มีประสิทธิภาพที่เหนือกว่าในการอ่านฉลากและบาร์โค้ดของคลังสินค้า ไม่ว่าขนาด สภาพ และมุมของฉลากจะเป็นอย่างไร ทั้งหมดนี้ต้องขอบคุณอัลกอริธึมอันทรงพลังที่สามารถระบุฉลากและบาร์โค้ดได้

ไม่เพียงสแกนกล่องชั้นวางเท่านั้น แต่ยังสแกนบนสายพานลำเลียงและรถยกด้วย ทำให้คลังสินค้าสามารถตรวจสอบย้อนกลับได้ 100%

สำหรับข้อมูลที่สร้างขึ้นนั้น รวมถึงสิ่งต่างๆ เช่น พนักงานต้องใช้เวลานานแค่ไหนในการบรรจุกล่อง จำนวนที่บรรจุ หรือวิธีอื่นๆ ในการแกะกล่อง

โมดูล NVIDIA Jetson AGX Orin ไม่ใช่โมดูลเดียวที่รับผิดชอบการประมวลผลแบ็กเอนด์ทั้งหมด เนื่องจาก GPU ระดับมืออาชีพซีรีส์ A ของ NVIDIA และเซิร์ฟเวอร์การอนุมาน Triton รวมถึงซอฟต์แวร์ DeepStream SDK และ TensorRT ล้วนสร้างส่วนที่จำเป็นสำหรับโซลูชันวิชันซิสเต็มที่ชาญฉลาดและทรงพลังอย่างแท้จริง .

บทสรุป

11

โดยสรุป NVIDIA Jetson เป็นโซลูชั่นสำหรับนักพัฒนาในโดเมนระบบฝังตัวที่มีศักยภาพในการยกระดับ AI และการเรียนรู้เชิงลึกไปอีกระดับ

นอกเหนือจากฮาร์ดแวร์แล้ว NVIDIA ยังมอบการเข้าถึงสแต็กซอฟต์แวร์ในระดับเดียวกันในทุกระดับและรุ่นของข้อเสนอ ซึ่งหมายความว่าข้อแตกต่างเพียงอย่างเดียวในที่นี้คือเกี่ยวกับความสามารถในการปรับขนาดและบางทีอาจตรงกับความต้องการ

12

สำหรับคนในอุตสาหกรรมที่ต้องการลองใช้ NVIDIA Jetson คุณสามารถดูเทคโนโลยี EDOM และติดต่อกับพวกเขาได้

องค์กรในไต้หวันนำเสนอโซลูชันที่หลากหลายตั้งแต่การประมวลผล AI และยานยนต์ไปจนถึง IoT และหัวข้อที่เกี่ยวข้องกับอุปกรณ์เคลื่อนที่

และใช่ พวกเขายังมีผลิตภัณฑ์ตระกูล NVIDIA Jetson ที่กล่าวมาข้างต้นด้วย

ตามลิงก์ด้านล่างเพื่อเรียนรู้เพิ่มเติมเกี่ยวกับเทคโนโลยี EDOM และ NVIDIA Jetson

https://www.edomtech.com/en/product/embedded-modules/