SDK รุ่นล่าสุดของ Microchip ใช้งาน Neural Networks กับ PolarFire FPGA ได้สุดเจ๋ง

Microchip Technology เปิดตัว VectorBlox Accelerator SDK เวอร์ชัน 3.0 ซึ่งเป็นชุดเครื่องมือ (SDK) แบบ
free toolkit สำหรับใช้งาน neural networks Convolutional (CNNs) ไปใช้งานบนอุปกรณ์ PolarFire FPGA และ SoC ของบริษัท

จุดเด่นสำคัญของการอัปเดตครั้งนี้คือ Sparsity-based Model Compression ซึ่งเป็นเทคโนโลยีที่ได้มาจากการเข้าซื้อกิจการ Neuronix AI Labs ในปี 2024 โดย Microchip ระบุว่าเทคโนโลยีดังกล่าวช่วยให้การประมวลผล Edge AI สามารถใช้งานได้จริงในระบบที่มีข้อจำกัดด้านพลังงานและเป็นภารกิจสำคัญ (Mission-Critical) เช่น งานด้านอวกาศและการป้องกันประเทศ ทั้งยังรองรับงานด้านการมองเห็นของคอมพิวเตอร์ (Computer Vision) ได้แก่ การจำแนกภาพ (Image Classification), การตรวจจับวัตถุ (Object Detection) และการแบ่งส่วนภาพเชิงความหมาย (Semantic Segmentation)

Trained Model to FPGA Fabric

VectorBlox ช่วยหลีกเลี่ยงข้อจำกัดสำคัญของการนำ AI ไปใช้งานบน FPGA ซึ่งก็คือการต้องออกแบบลอจิกภายใน FPGA (Fabric Logic) ใหม่ทุกครั้งที่มีการเปลี่ยนโมเดล โดย SDK นี้ทำงานร่วมกับ CoreVectorBlox ซึ่งเป็นสถาปัตยกรรมแบบโอเวอร์เลย์ (Overlay Architecture) ที่ถูกติดตั้งลงใน FPGA Fabric เพียงครั้งเดียว

IP ดังกล่าวประกอบด้วย หน่วยประมวลผลแบบเวกเตอร์ (Vector Processor) สำหรับรองรับการทำงานทั่วไปของ Neural Networks และ ตัวเร่งความเร็ว CNN (CNN Accelerator) ที่ออกแบบมาเฉพาะสำหรับการประมวลผลเลเยอร์คอนโวลูชัน (convolutional layers) ทั้งสองส่วนเชื่อมต่อกันผ่านอินเทอร์เฟซหน่วยความจำ AXI4 ที่สามารถกำหนดความกว้างของบัสได้ตั้งแต่ 64 บิตถึง 256 บิต

เนื่องจากโครงสร้างโอเวอร์เลย์นี้เป็นแบบคงที่ โมเดลใหม่จึงสามารถนำไปใช้งานในรูปแบบของข้อมูล (Data) แทนการปรับเปลี่ยนฮาร์ดแวร์ ทำให้คอร์เดียวสามารถจัดเก็บ Neural Networks ได้หลายโมเดล และสลับการทำงานระหว่างโมเดลเหล่านั้นได้แบบไดนามิก ส่งผลให้อุปกรณ์เพียงตัวเดียวสามารถรองรับงาน AI สำหรับระบบการมองเห็นหรือเซ็นเซอร์หลายประเภทได้พร้อมกัน

ชุดเครื่องมือรองรับการนำเข้าโมเดลจาก TensorFlow, TensorFlow Lite, ONNX และ OpenVINO โดยมีเครื่องมือสำหรับ Quantization ที่แปลงโมเดลจากรูปแบบเลขทศนิยมแบบ 32 บิต (32-bit Floating Point) เป็น INT8 และมีเครื่องมือคอมไพล์ที่สร้างไฟล์ Binary Large Object (BLOB) เพื่อนำไปจัดเก็บไว้ในหน่วยความจำแบบ Non-volatile Memory สื่อสารผ่าน SPI Flash ก่อนโหลดเข้าสู่หน่วยความจำ DDR เมื่ออุปกรณ์เปิดทำงาน (Power-on)

Microchip ระบุว่าระบบ complete inference และ video pipelines สามารถทำงานได้โดยใช้พลังงานต่ำกว่า 5 วัตต์ ทั้ง VectorBlox SDK ซึ่งเผยแพร่ผ่าน GitHub และ CoreVectorBlox IP เปิดให้ใช้งานโดยไม่มีค่าใช้จ่าย โดยสิทธิ์การใช้งาน (License) ของ CoreVectorBlox IP จะถูกสร้างขึ้นพร้อมกับ Libero SoC Silver License

สำหรับผู้ที่ต้องการทดลองใช้งานจริง Microchip มีชุดพัฒนา PolarFire SoC Video Kit ซึ่งมาพร้อมอินพุตกล้อง MIPI CSI-2 และอินพุต/เอาต์พุต HDMI รวมถึง Image Signal Processing Pipeline และ Reference Design ของ VectorBlox

การเปิดตัวครั้งนี้สะท้อนถึงการพัฒนาอย่างต่อเนื่องของชุดเครื่องมือดังกล่าว โดย VectorBlox SDK รุ่นแรกเปิดตัวพร้อมกับการผลักดันแพลตฟอร์ม PolarFire สู่ตลาด Edge AI ส่วน เวอร์ชัน 2.0 ได้เพิ่มเTensorFlow Lite-based flow ขณะที่ เวอร์ชัน 3.0 นับเป็นรุ่นแรกที่สร้างขึ้นบนเทคโนโลยี Neuronix compression technology

เร่งการประมวลผล CNN ได้สูงสุด 2 เท่า

ในการสัมมนาออนไลน์ (Webinar) ที่จัดควบคู่กัน Microchip ระบุว่าเทคโนโลยีดังกล่าวสามารถเพิ่มความเร็วในการ CNN inference บน PolarFire SoC FPGA ได้สูงสุดถึง 2 เท่า ที่สำคัญไม่แพ้กันสำหรับนักออกแบบระบบ Edge คือ การ compression ช่วยให้สามารถใช้งานโมเดลที่มีขนาดใหญ่ขึ้นและข้อมูลที่มีความละเอียดสูงขึ้นได้ ภายใต้ข้อจำกัดด้านจำนวนบล็อกคำนวณ (Math Blocks) หน่วยความจำ และแบนด์วิดท์ที่มีอยู่คงที่ของ FPGA ระดับกลาง

ใช้พลังงานต่ำ เชื่อถือได้สูง และผ่านการใช้งานจริงในอวกาศ

อุปกรณ์ PolarFire จัดเก็บ configuration ภายใน nonvolatile flash cells แทนการใช้ SRAM จึงมีความทนทานต่อความเสียหายของ configuration  ที่เกิดจาก radiation-induced single-event effects อีกทั้งยังไม่จำเป็นต้องโหลดไฟล์บิตสตรีม (Bitstream) ในช่วงบูตเครื่อง

เอกสารผลิตภัณฑ์ของ Microchip ระบุว่า สถาปัตยกรรมดังกล่าวใช้พลังงานต่ำกว่า FPGA ที่ใช้ SRAM ซึ่งมีคุณสมบัติใกล้เคียงกันได้สูงสุดถึง 50% เมื่อผสานกับฟีเจอร์ Secure Boot และระบบ Anti-Tamper Protection จึงเป็นเหตุผลที่ผู้ใช้งาน AI กลุ่มแรกของแพลตฟอร์มนี้นำไปใช้ในภารกิจอวกาศ

บริษัท Planetek Italia ได้นำ VectorBlox บน PolarFire SoC ไปใช้ประมวลผลข้อมูลการสังเกตการณ์โลกบนดาวเทียม (Onboard Earth Observation Pipelines) ซึ่งรวมถึงการตรวจจับวัตถุ (Object Detection) และการวิเคราะห์ Semantic Scene Analysis บนดาวเทียม AI-eXpress-1 ที่ถูกส่งขึ้นสู่อวกาศในปี 2025

ด้านบริษัท AI สำหรับอุตสาหกรรมอวกาศ AIKO ได้ทดสอบและยืนยันการทำงานของชุดซอฟต์แวร์ clear_CHARLES ซึ่งทำหน้าที่ตรวจจับเมฆและเรือจากข้อมูลบนดาวเทียม เพื่อรองรับการทำงาน Autonomous Payload Operations