การประกาศเปิดตัวแพลตฟอร์ม Coral NPU ล่าสุดของ Google ได้จุดประกายการอภิปรายอย่างร้อนแรงทั่วทั้งชุมชนผู้พัฒนา แม้หลายคนจะตื่นเต้นกับศักยภาพของฮาร์ดแวร์ Edge AI ที่เปิดกว้างและมีประสิทธิภาพ แต่บางส่วนยังคงระมัดระวังเนื่องจากประวัติการทำงานกับผลิตภัณฑ์ Coral ก่อนหน้านี้ของ Google บทสนทนานี้เผยให้เห็นชุมชนที่กำลังหาจุดสมดุลระหว่างความหวังในเทคโนโลยีกับความกังวลในทางปฏิบัติเกี่ยวกับการสนับสนุนระยะยาวและรายละเอียดการนำไปใช้
ปฏิกิริยาที่หลากหลายต่อประวัติฮาร์ดแวร์ของ Google
การตอบสนองของชุมชนผู้พัฒนาต่อ Coral NPU นั้นได้รับอิทธิพลอย่างลึกซึ้งจากประสบการณ์กับผลิตภัณฑ์ Coral TPU ก่อนหน้าของ Google ผู้แสดงความคิดเห็นหลายคนระบุว่า แม้ฮาร์ดแวร์ Coral TPU รุ่นดั้งเดิมจะมีประสิทธิภาพ แต่การสนับสนุนและความพร้อมให้บริการกลับมีปัญหามากขึ้นเมื่อเวลาผ่านไป เอกสารประกอบหายไป ไดรเวอร์ล้าสมัย และการซื้อหาทำได้ยากเนื่องจากผลิตภัณฑ์ดูเหมือนจะถูกทิ้งร้าง ประวัติศาสตร์นี้สร้างความกังขาอย่างมีนัยสำคัญเกี่ยวกับว่า Coral NPU จะได้รับการสนับสนุนระยะยาวที่จำเป็นสำหรับโครงการพัฒนาที่จริงจังหรือไม่ รูปแบบการเปิดตัวแล้วยกเลิกผลิตภัณฑ์ของ Google ทำให้ผู้พัฒนาระมัดระวังในการสร้างโครงสร้างพื้นฐานสำคัญบนความคิดริเริ่มด้านฮาร์ดแวร์ของ Google อีกครั้ง
เมื่อดูสถานะของ Coral TPU รุ่นดั้งเดิม (ซึ่งแทบจะถูกทิ้งร้าง เหมือนสิ่งอื่นๆ ของ Google ทั่วไป) ทำให้ฉันรู้สึกกังวลมากที่จะใช้สิ่งนี้ในผลิตภัณฑ์ระยะยาว
รายละเอียดทางเทคนิคและรายละเอียดการนำไปใช้
การวิเคราะห์จากชุมชนเผยให้เห็นว่า Synaptics ได้ประกาศการนำสถาปัตยกรรม Coral NPU ไปใช้เชิงพาณิชย์เป็นครั้งแรกแล้วด้วยสายผลิตภัณฑ์ Astra SL2610 ของพวกเขา ชิปเหล่านี้รวมเอาคอร์ ARM Cortex-A55 จำนวน 1-2 คอร์ เข้ากับ Cortex-M52 และ NPU ขนาด 1 TOPS โดยตั้งเป้าใช้พลังงานต่ำกว่าอย่างมีนัยสำคัญเมื่อเทียบกับ Coral TPU รุ่นดั้งเดิม Coral รุ่นดั้งเดิมให้ประสิทธิภาพ 4 TOPS ที่ประมาณ 1 วัตต์ ในขณะที่สถาปัตยกรรมใหม่นี้ตั้งเป้าที่ 0.5 TOPS ที่เพียง 10 มิลลิวัตต์ ประสิทธิภาพด้านพลังงานนี้ทำให้มันเหมาะสมสำหรับแอปพลิเคชัน wearable ที่เปิดตลอดเวลา แม้ผู้พัฒนาจะระบุว่าการขาดความสามารถในการเข้ารหัสวิดีโอทางฮาร์ดแวร์เป็นข้อจำกัดที่อาจเกิดขึ้นสำหรับแอปพลิเคชันด้าน vision
TOPS: ล้านล้านการดำเนินการต่อวินาที เป็นหน่วยวัดประสิทธิภาพของตัวเร่ง AI
ข้อมูลจำเพาะของ Synaptics Astra SL2610 Series
- แกนประมวลผล ARM Cortex-A55 จำนวน 1-2 แกน
- แกนประมวลผล ARM Cortex-M52
- NPU ขนาด 1 TOPS ที่ใช้สถาปัตยกรรม Coral
- อินเทอร์เฟซเสียง I2S จำนวน 3 ตัว
- ไม่มีฮาร์ดแวร์สำหรับการเข้ารหัสวิดีโอ
- มีการประกาศชุดพัฒนาแล้ว
 |
|---|
| กระบวนการคอมไพล์โมเดลแมชชีนเลิร์นนิงสำหรับแพลตฟอร์ม Coral NPU ซึ่งแสดงให้เห็นสถาปัตยกรรมทางเทคนิคของมัน |
ประสบการณ์การพัฒนาและความกังวลเกี่ยวกับชุดเครื่องมือ
ผู้พัฒนาแสดงทั้งความตื่นเต้นและความระมัดระวังเกี่ยวกับเครื่องมือพัฒนา สถาปัตยกรรม RISC-V แบบเปิดต้นฉบับพร้อมคำสั่งเวกเตอร์มาตรฐานแสดงถึงสภาพแวดล้อมการพัฒนาที่คุ้นเคยมากกว่าเมื่อเทียบกับ systolic array ที่เป็นกรรมสิทธิ์ การสนับสนุนที่สัญญาไว้สำหรับเฟรมเวิร์กสมัยใหม่เช่น PyTorch และ JAX คู่กับ TensorFlow ได้ตอบสนองต่อข้อจำกัดก่อนหน้านี้ที่ Coral TPU รองรับเฉพาะชุดย่อยของการดำเนินการของ TensorFlow อย่างไรก็ตาม ความคิดเห็นจากผู้พัฒนาที่ทำงานกับแพลตฟอร์ม AI แบบฝังตัวที่คล้ายกันได้เน้นย้ำถึงความท้าทายอย่างต่อเนื่องของการพัฒนา Linux แบบฝังตัว การสร้าง Yocto builds และความซับซ้อนของการสร้างแอปพลิเคชันที่กำหนดเองเมื่อเทียบกับสภาพแวดล้อมการพัฒนาโมบายล์
 |
|---|
| ภาพรวมของแพลตฟอร์มที่ออกแบบมาสำหรับนักออกแบบ SoC และนักพัฒนา ML แสดงให้เห็นองค์ประกอบหลักและกระบวนการสำหรับการพัฒนา Coral NPU |
สถาปัตยกรรมความเป็นส่วนตัวและความปลอดภัย
แง่มุมหนึ่งที่สร้างการอภิปรายในเชิงบวกคือการมุ่งเน้นของ Coral NPU ด้านความเป็นส่วนตัวที่บังคับใช้โดยฮาร์ดแวร์ผ่านเทคโนโลยีเช่น CHERI สมาชิกในชุมชนตระหนักถึงความสำคัญของความปลอดภัยของหน่วยความจำและการแบ่งส่วนสำหรับระบบ AI ที่จัดการข้อมูลส่วนบุคคล การออกแบบสถาปัตยกรรมเพื่อรองรับการป้องกันหน่วยความจำแบบละเอียดและการแซนด์บ็อกซ์ที่บังคับใช้โดยฮาร์ดแวร์สำหรับโมเดล AI ที่มีความอ่อนไหว ได้ตอบสนองความกังวลที่เพิ่มขึ้นเกี่ยวกับความเป็นส่วนตัวของข้อมูลในแอปพลิเคชัน edge computing แนวทางนี้อาจมีศักยภาพในการบรรเทาการโจมตีที่ใช้หน่วยความจำซึ่งได้สร้างปัญหาให้กับแพลตฟอร์มคอมพิวเตอร์อื่นๆ
การเปรียบเทียบ Coral NPU กับ Coral TPU รุ่นเดิม
| คุณสมบัติ | Coral TPU รุ่นเดิม | สถาปัตยกรรม Coral NPU |
|---|---|---|
| ประสิทธิภาพ | 4 TOPS | 0.5 TOPS (เป้าหมาย) |
| การใช้พลังงาน | ~1 วัตต์ | 10 มิลลิวัตต์ (เป้าหมาย) |
| สถาปัตยกรรม | แบบกรรมสิทธิ์ | สถาปัตยกรรมแบบเปิดบนพื้นฐาน RISC-V |
| การรองรับเฟรมเวิร์ก | TensorFlow บางส่วน | TensorFlow, PyTorch, JAX |
| โมเดลการพัฒนา | ฮาร์ดแวร์ของ Google | ซิลิคอนจากพาร์ทเนอร์ (Synaptics) |
| การเข้ารหัสวิดีโอ | จำกัด | ไม่มี (ใช้ซอฟต์แวร์เท่านั้น) |
ตำแหน่งทางการตลาดและแนวโน้มในอนาคต
ชุมชนมองว่า Coral NPU เป็นการเคลื่อนไหวทางยุทธศาสตร์ของ Google ในการสร้างฐานในตลาดเกิดใหม่สำหรับแว่นตา AI และอุปกรณ์ wearable ที่เปิดตลอดเวลา ด้วยการเปิดตัวสถาปัตยกรรมแบบเปิดต้นฉบับและการเป็นพันธมิตรกับผู้ขายซิลิกอนเช่น Synaptics Google ดูเหมือนจะกำลังสร้างระบบนิเวศมากกว่าเพียงแค่ขายฮาร์ดแวร์ อย่างไรก็ตาม ผู้พัฒนาตั้งคำถามว่าแนวทางนี้จะประสบความสำเร็จในที่ที่ผลิตภัณฑ์ Coral ก่อนหน้าเคยล้มเหลวหรือไม่ รูปแบบการเป็นพันธมิตรหมายความว่าชิปจริงที่รวมสถาปัตยกรรม Coral NPU ยังคงต้องใช้เวลาอีกหลายปีกว่าจะพร้อมให้บริการอย่างกว้างขวาง ทำให้ผู้พัฒนาต้องอยู่ในสถานะรอคอย
การอภิปรายเกี่ยวกับ Coral NPU เผยให้เห็นชุมชนเทคโนโลยีที่เรียนรู้ที่จะปรับความตื่นเต้นด้วยประสบการณ์ในทางปฏิบัติ แม้ข้อกำหนดทางเทคนิคและสถาปัตยกรรมแบบเปิดจะน่าสนใจอย่างแท้จริง แต่ประวัติของ Google กับผลิตภัณฑ์ฮาร์ดแวร์ก็สร้างความกังวลที่สมเหตุสมผลเกี่ยวกับความมีชีวิตในระยะยาว ดังที่ผู้พัฒนาคนหนึ่งกล่าวไว้อย่างกระชับว่า เทคโนโลยีดูเหมือนสำคัญ แต่การเป็นสิ่งที่เกี่ยวข้องกับ Google นั้นเป็นสัญญาณอันตรายอย่างมากสำหรับความยั่งยืน ความสำเร็จของ Coral NPU อาจขึ้นอยู่กับข้อดีทางเทคนิคน้อยลง แต่ขึ้นอยู่กับความสามารถของ Google ในการแสดงให้เห็นถึงความมุ่งมั่นอย่างยั่งยืนต่อแพลตฟอร์มมากขึ้น