ทันเอไอ

DFRobot ประกาศขาย DX-M1 ตัวเร่ง AI เสียบช่อง M.2 ราคา 139 ดอลลาร์ เน้นงาน inference ไม่ใช่โมเดลใหญ่

DFRobot ประกาศขายโมดูล DX-M1 ให้ประสิทธิภาพ 25 TOPS กินไฟ 2–5 วัตต์ ในราคา 139 ดอลลาร์ แต่ยังไม่มีผลทดสอบยืนยันว่ารันโมเดลขนาดใหญ่ได้

DFRobot ประกาศขายโมดูล DX-M1 ซึ่งเป็นตัวเร่งการประมวลผล AI รูปแบบ M.2 2280 M-Key เชื่อมต่อผ่าน PCIe Gen3 x4 ราคา 139 ดอลลาร์ ให้ประสิทธิภาพ 25 TOPS แบบ INT8 ใช้พลังงานประมาณ 2 ถึง 5 วัตต์ และมีหน่วยความจำ LPDDR5 ขนาด 4GB

บทความของ Wccftech ระบุว่าอุปกรณ์นี้เหมาะกับงาน inference เช่น การตรวจจับวัตถุหรือประมวลผลภาพที่ต้องทำบนอุปกรณ์ปลายทาง (edge) โดยไม่ต้องพึ่งเซิร์ฟเวอร์หรือค่าบริการคลาวด์ ผู้เขียนมองว่าด้วย RAM 4GB จึงไม่น่าจะรันโมเดลขนาด 27B หรือ 70B ได้

ข้อนี้ควรอ่านอย่างระวัง เอกสารของ DEEPX ผู้พัฒนาชิปยืนยันเพียงสเปกและการเป็นตัวเร่ง inference รวมถึงข้อกำหนดให้แปลงโมเดลผ่านเครื่องมือของ DEEPX แต่ยังไม่พบผลทดสอบ LLM ขนาด 27B หรือ 70B ในแหล่งที่ตรวจ สิ่งที่ยืนยันได้จึงเป็นข้อจำกัดด้านหน่วยความจำ ไม่ใช่ขีดจำกัดตายตัวของโมเดลทุกตัว

นอกจากนี้ บทความระบุความจุ Flash เป็น 128GB แต่เอกสาร DEEPX ระบุราว 1Gbit หรือประมาณ 128MB ข้อมูลสองแหล่งขัดกัน จึงยังไม่ควรนำตัวเลข 128GB ไปใช้อ้างอิง

ข่าวประชาสัมพันธ์ของ Virtium และ Embedded Artists ก็ระบุ 25 TOPS ที่ 5W สำหรับโมดูล DX-M1 แบบ M.2 ในชุดพัฒนาของตน ซึ่งช่วยยืนยันสเปกหลักได้ระดับหนึ่ง แต่ไม่ใช่ผลทดสอบอิสระ และไม่ได้ยืนยันราคาจาก DFRobot