ทันเอไอ

Micron เผยวิกฤต "กำแพงหน่วยความจำ" AI แย่ลง ชี้ HBM โตไม่ทันชิปประมวลผล

Micron ชี้ปัญหาคอขวดหน่วยความจำ HBM ในระบบ AI กำลังแย่ลงเรื่อยๆ หลังความเร็วประมวลผลพุ่งเร็วกว่าแบนด์วิดท์ถึง 3 เท่า

ในงานประชุมวิชาการชิปประมวลผล Hot Chips 2026 ทาง Micron โดย Raghu Sreeramaneni ตำแหน่ง Fellow ด้านสถาปัตยกรรม HBM ได้ออกมาเปิดเผยถึงความท้าทายครั้งใหญ่ของวงการปัญญาประดิษฐ์ โดยระบุว่าปัญหา "กำแพงหน่วยความจำ" (Memory Wall) กำลังทวีความรุนแรงขึ้นอย่างต่อเนื่อง ตามการเติบโตที่ไม่สมดุลของฮาร์ดแวร์

จากการบรรยายระบุว่า ประสิทธิภาพการประมวลผลของ AI Accelerator (Compute TFLOPS) เพิ่มขึ้นเฉลี่ยราว 3 เท่าในทุกๆ 2 ปี ในขณะที่แบนด์วิดท์ของหน่วยความจำความเร็วสูงอย่าง HBM (High Bandwidth Memory) กลับเพิ่มขึ้นได้น้อยกว่า 2 เท่าในรอบเวลาเดียวกัน ช่องว่างที่ถ่างกว้างขึ้นนี้ทำให้หน่วยประมวลผลต้องเสียเวลารอรับ-ส่งข้อมูล กลายเป็นคอขวดหลักของระบบ AI ขนาดใหญ่

นอกจากนี้ Micron ยังได้อ้างอิงสถิติที่น่าสนใจว่า ความล้มเหลวที่เกี่ยวข้องกับ HBM คิดเป็นสัดส่วนสูงถึง 17% ของปัญหาการหยุดชะงักทั้งหมด ระหว่างการเทรนโมเดล Llama 3 ของ Meta อีกด้วย

ในด้านข้อจำกัดทางกายภาพ โมดูล GPU แบบ System-in-Package ยุคใหม่ที่มีการซ้อน HBM ถึง 12 ชั้น ทำให้พื้นที่ซิลิคอนของหน่วยความจำคิดเป็นสัดส่วนสูงถึงราว 90% ของซิลิคอนทั้งหมด ซึ่งใหญ่กว่าตัวชิป GPU ประมาณ 8 เท่า ส่งผลโดยตรงต่อความร้อนและการถ่ายเทความร้อน (Thermal Resistance)

เพื่อรับมือกับปัญหานี้ Micron ระบุว่าอุตสาหกรรมจำเป็นต้องพึ่งพานวัตกรรม Advanced Packaging ขั้นสูง เช่น Hybrid Bonding หรือ Fusion Bonding, อินเทอร์เฟซ Die-to-Die รวมถึงสถาปัตยกรรมใหม่อย่าง Processing-in-Memory (PIM DRAM) เพื่อช่วยลดการสูญเสียพลังงานและจัดการปัญหาความร้อนในอนาคต