ทันเอไอ

MicronがAIの「メモリ壁」危機が悪化していると指摘、HBMの成長がプロセッサに追いつかず

Micronは、処理速度が帯域幅の3倍の速さで急上昇していることを受け、AIシステムにおけるHBMメモリのボトルネック問題がますます深刻化していると指摘しました。

プロセッサの学会「Hot Chips 2026」において、MicronのHBMアーキテクチャフェローであるRaghu Sreeramaneni氏が人工知能業界の大きな課題について講演し、ハードウェアの不均衡な成長に伴い「メモリ壁（Memory Wall）」の問題が継続的かつ深刻に悪化していると明らかにしました。

講演によると、AIアクセラレータの処理性能（演算TFLOPS）は2年ごとに平均約3倍向上している一方、HBM（High Bandwidth Memory）などの高速メモリの帯域幅は同じ期間で2倍未満の増加にとどまっています。この広がっていくギャップにより、プロセッサはデータの送受信に時間を費やすことになり、大規模AIシステムの主要なボトルネックとなっています。

さらにMicronは、MetaのLlama 3モデルのトレーニング中における全システム停止トラブルのうち、HBMに関連する障害が最大17%を占めていたという興味深い統計も引用しています。

物理的制約の面では、HBMを12層まで積層した最新のSystem-in-Package型GPUモジュールでは、メモリのシリコン面積が全体シリコンの約90%を占め、GPUチップ自体の約8倍の大きさとなっています。これが熱や放熱（熱抵抗）に直接的な影響を与えています。

これに対処するため、Micronは業界がハイブリッドボンディングやフュージョンボンディングなどの高度な先進パッケージング（Advanced Packaging）、ダイ間インターフェース、さらにエネルギー損失を削減し今後の熱問題を管理するためのProcessing-in-Memory（PIM DRAM）といった新アーキテクチャに依存する必要があると述べています。