ทันเอไอ

Micron заявляет об ухудшении кризиса «стены памяти» в ИИ: HBM не поспевает за чипсетами

Micron указывает на усугубление проблемы узкого места памяти HBM в ИИ-системах: скорость вычислений растет в 3 раза быстрее пропускной способности

На конференции по полупроводникам Hot Chips 2026 Рагу Срираманени (Raghu Sreeramaneni), научный сотрудник Micron по архитектуре HBM, рассказал о серьезных вызовах в сфере искусственного интеллекта, отметив, что проблема «стены памяти» (Memory Wall) продолжает обостряться из-за несбалансированного роста аппаратного обеспечения.

Согласно докладу, производительность ИИ-ускорителей (Compute TFLOPS) в среднем увеличивается примерно в 3 раза каждые 2 года, в то время как пропускная способность высокоскоростной памяти HBM (High Bandwidth Memory) за тот же период растет менее чем в 2 раза. Этот увеличивающийся разрыв заставляет процессоры простаивать в ожидании передачи данных, что становится главным узким местом в крупных ИИ-системах.

Кроме того, Micron сослалась на примечательную статистику: сбои, связанные с HBM, составили целых 17% от общего числа простоев при обучении модели Llama 3 от Meta.

Что касается физических ограничений, современные модули GPU в исполнении System-in-Package с 12-слойным стеком HBM занимают кремниевую площадь памяти примерно в 90% от общей площади, что примерно в 8 раз больше самого чипа GPU. Это напрямую влияет на тепловыделение и тепловое сопротивление.

Для решения этой проблемы Micron подчеркивает необходимость внедрения передовых технологий корпусирования (Advanced Packaging), таких как Hybrid Bonding или Fusion Bonding, межкристальных интерфейсов (Die-to-Die), а также новых архитектур вроде Processing-in-Memory (PIM DRAM) для снижения энергопотерь и отвода тепла в будущем.