AMD stellt 'Ryzen AI Halo' vor: Leistungsstarker AI-Mini-PC mit 128 GB RAM für Entwickler, tritt direkt gegen NVIDIA an
In Zusammenarbeit mit dem Einzelhändler Micro Center stellt AMD den 'Ryzen AI Halo' vor. Dieser kompakte Computer für AI-Entwickler überzeugt mit leistungsstarken Spezifikationen und bietet insbesondere 128 GB Unified Memory, um große Sprachmodelle (LLMs) lokal ausführen zu können.
AMD hat den Ryzen AI Halo eingeführt, einen Mini-PC, der speziell für die Entwicklung lokaler KI konzipiert wurde. Er ist exklusiv bei Micro Center in den USA erhältlich.
Das Herzstück des Geräts ist der neue Prozessor AMD Ryzen AI Max+ 395, der eine Zen 5-CPU mit 16 Kernen, eine RDNA 3.5-Grafikeinheit mit 40 Compute Units und vor allem eine XDNA 2-NPU (Neural Processing Unit) mit einer KI-Leistung von bis zu 50 TOPS (Trillion Operations Per Second) umfasst.
Das herausragendste Merkmal, das den Ryzen AI Halo von anderen unterscheidet, ist sein gigantischer LPDDR5x Unified Memory von 128 GB mit einer Bandbreite von bis zu 256 GB/s. AMD gibt an, dass dies ausreicht, um KI-Modelle mit bis zu 200 Milliarden Parametern direkt im Gerätespeicher auszuführen. Dies ermöglicht Entwicklern, mit großen Modellen zu arbeiten, ohne auf die Cloud angewiesen zu sein.
Das Gerät ist kompakt mit Abmessungen von nur 150 x 150 x 45,4 mm und einem Gewicht von etwa 1,2 kg. Es bietet umfassende Workstation-Anschlussmöglichkeiten, darunter 10-Gbit/s-Ethernet, zwei USB-C 4.0-Anschlüsse, einen weiteren USB-C 3.2-Anschluss und HDMI 2.1. Erhältlich sind Versionen mit vorinstalliertem Linux- oder Windows-Betriebssystem.
Der Ryzen AI Halo startet bei einem Preis von 3.999 US-Dollar und ist als direkter Konkurrent zum NVIDIA DGX Spark positioniert, der 4.700 US-Dollar kostet. Micro Center, der Vertriebspartner, behauptet, dass das Gerät das GPT-OSS-120b-Modell mit 45 Tokens pro Sekunde ausführen kann. Diese Zahlen wurden jedoch noch nicht von unabhängigen Quellen bestätigt.
Der Ryzen AI Halo bietet eine interessante neue Option für KI-Entwickler und kleine Unternehmen, die große Sprachmodelle (lokale KI) auf ihren eigenen Geräten ausführen möchten, ohne auf Cloud-Dienste angewiesen zu sein. Er ist zudem preislich zugänglicher als direkte Konkurrenten von NVIDIA.