AMD dévoile le 'Ryzen AI Halo', un mini-PC IA puissant avec 128 Go de RAM pour développeurs, concurrençant directement NVIDIA
AMD, en partenariat avec le détaillant Micro Center, a lancé le 'Ryzen AI Halo', un ordinateur compact doté de spécifications puissantes et conçu pour les développeurs IA. Sa caractéristique principale est sa mémoire unifiée (unified memory) allant jusqu'à 128 Go, permettant d'exécuter des modèles de langage volumineux directement sur la machine.
AMD a dévoilé le Ryzen AI Halo, un mini-PC conçu spécifiquement pour le développement d'IA locale (local AI). Ce produit est exclusivement disponible chez Micro Center aux États-Unis.
Au cœur de la machine se trouve le nouveau processeur AMD Ryzen AI Max+ 395, composé de 16 cœurs CPU sous architecture Zen 5, de 40 unités de traitement graphique RDNA 3.5, et surtout d'une unité de traitement neuronal (NPU - Neural Processing Unit) sous architecture XDNA 2, offrant une puissance de calcul IA allant jusqu'à 50 TOPS (billions d'opérations par seconde).
La caractéristique la plus distinctive du Ryzen AI Halo est l'intégration d'une mémoire unifiée LPDDR5x massive de 128 Go, avec une bande passante maximale de 256 Go/s. Selon AMD, cela est suffisant pour exécuter directement en mémoire des modèles d'IA comptant jusqu'à 200 milliards de paramètres, permettant aux développeurs de travailler avec des modèles volumineux sans dépendre du cloud.
Le boîtier est compact, mesurant seulement 150 x 150 x 45,4 mm et pesant environ 1,2 kg. Il est équipé d'une connectivité de niveau station de travail complète, comprenant un port Ethernet 10 Gbps, deux ports USB-C 4.0, un port USB-C 3.2 et un port HDMI 2.1. Il est disponible en versions préinstallées avec Linux ou Windows.
Le Ryzen AI Halo est lancé au prix de 3 999 $ US, se positionnant comme un concurrent direct du NVIDIA DGX Spark, dont le prix de détail est de 4 700 $ US. Micro Center, le distributeur, affirme qu'il peut exécuter le modèle GPT-OSS-120b à une vitesse de 45 tokens par seconde, mais ces chiffres n'ont pas encore été confirmés par des sources indépendantes.
Le Ryzen AI Halo représente une nouvelle option intéressante pour les développeurs IA et les petites entreprises qui cherchent un outil pour exécuter de grands modèles linguistiques (LLM) sur leurs propres machines (IA locale) sans dépendre du cloud, et ce, à un prix plus abordable que son concurrent direct NVIDIA.