ทันเอไอ

Le plan de test de l'IA de l'administration Trump critiqué comme « limité et vague », il exclut les modèles open-source

Un cadre volontaire visant à évaluer les risques de cybersécurité des IA avancées exclurait les modèles open-source et ne serait pas rendu public

L'administration du président Donald Trump élabore un cadre (framework) destiné à évaluer les risques de cybersécurité posés par les IA avancées. Mais selon un rapport d'Axios relayé par The Verge, cette approche présente une limite manifeste : elle ne couvre absolument pas les modèles open-source (ces modèles que tout le monde peut télécharger et dont la structure interne peut être inspectée).

Le rapport indique que cette démarche volontaire ne se contente pas d'exclure les modèles open-source du périmètre des tests : le cadre précise explicitement qu'il ne peut pas être utilisé pour restreindre ou contrôler les modèles open-source une fois qu'ils ont été rendus publics. C'est ce qui amène les analystes à juger ce plan à la fois « limité et vague ».

Ce cadre de test fait suite au décret présidentiel (executive order) signé par Donald Trump en juin, qui demandait aux entreprises d'IA de partager leurs modèles les plus avancés avec le gouvernement fédéral avant leur lancement, afin d'apaiser les inquiétudes en matière de cybersécurité — comme le risque qu'une IA soit utilisée pour aider à créer des attaques ou à s'en prendre à des systèmes numériques.

Des sources indépendantes confirment cette orientation. Newsmax, citant des sources informées lors d'un briefing à la Maison-Blanche, rapporte que le nouveau cadre ne couvre que les systèmes closed-source (les modèles fermés dont l'accès est contrôlé par les entreprises elles-mêmes) et que ses détails ne seront pas rendus publics. De son côté, Gizmodo ajoute que des responsables fédéraux ont rédigé une première version du cadre pour mesurer les capacités des modèles en matière de cybersécurité, ce qui pourrait conduire à limiter l'accès du public, avec des réunions prévues avec des dirigeants de l'industrie technologique américaine, dont des représentants d'OpenAI.

La principale critique est que l'exclusion des modèles open-source rend ce cadre aveugle aux risques posés par les modèles les plus répandus : une fois un modèle ouvert publié, n'importe qui peut l'utiliser ou le modifier sans aucun mécanisme de contrôle, alors qu'il s'agit précisément du canal par lequel les risques de sécurité peuvent le plus facilement se propager.