ทันเอไอ

OpenAI révèle ses principes de collaboration avec les gouvernements sur la sécurité et réaffirme ses 'lignes rouges' contre l'utilisation dans les armes autonomes

OpenAI a publié un ensemble de principes directeurs pour sa collaboration avec les gouvernements et les agences de sécurité, en fixant des restrictions claires sur l'utilisation de la technologie IA à des fins militaires et de défense nationale.

OpenAI a officiellement dévoilé un ensemble de principes directeurs pour sa collaboration avec les gouvernements et les agences de sécurité nationale. Ces principes, développés en collaboration avec l'expert David Kris, s'appliqueront aux coopérations actuelles et futures. Au cœur de ces principes se trouvent des « lignes rouges » claires, définies par des restrictions contractuelles. Elles interdisent l'utilisation de la technologie d'OpenAI pour la surveillance de masse domestique (mass domestic surveillance), pour commander des systèmes d'armes autonomes (autonomous weapons systems ou des systèmes d'armes qui décident eux-mêmes d'attaquer des cibles), et pour les décisions automatiques à haut risque. Cette annonce intervient dans un contexte de tensions entre le gouvernement américain et Anthropic, une entreprise concurrente. Anthropic a refusé, plus tôt, de retirer les restrictions de sécurité de son modèle Claude pour un usage militaire au début de l'année 2026. OpenAI a également étendu sa collaboration en matière de cybersécurité via le projet Daybreak avec plusieurs pays, notamment l'Australie, le Japon, la Corée du Sud et des pays de l'Union européenne. Ces principes ont déjà été appliqués à une collaboration existante avec le Department of War. OpenAI affirme que l'entreprise conserve le contrôle total de son safety stack (ensemble de mesures de sécurité).