OpenAI détaille les protections multicouches dans l'accord avec le département de la Défense américain

OpenAI a déclaré samedi 28 février que l'accord conclu la veille avec le Pentagone pour déployer la technologie sur le réseau classifié du département de la défense américain comprend des garanties supplémentaires pour protéger ses cas d'utilisation.

Le président américain Donald Trump a ordonné vendredi au gouvernement de cesser de travailler avec Anthropic, et le Pentagone a déclaré qu'il déclarerait la startup comme un risque pour la chaîne d'approvisionnement, portant un coup majeur au laboratoire d'intelligence artificielle après une confrontation sur les garde-fous technologiques. Anthropic a déclaré qu'elle contesterait toute désignation de risque devant les tribunaux.

Peu après, son rival OpenAI, soutenu par Microsoft, Amazon, SoftBank et d'autres, a annoncé son propre accord tard vendredi.

« Nous pensons que notre accord comporte plus de garde-fous que tout accord précédent pour les déploiements d'IA classifiés, y compris celui d'Anthropic », a déclaré OpenAI samedi.

L'entreprise d'IA a déclaré que le contrat avec le Département de la Défense, que l'administration Trump a renommé Département de la Guerre, impose trois lignes rouges : la technologie OpenAI ne peut pas être utilisée pour la surveillance intérieure de masse, pour diriger des systèmes d'armes autonomes, ou pour toute décision automatisée à enjeux élevés.

« Dans notre accord, nous protégeons nos lignes rouges par une approche plus étendue et multicouche. Nous conservons une totale discrétion sur notre pile de sécurité, nous déployons via le cloud, le personnel autorisé d'OpenAI est impliqué, et nous avons de solides protections contractuelles », a déclaré OpenAI.

Le Pentagone a signé des accords d'une valeur allant jusqu'à 200 millions de dollars chacun avec les principaux laboratoires d'IA au cours de l'année écoulée, notamment Anthropic, OpenAI et Google. Le Pentagone cherche à préserver toute flexibilité en matière de défense et à ne pas être limité par les avertissements des créateurs de la technologie contre l'utilisation d'une IA peu fiable pour alimenter les armes.

OpenAI a averti que toute violation de son contrat par le gouvernement américain pourrait entraîner une résiliation, bien qu'elle ait ajouté : « Nous ne nous attendons pas à ce que cela se produise. »

L'entreprise a également déclaré que son rival Anthropic ne devrait pas être étiqueté comme un « risque pour la chaîne d'approvisionnement », notant : « Nous avons clairement fait connaître notre position à ce sujet au gouvernement. » – Rappler.com