OpenAI detalla protecciones por capas en pacto con el departamento de defensa de EE. UU.

OpenAI dijo el sábado 28 de febrero que el acuerdo que alcanzó un día antes con el Pentágono para implementar tecnología en la red clasificada del departamento de defensa de EE. UU. incluye salvaguardas adicionales para proteger sus casos de uso.

El presidente de EE. UU., Donald Trump, ordenó el viernes al gobierno que dejara de trabajar con Anthropic, y el Pentágono dijo que declararía a la startup un riesgo de cadena de suministro, asestando un golpe importante al laboratorio de inteligencia artificial después de un enfrentamiento sobre las barreras de seguridad tecnológica. Anthropic dijo que impugnaría cualquier designación de riesgo en los tribunales.

Poco después, su rival OpenAI, que cuenta con el respaldo de Microsoft, Amazon, SoftBank y otros, anunció su propio acuerdo el viernes por la noche.

"Creemos que nuestro acuerdo tiene más barreras de seguridad que cualquier acuerdo anterior para implementaciones de IA clasificadas, incluido el de Anthropic", dijo OpenAI el sábado.

La firma de IA dijo que el contrato con el Departamento de Defensa, que la administración Trump ha renombrado como Departamento de Guerra, aplica tres líneas rojas: la tecnología de OpenAI no puede utilizarse para vigilancia doméstica masiva, para dirigir sistemas de armas autónomos, ni para ninguna decisión automatizada de alto riesgo.

"En nuestro acuerdo, protegemos nuestras líneas rojas a través de un enfoque más expansivo y de múltiples capas. Mantenemos total discreción sobre nuestra estructura de seguridad, implementamos a través de la nube, el personal autorizado de OpenAI está en el circuito y tenemos fuertes protecciones contractuales", dijo OpenAI.

El Pentágono firmó acuerdos por un valor de hasta 200 millones de dólares cada uno con importantes laboratorios de IA en el último año, incluidos Anthropic, OpenAI y Google. El Pentágono busca preservar toda la flexibilidad en defensa y no estar limitado por las advertencias de los creadores de la tecnología contra el uso de armas con IA poco fiable.

OpenAI advirtió que cualquier incumplimiento de su contrato por parte del gobierno de EE. UU. podría desencadenar una rescisión, aunque agregó: "No esperamos que eso suceda".

La compañía también dijo que su rival Anthropic no debería ser etiquetado como un "riesgo de cadena de suministro", señalando: "Hemos dejado clara nuestra posición sobre esto al gobierno". – Rappler.com