Los legisladores de California envían proyecto de ley de seguridad de IA de vuelta al escritorio de Newsom

TLDRs;

• Los legisladores de California aprobaron un proyecto de ley de seguridad de IA que requiere transparencia empresarial, dejando al gobernador Gavin Newsom con una decisión difícil.
• El proyecto de ley podría sentar un precedente para la regulación de IA a nivel nacional, reflejando la influencia de California en los estándares de gobernanza tecnológica.
• Los gigantes tecnológicos y grupos de presión se oponen a la legislación, advirtiendo que podría perjudicar la innovación mientras se pasa por alto a los desarrolladores de IA más pequeños.
• La decisión de Newsom podría afectar tanto a sus perspectivas presidenciales como al papel de California en la configuración del desarrollo responsable de IA.

Los legisladores de California han aprobado una amplia legislación de seguridad de IA que ahora espera la firma del gobernador Gavin Newsom, estableciendo un punto de decisión crítico por segundo año consecutivo.

La propuesta requeriría que los principales desarrolladores de inteligencia artificial divulguen sus protocolos de pruebas de seguridad y certifiquen el cumplimiento, una medida que podría remodelar tanto la relación del estado con su poderoso sector tecnológico como la conversación nacional más amplia sobre la regulación de la IA.

Equilibrando la innovación y la supervisión

El proyecto de ley, redactado por el demócrata de San Francisco Scott Wiener, busca incorporar transparencia en el desarrollo de modelos avanzados de IA.

Las empresas que generan más de $500 millones en ingresos anuales estarían obligadas a proporcionar informes detallados de sus marcos de pruebas, mientras que los desarrolladores más pequeños que trabajan en los llamados "modelos de frontera" presentarían divulgaciones más generales. Los legisladores argumentan que este enfoque escalonado logra un equilibrio entre la seguridad pública y la necesidad de fomentar la innovación.

Newsom, sin embargo, se enfrenta a un dilema familiar. El año pasado, vetó una versión más amplia de la legislación de Wiener, advirtiendo que podría socavar la ventaja competitiva de California.

Sus preocupaciones se centraron en el potencial de reglas excesivamente estrictas para expulsar a las empresas y su capital del estado.

Implicaciones nacionales del movimiento de California

Debido a que California es el hogar de algunas de las empresas de IA más influyentes del mundo, el proyecto de ley podría servir como modelo para otros estados si se convierte en ley. Los defensores dicen que el marco podría establecer una línea base para prácticas responsables de IA, particularmente en una industria donde los temores sobre riesgos, mal uso y desarrollo sin control están aumentando.

Entre los partidarios de la legislación se encuentra el laboratorio de IA Anthropic, que elogió el proyecto de ley por exigir a las empresas "decir la verdad" sobre las pruebas que realizan. OpenAI, aunque no respalda ni se opone explícitamente a la medida, ha reconocido que los principios detrás de ella son constructivos.

Sin embargo, no todos están de acuerdo. La Cámara de Comercio de California, TechNet y otros grupos de presión de la industria han expresado fuertes objeciones. En una carta a Wiener, advirtieron que centrarse solo en "grandes desarrolladores" corre el riesgo de pasar por alto a actores más pequeños cuyos modelos también podrían conllevar riesgos catastróficos.

Gigantes tecnológicos como Apple, Google y Amazon han presionado indirectamente contra la medida, citando posibles superposiciones regulatorias e inconsistencias con marcos internacionales.

Apuestas políticas para Newsom y Wiener

La decisión también conlleva un gran peso político. Newsom, ampliamente visto como un probable contendiente demócrata para las elecciones presidenciales de 2028, debe sopesar si ponerse del lado de los votantes preocupados por los peligros de la IA vale la pena alienar a los donantes tecnológicos del estado. Firmar el proyecto de ley lo distinguiría del presidente Donald Trump, cuya administración ha perseguido una agenda agresiva de desarrollo pro-IA, enmarcándola como una carrera contra China.

Para Wiener, las apuestas son igualmente altas. Recién presentada su candidatura para el escaño en el Congreso ocupado durante mucho tiempo por Nancy Pelosi, ha presentado el proyecto de ley como el marco de seguridad de IA a nivel estatal más completo del país. Su propuesta revisada y más estrecha refleja las lecciones aprendidas de la derrota del año pasado, así como las recomendaciones de un panel de política de IA convocado por el propio Newsom.

Si Newsom firma el proyecto de ley, marcaría un punto de inflexión para la gobernanza tecnológica de EE.UU., potencialmente dando forma a los estándares nacionales en ausencia de una regulación federal integral. Si lo veta nuevamente, sin embargo, podría señalar una priorización de la competitividad de la industria sobre las salvaguardias públicas, y destacar la profunda influencia que Silicon Valley ejerce sobre la política de California.

La publicación Los legisladores de California envían proyecto de ley de seguridad de IA de vuelta al escritorio de Newsom apareció primero en CoinCentral.