California Endurece Reglas de Contratos de IA en Creciente Conflicto con la Administración Trump

El conflicto entre Washington y los estados sobre políticas de inteligencia artificial (IA) se intensificó el lunes cuando el gobernador de California, Gavin Newsom, firmó una orden ejecutiva que exige mayores salvaguardias a las empresas de IA que buscan contratos estatales.

De acuerdo con la orden, las empresas que vendan sistemas de IA a agencias californianas deberán demostrar políticas que prevengan el mal uso y protejan la privacidad, la seguridad y los derechos civiles.

“California siempre ha sido la cuna de la innovación. Pero también entendemos el lado negativo: en las manos equivocadas, la innovación puede usarse de manera que ponga a las personas en riesgo,” declaró Newsom. “California lidera en IA, y utilizaremos todas las herramientas a nuestra disposición para garantizar que las empresas protejan los derechos de las personas, y no las exploten o las pongan en peligro. Mientras otros en Washington diseñan políticas y crean contratos en la sombra del mal uso, nosotros nos enfocamos en hacer las cosas de la manera correcta.”

La orden también instruye a la Agencia de Operaciones del Gobierno del estado a desarrollar estándares de adquisición para los proveedores de IA que aborden temas como la generación de contenido ilegal, el sesgo de modelo y el riesgo para los derechos civiles y la libertad de expresión. Además, se pide al Departamento de Tecnología de California que desarrolle recomendaciones para la marca de agua en imágenes generadas por IA y en videos manipulados.

Esta orden coloca a California en conflicto con los esfuerzos de la administración Trump por establecer estándares nacionales de IA y limitar la regulación a nivel estatal. A principios de este mes, la administración Trump publicó un marco de políticas de inteligencia artificial que insta al Congreso a establecer estándares federales y reducir lo que los funcionarios describen como un mosaico de regulaciones estatales sobre IA.

Kevin Frazier, investigador adjunto del Cato Institute, comentó que la disputa refleja un equilibrio constitucional de larga data entre la autoridad estatal y la federal.

“Cada avance tecnológico —desde el barco de vapor hasta la superinteligencia— plantea preguntas clave sobre cómo asignar la autoridad regulatoria entre los estados y el gobierno federal,” afirmó Frazier. “La Constitución ofrece una respuesta clara: el gobierno federal debe liderar en asuntos de seguridad económica y nacional, así como en aquellos que requieren una respuesta uniforme; los estados pueden ejercer sus poderes tradicionales dentro de sus fronteras.”

Frazier calificó la orden ejecutiva de Newsom como “un ejemplo primordial de federalismo en acción,” y dijo que las empresas que rechazan los requisitos de California pueden optar por no vender al estado.

“Mientras tanto, el Congreso aún tiene la capacidad de fijar los términos del ritmo y la dirección de las ambiciones de IA del país,” añadió.

Quinn Anex-Reis, analista senior de políticas en el Centro para la Democracia y la Tecnología, mencionó que el tamaño y el poder adquisitivo de California pueden influir en cómo las empresas diseñan y prueban sistemas de IA si desean vender al estado.

“Los contratos gubernamentales son muy valiosos para las empresas,” dijo Anex-Reis. “Es una gran parte del negocio para los desarrolladores de tecnología en general y una avenidas de negocio en crecimiento para los desarrolladores de IA específicamente.”

Él añadió que las reglas de adquisición son una de las formas más efectivas en que los gobiernos pueden moldear cómo se desarrollan y evalúan los sistemas de IA.

“El proceso de adquisición es realmente importante,” concluyó Anex-Reis. “Porque ese es realmente el lugar más crucial donde el estado puede establecer protecciones y expectativas sobre cómo los proveedores desarrollan sus herramientas.”

Newsom se ha consolidado como una figura destacada entre los demócratas a nivel nacional y como candidato potencial a la presidencia en 2028. Una reciente encuesta del Politico–UC Berkeley Citrin Center lo colocó liderando con 14 puntos sobre la exvicepresidenta Kamala Harris entre los votantes probables en las primarias demócratas de California.

Este choque de políticas sobre la regulación de IA lo coloca en conflicto directo con la administración Trump a medida que se intensifican los debates sobre quién debería establecer las reglas que rigen esta tecnología. El verano pasado, la administración Trump ordenó a las agencias federales que evitaran contratos con lo que llamaron modelos de IA “woke” y que adquirieran sistemas que demuestren neutralidad ideológica.

A pesar de ello, Anex-Reis afirmó que la cuestión de la regulación de IA es más grande que la política.

“Esto realmente no debería ser un problema político,” dijo Anex-Reis. “Se trata de asegurarnos de que el dinero de los contribuyentes no se desperdicie y de que las herramientas que compra nuestro gobierno funcionen.”