Protestas frente a oficinas de OpenAI, Anthropic y xAI por preocupaciones del sector

El pasado sábado, un grupo de manifestantes recorrió las calles de San Francisco, deteniéndose frente a las oficinas de Anthropic, OpenAI y xAI, para exigir una pausa condicional en el desarrollo de inteligencias artificiales cada vez más potentes.

Según Michael Trazzi, fundador de Stop the AI Race y documentarista, aproximadamente 200 personas participaron en la protesta. Entre los asistentes se encontraban investigadores, académicos y miembros de grupos de defensa como el Machine Intelligence Research Institute, PauseAI, QuitGPT, StopAI y Evitable.

“Hay muchas personas que se preocupan por el riesgo que representan los sistemas de IA avanzados”, comentó Trazzi a Decrypt. “Que todos marchen juntos demuestra que la gente no está sola en su preocupación sobre esto. Hay muchas personas que se interesan por el tema”.

La marcha comenzó al mediodía frente a las oficinas de Anthropic, luego continuó hacia OpenAI y, finalmente, hacia xAI. En cada parada, activistas y oradores de las organizaciones participantes se dirigieron a los manifestantes.

Trazzi destacó que el objetivo de la protesta era presionar a las empresas de IA para que acordaran una pausa coordinada en la construcción de modelos de IA más poderosos, así como establecer tratados con desarrolladores de IA en otros países para hacer lo mismo.

“Si China y EE.UU. acordaran detener el desarrollo de modelos más peligrosos, podrían centrarse en mejorar los sistemas para nosotros, como la IA médica”, afirmó. “Todos saldrían beneficiados”.

La propuesta de Stop the AI Race solicita a las empresas que detengan la construcción de nuevos modelos avanzados y redirijan su trabajo hacia la seguridad, siempre que otros laboratorios importantes «hagan lo mismo de forma creíble», lo que, según Trazzi, hace que las protestas frente a las oficinas de labs de IA sean aún más relevantes.

Una oposición constante

Esta protesta es la última de una serie de esfuerzos dirigidos a frenar el desarrollo de la inteligencia artificial.

En marzo de 2023, el Future of Life Institute publicó una carta abierta exigiendo una moratoria en las mejoras adicionales de la herramienta de IA líder tras el lanzamiento público de ChatGPT el año anterior.

Entre los firmantes se encontraban el fundador de xAI, Elon Musk, el cofundador de Apple, Steve Wozniak, y el cofundador de Ripple, Chris Larsen. Desde entonces, la carta abierta “Pause Giant AI Experiments” ha acumulado más de 33,000 firmas.

En septiembre, Trazzi llevó a cabo una huelga de hambre de una semana frente a las oficinas de Google DeepMind en Londres, mientras que Guido Reichstadter llevó a cabo una huelga de hambre paralela frente a las oficinas de Anthropic en San Francisco.

Los funcionarios gubernamentales y los partidarios del desarrollo continuo de IA argumentan que ralentizar la investigación en EE.UU. podría otorgar una ventaja a los competidores en el extranjero.

La semana pasada, la administración de Trump publicó su marco de IA para establecer un estándar nacional de leyes que gubern su desarrollo. La Casa Blanca lo enmarcó como un compromiso de “ganar la carrera de IA”.

“Incluso si estás en China o en cualquier país del mundo, nadie quiere sistemas que no puede controlar”, dijo Trazzi. “Como estamos en esta carrera entre empresas y países para construir los sistemas lo más rápido posible, estamos tomando atajos y descuidando la seguridad. Nunca hay una carrera sin ganadores. Lo que tenemos es un sistema que no podemos controlar, y por eso se le llama carrera suicida”.

Sin embargo, incluso si los desarrolladores de IA accedieran a pausar el desarrollo, verificarlo puede ser más complicado de lo que parece. Trazzi sugirió que una forma de comprobar una pausa sería limitar la potencia de cómputo utilizada para entrenar nuevos modelos.

“Si limita cuánto cómputo puede usar una empresa para construir estos sistemas, está limitando de hecho el desarrollo de nuevos modelos”, explicó.

Tras la protesta en San Francisco, Trazzi mencionó que podrían llevarse a cabo más manifestaciones en otros lugares donde operan las principales empresas de IA.

“Queremos estar donde están los empleados”, afirmó. “Queremos hablar con ellos y que se comuniquen con sus líderes para que las cosas avancen desde dentro”, añadiendo que los denunciantes tendrán cierto poder porque “son quienes lo están construyendo”.

OpenAI, Anthropic y xAI no respondieron de inmediato a las solicitudes de comentario de Decrypt.