El Vigilante de Datos de Irlanda Se Une a Reguladores Globales en la Investigación de X por Riesgos de IA

El regulador de privacidad de Irlanda ha abierto una investigación formal contra X para determinar si el chatbot Grok, creado por Elon Musk, contribuyó a la generación y difusión de imágenes sexualizadas no consensuadas, incluyendo las de menores. Esto se inscribe en una creciente respuesta global contra las herramientas de «nudificación» basadas en inteligencia artificial.

La Comisión de Protección de Datos (DPC) inició la investigación contra X Internet Unlimited Company (XIUC), la entidad legal registrada en la UE a través de la cual opera la plataforma de Elon Musk en Europa. La DPC se centra en “la creación y publicación aparente en la plataforma X de imágenes íntimas y/o sexualizadas potencialmente dañinas y no consensuadas… incluyendo las de menores”, utilizando las herramientas de IA generativa de Grok.

El organismo regulador ha notificado a XIUC sobre el inicio de la indagación y evaluará el cumplimiento de los requisitos fundamentales del GDPR, que incluye principios de procesamiento, bases legales, privacidad desde el diseño, y determinar si era necesaria una evaluación de impacto en la protección de datos.

“Como Autoridad de Supervisión Principal para XIUC en la UE/EEE, la DPC ha comenzado una investigación de gran envergadura que examinará el cumplimiento de XIUC con algunas de sus obligaciones fundamentales bajo el GDPR en relación con los asuntos en cuestión”, afirmó el Comisionado Adjunto Graham Doyle en el comunicado.

Esta investigación ocurre mientras Irlanda, que actúa como la principal autoridad de supervisión de la UE para la mayoría de las grandes plataformas tecnológicas americanas, se une a una creciente respuesta internacional ante el rol de Grok en la generación de deepfakes no consensuados a gran escala.

El Centro para Combatir el Odio Digital (CCDH) informó el mes pasado que Grok generó aproximadamente 23,338 imágenes sexualizadas que representan a niños, en un período de 11 días entre el 29 de diciembre y el 9 de enero. Investigadores encontraron que aproximadamente un tercio de las imágenes muestreadas seguían accesibles en X a pesar de las políticas de tolerancia cero de la plataforma.

Ante la reacción negativa, X restringió la generación de imágenes de Grok y la edición a suscriptores de pago, implementó barreras técnicas para evitar que los usuarios manipulen digitalmente a personas en ropa reveladora, y bloqueó geográficamente la función en jurisdicciones donde dicho contenido es ilegal.

Decrypt se ha puesto en contacto con xAI para obtener comentarios.

Reacción regulatoria global

En enero, la Comisión Europea abrió una investigación formal bajo la Ley de Servicios Digitales sobre el presunto papel de Grok en la generación y difusión de contenido sexualizado ilegal. Días después, autoridades francesas irrumpieron en las oficinas de X en París en coordinación con Europol, convocando a Musk y a varios ejecutivos para ser interrogados.

En el Reino Unido, Ofcom y la Oficina del Comisionado de Información abrieron investigaciones por separado, con Ofcom advirtiendo que podría buscar medidas respaldadas por la corte para bloquear efectivamente el servicio de X si se determina no cumplimiento, mientras el Primer Ministro Keir Starmer indicó que buscará nuevos poderes parlamentarios para incluir a los proveedores de chatbots de IA bajo la ley de seguridad en línea.

La Comisionada de eSafety de Australia, Julie Inman Grant, afirmó que las quejas relacionadas con Grok y las imágenes sexuales generadas por IA no consensuadas se han duplicado en los últimos meses y que su oficina utilizará sus poderes de ejecución cuando sea necesario.

El Fiscal General de California, Rob Bonta, anunció una investigación formal sobre xAI y Grok por la creación y difusión de imágenes sexualmente explícitas generadas por IA de mujeres y niños sin su consentimiento.

A principios de este mes, UNICEF declaró que los deepfakes sexuales generados por IA son “una profunda escalada de los riesgos que enfrentan los niños en el entorno digital”, afirmando que al menos 1.2 millones de niños fueron blanco el año pasado y instando a los gobiernos a penalizar el material de abuso generado por IA y a exigir salvaguardas de seguridad desde el diseño.