Resumen
- La demanda menciona que Grok generó hasta 3 millones de imágenes sexualizadas en cuestión de días, incluyendo miles que representan a menores.
- Baltimore busca sanciones civiles, compensación para residentes afectados y órdenes judiciales para detener la conducta supuestamente ilícita.
- Expertos legales indican que el caso podría depender de si los tribunales consideran a los sistemas de IA como creadores activos de contenido dañino, en lugar de herramientas pasivas.
La demanda de Baltimore contra xAI de Elon Musk y su chatbot Grok podría definir hasta dónde pueden llegar las ciudades para regular la inteligencia artificial en ausencia de leyes federales, según un experto.
El alcalde y el Concejo Municipal de Baltimore han
demandado
a X Corp., xAI y SpaceX en un tribunal de Maryland, alegando que las empresas violaron leyes locales de protección al consumidor al diseñar y desplegar Grok, un sistema de IA generativa acusado de producir y difundir imágenes sexualizadas sin consentimiento, incluyendo las de menores.
La demanda sostiene que Grok permite a los usuarios “desvestir” o “manipular imágenes” de personas reales con un mínimo de indicaciones, exponiendo a los residentes a violaciones de privacidad y daño psicológico, de acuerdo a un
comunicado
del bufete de abogados DiCello Levitt, que representa a la ciudad junto al Departamento Legal de Baltimore.
“Estos deepfakes, especialmente aquellos que representan a menores, tienen consecuencias traumáticas y de por vida para las víctimas,” expresó el alcalde de Baltimore, Brandon M. Scott, en el comunicado.
El caso se presenta en medio de una creciente atención global hacia Grok, que incluye investigaciones en toda la
EE.UU.
,
UE
,
Francia
,
Reino Unido
,
Australia
, y
Irlanda
, así como una demanda federal presentada la semana pasada por
tres menores de Tennessee que alegan
que la herramienta generó material de abuso sexual infantil usando sus imágenes reales.
“Esta demanda puede verse como un movimiento estratégico de una ciudad para regular la IA en ausencia de legislación federal, utilizando doctrinas de protección al consumidor y daño público para incluir a las empresas de IA dentro de su ámbito de aplicación,” dijo Ishita Sharma, socia gerente de Fathom Legal, a Decrypt.
“En cuanto a la responsabilidad, aunque los usuarios que impulsan contenido dañino formarán parte del argumento, el enfoque legal más fuerte probablemente se centrará en si el propio sistema de IA contribuyó materialmente,” agregó Sharma, apuntando que si los tribunales ven a Grok “como un creador activo en lugar de un intermediario pasivo,” la responsabilidad recaerá más en xAI.
Diseño intencionado
La demanda de Baltimore alega que las empresas «diseñaron, comercializaron y desplegaron» Grok, sabiendo que podría generar imágenes íntimas sin consentimiento y material que se asemeja al contenido de abuso sexual infantil, mientras afirmaban públicamente que dicho contenido estaba prohibido.
La queja cita estimaciones que indican que Grok generó entre 1.8 millones y 3 millones de imágenes sexualizadas en solo unos días, entre el 29 de diciembre de 2025 y el 8 de enero de 2026, incluyendo
alrededor de 23,000 imágenes que representan a niños
, según el Centro para Contrarrestar el Odio Digital y un análisis del New York Times.
Baltimore alega que el aumento fue en parte ocasionado tras que Elon Musk amplificara la función de edición de imágenes de Grok al
responder
“Perfecto” a una imagen en bikini de sí mismo generada por la herramienta, con la producción aumentando de aproximadamente 300,000 imágenes en los nueve días previos a su publicación a casi 600,000 por día en X.
«X es ahora uno de los mayores distribuidores de NCII y CSAM,» dice la demanda, citando las propias políticas de la plataforma que prohíben dicho contenido como evidencia de presentación engañosa.
“La evidencia de salvaguardias retrasadas o inacción ante riesgos conocidos fortalecería las afirmaciones de negligencia o imprudencia,” dijo Sharma, añadiendo que el desestimado de la demanda parece poco probable, siendo un acuerdo el resultado más probable, aunque el caso podría también resultar en “una decisión decisiva sobre la responsabilidad en la IA.”
La ciudad busca sanciones civiles, medidas cautelares para detener la conducta ilegal, compensación para los residentes afectados y la devolución de ganancias ilícitas.
Decrypt se ha puesto en contacto con Musk a través de xAI y SpaceX para obtener comentarios.
Fuente: decrypt.co