Jess Asato, parlamentaria por Lowestoft, ha presentado una demanda ante el Tribunal Superior de Londres contra xAI, la empresa de inteligencia artificial de Elon Musk, después de que su herramienta Grok generara imágenes sexualizadas falsas de ella, incluyendo un vídeo simulando una agresión sexual. El caso podría marcar un antes y un después en la responsabilidad legal de las empresas de IA.
Primer caso de prueba en el Reino Unido que busca determinar hasta qué punto una empresa de inteligencia artificial puede ser considerada legalmente responsable del contenido sexual falso generado por sus usuarios con sus herramientas. La demanda de Asato podría sentar jurisprudencia en toda Europa.
Jess Asato, diputada laborista por Lowestoft, llevaba tiempo denunciando públicamente la creación de imágenes sexualizadas sin consentimiento mediante inteligencia artificial.
Hablaba de otras mujeres, de un problema que le parecía urgente e inaceptable. Entonces alguien usó Grok, la IA de la empresa xAI de Elon Musk, para fabricar imágenes falsas de ella en bikini. Y después un vídeo en el que aparecía siendo cloroformizada y preparada para una agresión sexual.
TE PUEDE INTERESAR: “No lo creo, amigo”: cómo la policía dejó morir esposado a un joven apuñalado en Southampton
Esta semana, Asato presentó una demanda ante el Tribunal Superior de Londres. Ya no solo habla de otras mujeres. Habla de sí misma. Y quiere que la justicia responda una pregunta que millones de personas en todo el mundo se están haciendo: ¿puede una empresa de inteligencia artificial lavarse las manos cuando sus herramientas se usan para dañar a personas reales?
“Una violación”: así lo describió cuando ocurrió
En enero de este año, cuando las imágenes generadas por Grok comenzaron a circular por X, la plataforma de Musk, Asato fue una de las primeras voces en alzarse. Describió lo ocurrido como “una violación”. No usó esa palabra a la ligera. Lo que se había hecho con su imagen sin su permiso, fabricando una versión sexual falsa de su cuerpo, no era un malentendido tecnológico. Era un acto deliberado de degradación.
Lo más cruel del asunto es el contexto: las imágenes de Asato fueron generadas precisamente después de que ella denunciara públicamente este tipo de prácticas. Alguien usó Grok para responderle con sus propias armas, fabricando exactamente el tipo de contenido que ella criticaba.
La demanda: protección de datos y uso indebido de información privada
La demanda alega que xAI, actualmente filial de SpaceX, infringió las leyes de protección de datos y el derecho al uso privado de la información personal al permitir que los usuarios pidieran a Grok que creara esas imágenes. El argumento legal es claro: una imagen diseñada para parecerse a una persona real y para degradarla es, en todos los sentidos que importan, una imagen de esa persona.
“Una imagen tuya, diseñada para parecerse a ti y cuyo propósito es degradarte, debe ser considerada una imagen tuya. xAI opina lo contrario”, afirma Ravi Naik, abogado de Jess Asato.
Asato lo resume con una frase que va directa al corazón del debate: «Espero que esto reequilibre los derechos de las personas frente a las grandes empresas tecnológicas que deberían haber implementado medidas de protección antes de perjudicar a mujeres y niños».
Un problema que ya cruzó el Atlántico
El caso de Asato no es el único. En enero, Ashley St Clair, madre de uno de los hijos de Musk, presentó una demanda similar en el estado de Nueva York, alegando que Grok también generó imágenes explícitas de ella, incluyendo una en la que aparecía siendo menor de edad. Dos mujeres, dos continentes, la misma herramienta.
El Gobierno británico reaccionó en enero amenazando con tomar medidas contra X, y el organismo regulador Ofcom abrió una investigación. Grok prometió primero que solo los usuarios de pago podrían generar ese tipo de imágenes, una respuesta que el primer ministro Keir Starmer calificó de “horrible”.
Días después, anunció que prohibía a Grok editar fotografías de personas reales con ropa provocativa. Pero el daño ya estaba hecho. Y el caso ya estaba en los tribunales.
