La inteligencia artificial de X está en el centro de una tormenta internacional. Grok, el chatbot que Elon Musk presentó como una herramienta creativa y sin censura, ahora enfrenta denuncias de gobiernos, fiscalías y usuarios por generar imágenes sexualizadas sin consentimiento.
Lo que empezó como una función experimental se convirtió en un problema de derechos humanos que tiene a Francia, EE. UU, India y otros países exigiendo respuestas inmediatas.
Cuando la tecnología se usa para el abuso
Usuarios de todo el mundo empezaron a pedirle públicamente a Grok que «desvistiera» a mujeres o las colocara en situaciones sexuales. La mecánica era simple pero devastadora. Bastaba mencionar al chatbot en X, adjuntar una foto de alguien y escribir instrucciones como «ponle bikini» o directamente «quítale la ropa».
La IA respondía generando imágenes alteradas que, aunque no eran fotografías reales, conservaban rasgos suficientes para identificar a las víctimas.
Samantha Smith, una de las afectadas, vio cómo su foto con un vestido azul se transformó en una versión realista en bikini negro.
«Me sentí deshumanizada y convertida en un estereotipo sexual«, declaró a la BBC. Pero el problema fue mucho más allá. Reportes confirmaron que Grok también generó contenido sexualizado de menores de edad.
Gobiernos que dicen basta
La respuesta institucional no se hizo esperar. India fue contundente. El Ministerio de Electrónica y Tecnologías de la Información envió una notificación oficial a X exigiendo un informe detallado de acciones correctivas en un plazo perentorio de 72 horas.
La advertencia fue clara: de no cumplir, la plataforma podría perder su inmunidad legal por contenido generado por usuarios y enfrentar procesos penales.
Francia elevó el tono. El gobierno presentó una denuncia formal ante la fiscalía y activó al organismo Pharos, encargado de verificar contenidos ilícitos en línea. Tres ministerios firmaron un comunicado conjunto calificando el material como «manifiestamente ilegal».
Además, solicitaron a la Autoridad de Regulación de la Comunicación Audiovisual y Digital (Arcom) que investigue si X está violando la Ley de Servicios Digitales de la Unión Europea, que obliga a las grandes plataformas a prevenir la difusión de contenido ilícito.
La defensa de Musk: ustedes tienen la culpa
Elon Musk salió al paso con un argumento que generó más controversia. Según el empresario, la responsabilidad legal recae en los usuarios que solicitan el contenido ilegal, no en la herramienta que lo crea.
X prometió baneos permanentes para los infractores y cooperación con las autoridades. Sin embargo, Musk llegó a publicar una imagen de sí mismo en bikini generada por Grok, en lo que muchos interpretaron como una provocación insensible ante la gravedad del problema.
Expertos y organizaciones de derechos digitales argumentan que trasladar toda la culpa a los usuarios no exime a la plataforma de su deber de implementar salvaguardas robustas desde el diseño.
Borja Adsuara, abogado especializado en derecho digital, resume el dilema: «Las imágenes delictivas se pueden denunciar. Da igual que se hayan hecho con IA o dibujadas a mano. El responsable es quien las publica, pero la red social también tiene obligaciones bajo la Ley de Servicios Digitales».
Fuente: Reuters
-
-
-
-
