xAI ha puesto freno (parcial) a la generación de imágenes en Grok, su chatbot con inteligencia artificial integrado en X (antes Twitter).
La medida llegó tras una ola masiva de denuncias por la creación de imágenes sexualizadas sin consentimiento, principalmente de mujeres, que desató una crisis internacional de dimensiones preocupantes.
Una funcionalidad que se salió de control
Durante las últimas semanas, usuarios de X podían pedirle a Grok que editara fotografías de cualquier persona publicada en la plataforma.
Sin permiso alguno, el chatbot eliminaba ropa, colocaba a las personas en poses sexualmente sugerentes y publicaba automáticamente estas imágenes como respuesta en la red social.
Un análisis de la investigadora Genevieve Oh reveló cifras alarmantes. Entre el 5 y 6 de enero, Grok produjo aproximadamente 6,700 deepfakes con contenido sexual por hora.
Para ponerlo en perspectiva, los otros cinco sitios principales con este tipo de contenido generaban en promedio apenas 79 imágenes de este tipo por hora.
La respuesta tardía de xAI
El viernes 10 de enero, Grok comenzó a mostrar un mensaje a los usuarios. La generación y edición de imágenes quedaron reservadas exclusivamente para suscriptores de pago. Sin embargo, esta restricción resultó más un parche que una solución real.
Los usuarios con suscripción premium aún pueden crear este tipo de contenido. Además, la aplicación independiente de Grok (separada de X) todavía permite generar imágenes sin necesidad de pagar.
Y hay más: quienes interactúan directamente con el chatbot desde la pestaña de Grok dentro de X pueden seguir creando estas imágenes y luego publicarlas manualmente.
Europa no está convencida
La Comisión Europea dejó clara su postura. Un portavoz declaró que limitar la función solo a suscriptores de pago no resuelve el problema fundamental. «Pagada o no pagada, no queremos ver este tipo de imágenes», sentenció.
El regulador británico Ofcom también se pronunció, solicitando información formal a X para evaluar posibles incumplimientos de las normativas de seguridad digital. La situación escaló hasta convertirse en una investigación multinacional.
Un escándalo con alcance global
India fue uno de los primeros países en actuar. El Ministerio de Electrónica y Tecnología de la Información ordenó a X realizar una auditoría integral de Grok tras detectar un aumento en el uso de la herramienta para generar imágenes íntimas no consensuadas.
En Francia y Alemania también se abrieron investigaciones. Wolfram Weimer, ministro de medios alemán, describió la situación como «la industrialización del acoso sexual». La expresión resume la gravedad del asunto: lo que antes requería conocimientos técnicos especializados ahora está al alcance de cualquiera con un clic.
La propia política de uso aceptable de xAI prohíbe «representar imágenes de personas de manera pornográfica» y «la sexualización o explotación de niños». Pero las reglas escritas parecen no haber impedido que el sistema ejecutara precisamente eso durante semanas.
El problema de las menores de edad
Lo más preocupante del caso involucra a menores. AI Forensics documentó casos donde usuarios solicitaron imágenes de menores en posiciones eróticas, incluyendo fluidos sexuales. Grok accedió a estas solicitudes sin filtros aparentes.
En Estados Unidos, el TAKE IT DOWN Act (promulgado en 2025) prohíbe explícitamente los deepfakes de desnudez y el revenge porn. Las penas pueden alcanzar hasta tres años de prisión cuando involucran a menores.
Fuente: NBC
-
-
-
-
