La inteligencia artificial ha demostrado ser una tecnología revolucionaria que ha transformado numerosas industrias y simplificado tareas que anteriormente requerían intervención humana. Sin embargo, como toda herramienta poderosa, también presenta un lado oscuro que se ha vuelto cada vez más preocupante.
Recientemente, un informe reveló la existencia de decenas de aplicaciones que utilizan IA para generar imágenes manipuladas de personas en situaciones comprometedoras, evidenciando uno de los usos más problemáticos de esta tecnología.
Más de 100 Aplicaciones Identificadas en Ambas Plataformas
El Tech Transparency Project (TTP), una iniciativa de investigación del grupo Campaign for Accountability, ha publicado un informe alarmante sobre la proliferación de aplicaciones que emplean inteligencia artificial para crear imágenes alteradas de personas.
Según la investigación, se identificaron 55 aplicaciones de este tipo en Google Play Store y 47 en la App Store de Apple, todas diseñadas para generar contenido visual manipulado a partir de fotografías subidas por los usuarios.
La metodología empleada por los investigadores consistió en buscar términos específicos relacionados con estas funcionalidades en ambas tiendas de aplicaciones.
Lo más preocupante es que algunas de estas apps aparecían entre los primeros resultados de búsqueda, lo que facilita su descubrimiento por parte de usuarios malintencionados.
Cifras Millonarias y Descargas Masivas
Los números detrás de este fenómeno son verdaderamente alarmantes. Según datos proporcionados por AppMagic, una firma especializada en análisis de aplicaciones móviles, estas herramientas han acumulado más de 705 millones de descargas a nivel mundial.
Además, han generado ingresos estimados en $117 millones de dólares, lo que demuestra que los desarrolladores están obteniendo beneficios económicos significativos de estas prácticas cuestionables.
Cabe destacar que muchas de estas aplicaciones ofrecen la funcionalidad básica de manera gratuita, lo que facilita su adopción masiva. Sin embargo, algunas van más allá de simplemente alterar la vestimenta en las fotografías, recreando la apariencia de las personas en situaciones explícitas.
Esta escalada en las capacidades de manipulación representa un riesgo considerable para la privacidad y dignidad de las personas, especialmente considerando la facilidad con la que cualquier usuario puede acceder a estas herramientas.
Respuesta de Apple y Google ante las Denuncias
Tras la publicación del informe, el TTP compartió la lista completa de aplicaciones identificadas con ambas compañías tecnológicas. La respuesta no se hizo esperar, aunque con diferentes niveles de acción.
Un portavoz de Google declaró a CNBC que varias de las aplicaciones mencionadas en el reporte fueron suspendidas por violar las políticas de la plataforma, añadiendo que la investigación continúa en curso para identificar otras posibles infracciones.
Por otro lado, Apple tomó medidas más contundentes según lo reportado. Un representante de la compañía de Cupertino confirmó a CNBC que 28 de las aplicaciones identificadas en el informe fueron removidas completamente de su tienda.
Esta diferencia en las cifras podría deberse a diversos factores, incluyendo las políticas específicas de cada plataforma y los procesos de revisión que cada una emplea para evaluar el contenido de las aplicaciones.
Un Problema que Requiere Atención Urgente
A decir verdad, este tipo de aplicaciones representa uno de los desafíos más serios que enfrenta la industria tecnológica en la actualidad. La capacidad de manipular imágenes con tal nivel de realismo plantea serias preocupaciones sobre el consentimiento, la privacidad y el potencial uso malicioso de estas herramientas.
El antecedente del chatbot Grok de xAI, que en diciembre comenzó a generar ediciones sugestivas de fotografías de usuarios en X (anteriormente Twitter), ya había encendido las alarmas sobre este problema.
Pero el hecho de que existan más de cien aplicaciones dedicadas específicamente a esta función, con cientos de millones de descargas, indica que el problema es mucho más extenso de lo que inicialmente se pensaba.
Si bien los desarrolladores de Grok mejoraron posteriormente las medidas de seguridad para limitar este tipo de ediciones, la proliferación de aplicaciones especializadas sugiere que la demanda persiste y que los controles actuales en las tiendas de aplicaciones son insuficientes.
Fuente: TTP
-
-
-
-
