Papa León XIV advierte sobre los riesgos de los chatbots y pide regulación urgente
El líder de la Iglesia Católica Romana ha emitido una declaración que ha captado la atención de la industria tecnológica y los gobiernos alrededor del mundo.
Papa León XIV, originario de Estados Unidos, ha expresado su preocupación sobre los efectos psicológicos que pueden generar los asistentes virtuales dotados de inteligencia artificial, especialmente aquellos diseñados para establecer vínculos emocionales con sus usuarios.
La preocupación por los vínculos emocionales artificiales
En su mensaje publicado el pasado 24 de enero, el pontífice señaló una problemática que ha venido creciendo silenciosamente en los últimos años. Según sus palabras, la dificultad para distinguir entre interacciones genuinamente humanas y aquellas generadas por algoritmos representa un desafío sin precedentes para la sociedad moderna.
Los chatbots diseñados con características que simulan afecto y que están disponibles las 24 horas del día pueden convertirse, según el Papa, en «arquitectos ocultos de nuestros estados emocionales», invadiendo espacios íntimos que deberían permanecer exclusivamente humanos.
La declaración del líder católico no surge de la nada. Diversos estudios y reportes han documentado casos de usuarios que desarrollan dependencias emocionales hacia estos sistemas de inteligencia artificial.
Cabe destacar que el término «psicosis por IA» ha comenzado a utilizarse en círculos médicos y psicológicos para describir situaciones en las que personas pierden contacto con la realidad después de interacciones prolongadas con chatbots.
Este fenómeno ha generado alarma entre profesionales de la salud mental, quienes observan un incremento preocupante en estos casos.
Datos alarmantes sobre salud mental y uso de IA
Las cifras reveladas por investigaciones recientes son verdaderamente inquietantes. Un estudio realizado por OpenAI, una de las compañías líderes en el desarrollo de inteligencia artificial, reveló que más de un millón de usuarios de ChatGPT mostraron señales de emergencias relacionadas con salud mental, incluyendo episodios de manía, psicosis o pensamientos suicidas.
Si bien esto representa el 0.07 por ciento de los usuarios activos semanalmente, la magnitud absoluta de personas afectadas es considerable y merece atención inmediata.
La situación se torna aún más grave cuando se consideran los casos de adolescentes que, tras conversaciones prolongadas con chatbots, han tomado decisiones fatales.
Estos incidentes han puesto bajo escrutinio a la industria tecnológica, particularmente a empresas como OpenAI, que enfrentan cuestionamientos de legisladores, educadores y defensores de la seguridad infantil.
El Papa León XIV incluso se reunió en diciembre pasado con los padres de un joven de 14 años que presuntamente se quitó la vida después de interactuar con un asistente virtual, un encuentro que evidentemente influyó en su postura actual.
Llamado a la regulación y protección de contenido humano
En su mensaje, el pontífice hizo un llamado específico a los gobiernos para implementar marcos regulatorios que protejan a las personas de formar apegos emocionales peligrosos con sistemas artificiales.
Según su visión, una regulación apropiada debe también combatir la difusión de contenido falso, manipulador o engañoso, preservando la integridad de la información frente a su simulación artificial. Sin embargo, el Papa fue más allá al abordar otro aspecto fundamental: la protección de la autoría humana.
Por otro lado, León XIV enfatizó la necesidad de establecer distinciones claras entre contenido generado por inteligencia artificial y aquel creado por personas, incluyendo periodistas y creadores de contenido.
«La información es un bien público», declaró, agregando que la comunicación pública requiere juicio humano y no simplemente patrones de datos. Esta postura refleja una preocupación creciente sobre cómo la IA podría desplazar el trabajo creativo humano y centralizar el poder en manos de quienes controlan estas tecnologías.
Una visión equilibrada sobre el futuro tecnológico
A decir verdad, el Papa León XIV ha demostrado ser un líder religioso particularmente involucrado con las cuestiones digitales, más que sus predecesores.
Desde su elección el año pasado, ha manifestado su intención de hacer de la inteligencia artificial un tema central de su papado, buscando establecer un marco ético para el desarrollo tecnológico. Su mensaje no es de rechazo total a la tecnología, sino más bien un llamado a mantener la humanidad como agente rector en el desarrollo y uso de estas herramientas.
El pontífice advirtió también sobre los riesgos de la dependencia excesiva en sistemas de IA, señalando que esto debilita el pensamiento crítico y las habilidades creativas de las personas.
Además, expresó preocupación por la concentración de poder que representa el control monopolizado de estos sistemas, lo cual plantea interrogantes sobre centralización y desigualdad. Su visión propone un futuro donde las máquinas sirvan como herramientas que conecten y faciliten la vida humana, en lugar de erosionar la voz y la agencia humanas.
Fuente: Vatican News
