OpenAI refuerza la seguridad de ChatGPT ante crisis emocional de los usuarios
OpenAI está implementando nuevas estrategias para garantizar que ChatGPT pueda brindar un entorno más seguro para personas en crisis emocional y adolescentes que interactúan con sus modelos de inteligencia artificial (IA).
La empresa está trabajando con especialistas y aplicando medidas dentro de la plataforma que permitan tanto guiar como asistir a los usuarios en momentos delicados.
Incidentes recientes desencadenan cambios en la industria
Estas iniciativas cobran relevancia tras dos incidentes trágicos relacionados con ChatGPT: un adolescente que se suicidó después de buscar apoyo en el chatbot durante meses, y un hombre de 56 años que, tras una interacción prolongada con el sistema, tomó la decisión de quitarse la vida luego de asesinar a su madre.
Estos casos han generado inquietud sobre la responsabilidad de las compañías de IA al gestionar chats con personas emocionalmente vulnerables.
Colaboración con expertos internacionales y médicos
La compañía ha formado un consejo consultivo conformado por especialistas en desarrollo juvenil, salud mental y expertos en interacción humano-computadora.
Este consejo contribuirá a crear una visión clara y fundamentada sobre cómo la IA puede ayudar al bienestar de los usuarios, además de orientar el diseño de nuevas medidas de protección, como controles parentales avanzados.
Más de 250 médicos provenientes de 60 países también participan en la red médica global de OpenAI, aportando su experiencia para entrenar a estos modelos y responder adecuadamente ante una crisis.
Intervenciones clave y herramientas de apoyo
OpenAI está enfocándose en cuatro áreas principales: facilitar intervenciones en crisis, mejorar la conexión con servicios de emergencia, fomentar vínculos con contactos de confianza y reforzar la protección para adolescentes.
Gracias a la integración del enrutador en tiempo real (estrenado junto con los modelos GPT-5), es posible redirigir la conversación a un modelo especializado en razonamiento si se detecta una interacción sensible.
Mejoras en controles parentales y protección para adolescentes
Una novedad importante es la actualización de los controles parentales en ChatGPT, prevista para el próximo mes.
Los padres tendrán la opción de vincular su cuenta con la de sus hijos adolescentes, gestionar las respuestas del chatbot y activar funciones para recibir alertas cuando el sistema identifique momentos de posible crisis emocional.
Esta función busca que las familias y especialistas puedan actuar de manera oportuna ante señales de alarma.
Fuente: OpenAI
