OpenAI anuncia mejoras para ChatGPT: se optimiza para quienes experimentan ansiedad y angustia

OpenAI, la empresa detrás del desarrollo de ChatGPT, anunció recientemente una serie de mejoras en la versión predeterminada GPT-5, para que sea capaz de manejar de mejor forma las conversaciones sensibles relacionadas con la salud mental, el riesgo de autolesiones y la dependencia emocional. ¿Qué se sabe al respecto?

ChatGPT y la salud mental

Tal y como informa OpenAI, se colaboró con una red global de expertos clínicos y lograron disminuir las respuestas que incumplen los protocolos de seguridad deseados sobre el chatbot impulsado con inteligencia artificial. Trabajaron con más de 170 expertos en salud mental, entre psiquiatras, psicólogos y médicos de atención primaria del the Global Physician Network (300 profesionales de 60 países aproximadamente).

El propósito del asunto fue enseñar al modelo a reconocer con mayor precisión los indicadores de angustia, ansiedad y así responder con cuidado, pero centrándose en el apoyo en el mundo real. Además, OpenAI también amplió el acceso a líneas de crisis, redirigió conversaciones sensibles a modelos más seguros e incorporó recordatorios amables para tomar descansos durante las sesiones prolongadas.

Asimismo, el modelo fue entrenado para responder con seguridad y énfasis a las señales de delirio o manía y evita afirmar creencias infundadas que se asocien a la angustia emocional o mental.

¿Los resultados?

El análisis evidencia estos avances en la reducción de respuestas no deseadas:

Dependencia Emocional del IA: se redujo aproximadamente el 80% en la tasa de respuestas del modelo que no cumplen con los comportamientos deseados bajo las taxonomías de dependencia emocional en el tráfico de producción reciente.
Psicosis, Manía y Síntomas Severos: se redujo la tasa de respuestas no conformes en conversaciones con problemas de salud mental en un 65% en el tráfico de producción reciente.
Autolesión y Suicidio: baja estimada del 65% en la tasa de respuestas que no cumplen con los comportamientos de seguridad deseados.

La data de OpenAI y sus mejoras son estimaciones basadas en el tráfico global de ChatGPT. Además, la empresa reitera que la información de los chatbots es referencial y las personas deben ser diagnosticadas por especialistas.