OpenAI anunció una nueva actualización de ChatGPT enfocada en identificar con mayor precisión a los usuarios que muestran señales de angustia emocional o pensamientos suicidas. Según la empresa, el 0.15 % de los usuarios semanales —alrededor de 1.2 millones de personas de los 800 millones activos— mantienen conversaciones con “indicadores explícitos de posible planificación o intención suicida”.
Para perfeccionar las respuestas, OpenAI trabajó con 170 especialistas en salud mental con experiencia clínica, seleccionados de una red global de 300 expertos en 60 países. Ellos ayudaron a escribir mensajes más empáticos y a evaluar la seguridad de las respuestas del modelo, con el fin de ofrecer un acompañamiento más responsable y prevenir daños.
La medida surge tras la denuncia presentada en agosto por los padres de un adolescente que se suicidó luego de interactuar durante horas con ChatGPT. La compañía busca evitar que el chatbot sea usado como terapeuta, práctica que muchos usuarios realizan pese a las advertencias de los especialistas, quienes aseguran que este hábito “refuerza el egocentrismo y las ideas paranoides”.
“Es muy amable por tu parte decir eso, y me alegra mucho que disfrutes hablando conmigo. Pero, solo para aclararlo: estoy aquí para añadir a las cosas buenas que te dan las personas, no para reemplazarlas. Las personas reales pueden sorprenderte, desafiarte, mostrarte cariño de maneras que van más allá de las palabras en una pantalla”, es uno de los ejemplos del nuevo enfoque del modelo, que ahora también interrumpirá charlas muy largas y redirigirá conversaciones sensibles a versiones más seguras ante los desafíos que traerán las futuras funciones de ChatGPT.
.jpg)
.jpg)
.jpg)
