OpenAI anunció nuevas medidas para que ChatGPT no brinde asesoramiento directo en desafíos personales, con el fin de evitar fomentar comportamientos poco saludables. A partir de ahora, la herramienta invitará a los usuarios a tomar descansos en conversaciones largas y optará por guiar con preguntas o evaluaciones de pros y contras, en lugar de dar consejos directos.
La compañía explicó que su modelo GPT-4o ha fallado en reconocer señales de delirio o dependencia emocional en algunos casos, por lo que incorporó expertos en salud mental para mejorar las respuestas en situaciones delicadas. También trabajó con más de 90 médicos y creó rúbricas para evaluar interacciones complejas, además de conformar un grupo asesor en salud mental y desarrollo juvenil.
El anuncio coincide con otras novedades como el lanzamiento del modo agente y los rumores sobre GPT-5. Sam Altman, CEO de OpenAI, advirtió que las conversaciones con ChatGPT no tienen la misma protección legal que las mantenidas con terapeutas o abogados, y podrían ser utilizadas en procesos judiciales. Con más de 700 millones de usuarios activos semanales proyectados, la empresa asegura que su éxito no se medirá por el tiempo de uso, sino por la utilidad real que perciban las personas.