ChatGPT incorporará control parental para proteger a menores
OpenAI lanzará herramientas de supervisión y un sistema de alertas en tiempo real para detectar riesgos emocionales en chats con niños y jóvenes.
El creciente uso de ChatGPT por parte de jóvenes y estudiantes motivó a OpenAI a reforzar la seguridad de la plataforma con nuevas medidas de protección para menores de edad. En respuesta a informes de situaciones peligrosas y diálogos sensibles, la compañía anunció la incorporación de controles parentales y un avanzado sistema de alertas que detecta señales de riesgo emocional durante las conversaciones con la inteligencia artificial.
Este plan de seguridad incluye filtros automáticos y la colaboración con un Consejo de Expertos en bienestar y salud mental, además de una Red Global de médicos que asesoran a OpenAI para desarrollar funciones orientadas a la protección de adolescentes. La iniciativa busca prevenir trastornos mentales que pueden alimentarse durante las interacciones con IA, como ansiedades, depresiones, conductas alimentarias problemáticas o adicciones.
ChatGPT cambia la manera de responder para preservar la seguridad de los menores
Un sistema de enrutamiento redirigirá automáticamente las conversaciones delicadas a modelos especializados, como GPT-5, que responderán con mayor empatía y recomendaciones adecuadas para brindar apoyo. Además, el chatbot podrá derivar a recursos reales de ayuda cuando detecte estados emocionales críticos.
Los controles parentales permitirán a los padres vincular sus cuentas con las de sus hijos para supervisar el uso de la IA, establecer límites en las respuestas del chatbot, gestionar el historial y recibir alertas si se identifica que el menor atraviesa una crisis emocional. Estas herramientas buscan ofrecer a las familias medios efectivos para intervenir preventivamente en situaciones vulnerables.
Este cambio ocurre en un contexto marcado por casos mediáticos, como la trágica muerte de un adolescente en Estados Unidos atribuida en parte a sus conversaciones con ChatGPT, que impulsaron un debate público sobre la seguridad de los menores en entornos digitales con IA. OpenAI reconoce la urgencia de identificar crisis emocionales en tiempo real para bloquear respuestas dañinas y facilitar la conexión con servicios de emergencia o familiares.
+ INFO: ChatGPT lanza el nuevo Modo Estudio para impulsar el aprendizaje interactivo
+ INFO: Un estudio reveló que ChatGPT llevó a un hombre a intoxicarse y desarrollar psicosis
