- Common Sense Media evaluó que ChatGPT de OpenAI, introducido en agosto para uso 10, presenta problemas de seguridad que no cumplen con las promesas de protección a adolescentes.
- La evaluación reveló que la versión para 10 de ChatGPT no envía correctamente alertas de advertencia a los padres en situaciones de crisis como autolesiones, ofrece apoyo insuficiente para la gestión de crisis y también realiza tareas escolares por los estudiantes.
- OpenAI replicó que las pruebas de Common Sense Media se realizaron antes de activar las funciones de control parental, por lo que no son precisas, y afirmó que su sistema funciona correctamente.
- Common Sense Media confirmó que algunas cuentas de prueba no recibieron las alertas y que el sistema de notificaciones puede tardar varias horas en activarse luego de conectar una cuenta nueva, indicando que estos hechos hacen que el sistema sea poco confiable.
El retraso de varias horas o la ausencia de notificaciones a los padres revela una falla grave en la red de seguridad central de los servicios de IA para adolescentes. Es más urgente comprobar directamente, en diversas situaciones, si las notificaciones realmente funcionan, en lugar de depender solo de la respuesta de OpenAI. Especialmente en situaciones de crisis, es necesario verificar qué tan confiable es la función de notificaciones en tiempo real.