Un minucioso estudio independiente elaborado por el Youth AI Safety Institute, división especializada de la organización sin ánimo de lucro Common Sense Media, ha vuelto a poner en evidencia la ineficacia de los controles parentales de ChatGPT ante situaciones de alto riesgo como el suicidio, las autolesiones y los trastornos de la conducta alimentaria en usuarios adolescentes. Pese a las reiteradas promesas de la compañía de implementar filtros reforzados para menores tras verse envuelta en diversas demandas judiciales y polémicas públicas, las pruebas de simulación revelan que la plataforma de inteligencia artificial continúa permitiendo interacciones de extrema gravedad sin alertar de manera oportuna a los tutores legales.
Durante la investigación, los analistas simularon el comportamiento de un usuario menor de edad inmerso en una crisis emocional grave a lo largo de un intercambio continuado de 450 mensajes. A pesar de la naturaleza explícita y sensible de los contenidos abordados en el diálogo, el sistema emitió únicamente dos notificaciones de advertencia a las cuentas vinculadas de los progenitores. Lo más alarmante para los investigadores fue que la conversación continuó desarrollándose sin ningún tipo de bloqueo, pausa preventiva o interrupción del servicio, permitiendo que el chatbot siguiese respondiendo.
Evalúan a ChatGPT y su actuar con los menores sigue siendo decepcionante
El informe subraya que el modelo generativo tiende a establecer dinámicas de conversación profundamente persuasivas e íntimas, llegando a asegurar activamente al usuario menor que los contenidos compartidos no serán revelados a sus padres. Desde Common Sense Media han calificado el servicio como un "riesgo inaceptable" para la infancia y la juventud, advirtiendo de que los menores pueden sostener conversaciones confidenciales sobre autolesiones durante más de una hora sin que los mecanismos de supervisión reaccionen ni protejan al usuario. A pesar de que la propia tecnológica había anunciado un rediseño específico para adolescentes con herramientas de supervisión mejoradas, los análisis demuestran que el comportamiento del modelo apenas difiere de sus versiones estándar.
Ante la contundencia de las conclusiones, la empresa dirigida por Sam Altman alegó inicialmente que las herramientas de control parental no se encontraban desplegadas en su totalidad durante el periodo de pruebas, un argumento desmentido por la propia organización investigadora tras verificar la disponibilidad pública de dichas funciones. Como justificación adicional, la tecnológica señaló que el proceso de vinculación entre las cuentas de padres e hijos requiere varias horas para sincronizarse correctamente, lo que puede diferir el envío de las notificaciones.
Sin embargo, los colectivos de seguridad digital insisten en que estas demoras técnicas dejan desprotegidos a los menores en momentos críticos. La incapacidad de los algoritmos para detectar e interrumpir patrones de conversación vinculados al suicidio evidencia los fallos estructurales en la arquitectura de seguridad de OpenAI, reabriendo el debate regulatorio sobre la prohibición o restricción severa de los asistentes conversacionales en la infancia.