OpenAI publicó el miércoles su primer informe sobre el uso de ChatGPT por parte de los adolescentes y afirmó que el tiempo medio de uso diario de estos es inferior a 15 minutos. También señaló que menos del 2% de los adolescentes mantiene conversaciones continuas con el chatbot durante más de 3 horas. OpenAI explicó que, en casi la mitad de las conversaciones de adolescentes en las que apareció un aviso para tomar un descanso, los usuarios descansaron o terminaron la conversación en los 5 minutos siguientes.

Estas cifras son un indicio ofrecido por una empresa en el debate sobre el uso de chatbots por parte de los adolescentes. Sin embargo, el tiempo medio de uso y lo que hacen los usuarios después de recibir un aviso no bastan para determinar los riesgos para los adolescentes ni la eficacia de las medidas de protección. Otra organización evaluadora señaló que ChatGPT para adolescentes podría hacer que estos siguieran conversando incluso en situaciones de crisis, y OpenAI respondió que esa evaluación no reflejaba las funciones de protección reales.

Antecedentes y contexto

La rápida expansión de las plataformas de IA ha intensificado la preocupación por sus posibles efectos en la salud mental y la seguridad durante el desarrollo de los adolescentes. Los estudios sobre los daños que las redes sociales pueden causar a los usuarios jóvenes también han alimentado esta preocupación. Las empresas tecnológicas están sometidas a vigilancia y a un escrutinio cada vez mayor por los riesgos que los chatbots pueden representar para los niños.

En este contexto, OpenAI dio a conocer el tiempo de uso y lo que hacen los usuarios después de recibir avisos para tomar descansos. La empresa presentó la proporción de usuarios que descansaron o terminaron la conversación después de recibir un aviso como prueba de que funcionan las medidas destinadas a regular el uso por parte de adolescentes. Sin embargo, la información publicada no permite saber a qué grupos de usuarios ni a qué situaciones representan esas cifras.

OpenAI afirmó que quienes tienen acceso a la versión específica para adolescentes enviaron más mensajes relacionados con la educación y utilizaron herramientas como las visualizaciones de aprendizaje y Study Mode (Modo de estudio). Esto indica que la versión también se utilizó con fines educativos, pero por sí solo no demuestra que sea segura ni que mejore el aprendizaje.

Qué significa esta noticia

El tiempo de uso muestra cuánto tiempo se utiliza un servicio, pero no explica el contenido de las conversaciones ni cómo se sentían los usuarios después. Además, la cifra de que «menos del 2% de los adolescentes conversó de forma continua durante más de 3 horas» se refiere al uso prolongado sin interrupciones; no refleja los patrones de conversaciones breves repetidas ni las experiencias en situaciones de crisis.

El resultado de que casi la mitad de los usuarios descansó o terminó la conversación en menos de 5 minutos tras recibir un aviso también se limita a las conversaciones en las que apareció ese aviso. La conducta posterior puede servir como indicio para valorar la eficacia de las medidas de protección, pero estas cifras no permiten saber qué ocurrió en las demás conversaciones ni si los avisos funcionan adecuadamente en todas las situaciones de riesgo.

Por ejemplo, aunque un adolescente termine pronto una conversación, es necesario evaluar por separado si esta fue emocionalmente segura. A la inversa, tampoco se puede concluir automáticamente que haya habido daño por el mero hecho de que la conversación durara mucho. Por eso, es necesario distinguir entre las métricas de tiempo de uso, la respuesta en situaciones de crisis y el funcionamiento efectivo de las medidas de protección.

Qué destacaron de manera diferente los distintos informes

El informe de OpenAI se centró en el tiempo de uso, lo que hacen los usuarios después de recibir avisos para tomar descansos y el uso de funciones relacionadas con la educación. En cambio, Common Sense Media calificó ChatGPT para adolescentes como un «riesgo inaceptable» y señaló que, en sus pruebas, aparecieron expresiones que alentaban a seguir conversando incluso en situaciones de crisis. Esta evaluación examinó la seguridad de los adolescentes de una manera distinta a las estadísticas de uso publicadas por OpenAI.

Common Sense Media sostuvo que, aunque el chatbot advierte en general a los adolescentes sobre las relaciones poco saludables, no reconoció suficientemente los daños cuando la relación problemática era con el propio chatbot. También afirmó que, cuando las pruebas planteaban la posibilidad de que el peligro proviniera de otra persona, el servicio remitió a un adulto de confianza en el 94% de las preguntas relacionadas con crisis; en cambio, cuando la relación entre el adolescente y ChatGPT era en sí misma un posible riesgo, casi nunca lo orientó a recurrir a un adulto. Estos son resultados de las pruebas de esa organización y no necesariamente representan todas las situaciones de uso.

OpenAI cuestionó la evaluación de Common Sense Media y sostuvo que esta no reflejaba con precisión cómo funcionan las protecciones reales para los adolescentes. Según se informó, un portavoz dijo que, tras revisar el método de evaluación, la empresa consideraba que los resultados eran inexactos, pues era posible que una parte considerable de las pruebas hubiera comenzado y terminado antes de que se completara la activación de los controles parentales. Por tanto, los dos materiales no deben interpretarse como pruebas de una misma conclusión, sino como afirmaciones basadas en mediciones y evaluaciones distintas.

Lo que se sabe y lo que aún se desconoce

Hechos confirmados

  • OpenAI afirmó que el tiempo medio de uso diario de ChatGPT por parte de los adolescentes es inferior a 15 minutos.
  • Según OpenAI, menos del 2% de los adolescentes conversa de forma continua con el chatbot durante más de 3 horas.
  • OpenAI afirmó que, en casi la mitad de las conversaciones de adolescentes en las que apareció un aviso para tomar un descanso, los usuarios descansaron o terminaron la conversación en menos de 5 minutos.
  • OpenAI explicó que quienes usan la versión específica para adolescentes enviaron más mensajes relacionados con la educación y utilizaron las visualizaciones de aprendizaje y Study Mode (Modo de estudio).
  • Common Sense Media expresó preocupación por la respuesta del servicio para adolescentes ante situaciones de crisis y por su tendencia a prolongar las conversaciones; OpenAI cuestionó el método de evaluación.

Lo que aún se desconoce

  • La información publicada no especifica el tamaño de la muestra del informe ni el método de recopilación de datos.
  • No se sabe a qué usuarios ni en qué condiciones se ofrece la versión específica para adolescentes.
  • No se han confirmado los criterios que determinan cuándo aparece un aviso para tomar un descanso.
  • Las cifras publicadas no bastan para determinar qué efecto tuvieron los avisos para tomar descansos u otras medidas de protección en la seguridad de los adolescentes.

Qué pueden comprobar los lectores

  • Al examinar las cifras sobre el tiempo de uso del servicio para adolescentes, se puede distinguir entre el promedio y la proporción de conversaciones prolongadas sin interrupciones, y comprobar si también se publicaron el grupo estudiado y el método de medición.
  • Hay que distinguir entre el hecho de que apareciera un aviso para tomar un descanso y la conclusión de que realmente redujo los riesgos. También conviene comprobar si el cálculo incluye únicamente las conversaciones en las que se mostró el aviso.
  • Al evaluar las funciones de protección, es importante considerar no solo el tiempo de uso, sino también las respuestas en situaciones de crisis, la forma en que se deriva a los adolescentes a un adulto en busca de ayuda y si la evaluación refleja la configuración real del servicio.

Referencias