ChatGPT implementó control parental para alertar posibles signos de autolesiones: expertos advierten que “no es suficiente”

OpenIA comenzó a implementar un control parental para las cuentas de ChatGPT de adolescentes, las que alertarán a sus padres ante posibles situaciones como autolesiones. No es la primera vez que la Inteligencia Artificial está en el ojo del huracán con respecto a la salud mental, dado que padres estadounidenses han acusado que sus hijos hablaron con ella sobre quitarse la vida y no había un mecanismo en que la IA los alertara.

Desde OpenIA explicaron que “este trabajo es parte de nuestro esfuerzo continuo por hacer que ChatGPT sea útil para todos, y por dar a las familias herramientas para acompañar el uso de IA por parte de los adolescentes. También estamos desarrollando un sistema de predicción de edad, para estimar automáticamente si un usuario es menor de 18 años y aplicar configuraciones adecuadas para adolescentes cuando sea necesario”.

“Hemos colaborado con expertos, organizaciones de defensa como Common Sense Media, y responsables políticos (incluidos los fiscales generales de California y Delaware) para dar forma a nuestro enfoque. Planeamos refinar y ampliar estos controles con el tiempo“, recalcaron.

¿Cómo implementar el control parental de ChatGPT?

El padre o tutor debe enviar una invitación al adolescente para vincular las cuentas. Una vez que se acepta, el padre podrá gestionar las configuraciones y si el adolescente desvincula la cuenta, el tutor será notificado de aquello. Cuando las cuentas estén conectadas, la cuenta del adolescente recibirá automáticamente protecciones de contenido más estrictas, como:

• Reducción de contenido gráfico
• Menor exposición a desafíos virales
• Restricciones a roles sexuales, románticos, violentos extremos
• Protección frente a ideales extremos de belleza

Los padres podrán desactivar estas protecciones, pero el adolescente no podrá modificarlas. También podrán activar o desactivar las siguientes opciones:

• Establecer horarios tranquilos (quiet hours) para cuando ChatGPT no puede usarse
• Desactivar el modo de voz
• Desactivar la memoria, para que ChatGPT no use recuerdos de conversaciones anteriores
• Quitar la capacidad de generar o editar imágenes
• Optar para que las conversaciones del adolescente no sean usadas para entrenar modelos

“Debiera posibilitarse el uso de celular propio a partir de los 15 ó 16 años”

La directora del Doctorado en Psicología UDP e Investigadora Centro de Estudios en Neurociencia Humana y Neuropsicología, Alejandra Rossi, aseguró a The Clinic que definitivamente se deben implementar los controles parentales. Sin embargo, recalca que “esta medida no es suficiente para proteger la salud mental de los niños, niñas y adolescentes. La educación en el tema es más importante. ¿Cómo funcionan estas IA? ¿Cuáles son sus sesgos, errores, problemas?, que los padres sepan con que herramienta están interactuando es fundamental”.

Consultada sobre si existen riesgos en la supervigilancia, Rossi indicó que “como en todo, es muy posible. Me parece que hay que separar el acceso a tecnologías de manera más o menos supervisadas que tener un celular y acceder a todo un mundo, redes sociales de forma importante, entre medio. Tomando en cuenta la evidencia, debiera posibilitarse el uso de celular propio a partir de los 15 ó 16 años, no antes“.

Sobre a las señales a las que debe estar atento un padre, la académica indicó que algunas de ellas pueden ser el “excesivo retraimiento, cansancio durante el día (eso puede indicar que está durmiendo mal, tarde o no durmiendo), irritabilidad ‘no esperada’ o excesiva (entendiendo que ciertos niveles de irritabilidad es normal en adolescentes. Pero en ese sentido se hace muy importante conocerle bien y/o cambios repentinos de hábitos o conductas”.