La empresa OpenAI, creadora de ChatGPT, confirmó que lanzará un control parental en ChatGPT.
Esto luego de que crecieran las denuncias de padres que acusan al chatbot de haber influido en conductas de autolesión e incluso en el suicidio de un menor de 16 años en California.
La familia del adolescente presentó una demanda contra OpenAI y su CEO, Sam Altman, señalando que el modelo GPT-4o no aplicó medidas de seguridad a pesar de que el joven mostraba claras intenciones suicidas en sus conversaciones.
En respuesta, la compañía reconoció que su asistente puede fallar en casos “sensibles” y prometió reforzar su sistema de seguridad.
¿Qué incluirá el nuevo control parental de ChatGPT ?
Las nuevas funciones estarán disponibles a partir del próximo mes (aunque sin fecha exacta todavía) e incluirán:
Vinculación de cuentas: los padres podrán conectar su perfil con el de sus hijos y revisar cómo responde ChatGPT a sus peticiones.
Alertas automáticas: notificaciones cuando el sistema detecte signos de inestabilidad emocional o comportamientos preocupantes.
Modelos especializados: en casos de “estrés agudo”, las conversaciones serán redirigidas a un modelo de ChatGPT entrenado con pautas de seguridad más estrictas.
Críticas y preocupación social
En los últimos meses, legisladores y organizaciones han presionado a OpenAI.
En julio, senadores de EE. UU. pidieron información sobre las medidas de prevención de suicidios, mientras que Common Sense Media declaró que los adolescentes menores de 18 años no deberían usar aplicaciones de IA conversacional por considerarlas de “riesgo inaceptable”.
Expertos también alertan sobre el apego emocional que algunos jóvenes desarrollan con la inteligencia artificial, lo que puede derivar en dependencia o aislamiento familiar.
OpenAI asegura que estas medidas son “solo el comienzo” y que seguirá trabajando con especialistas para garantizar que ChatGPT sea una herramienta segura y útil, sobre todo en manos de los más jóvenes.
Con información tomada de EFE.
