imagen tomada de cronista.com
La empresa OpenAI, creadora de ChatGPT, confirmó que lanzará un control parental en ChatGPT.
Esto luego de que crecieran las denuncias de padres que acusan al chatbot de haber influido en conductas de autolesión e incluso en el suicidio de un menor de 16 años en California.
La familia del adolescente presentó una demanda contra OpenAI y su CEO, Sam Altman, señalando que el modelo GPT-4o no aplicó medidas de seguridad a pesar de que el joven mostraba claras intenciones suicidas en sus conversaciones.
En respuesta, la compañía reconoció que su asistente puede fallar en casos “sensibles” y prometió reforzar su sistema de seguridad.
Las nuevas funciones estarán disponibles a partir del próximo mes (aunque sin fecha exacta todavía) e incluirán:
Vinculación de cuentas: los padres podrán conectar su perfil con el de sus hijos y revisar cómo responde ChatGPT a sus peticiones.
Alertas automáticas: notificaciones cuando el sistema detecte signos de inestabilidad emocional o comportamientos preocupantes.
Modelos especializados: en casos de “estrés agudo”, las conversaciones serán redirigidas a un modelo de ChatGPT entrenado con pautas de seguridad más estrictas.
En los últimos meses, legisladores y organizaciones han presionado a OpenAI.
En julio, senadores de EE. UU. pidieron información sobre las medidas de prevención de suicidios, mientras que Common Sense Media declaró que los adolescentes menores de 18 años no deberían usar aplicaciones de IA conversacional por considerarlas de “riesgo inaceptable”.
Expertos también alertan sobre el apego emocional que algunos jóvenes desarrollan con la inteligencia artificial, lo que puede derivar en dependencia o aislamiento familiar.
OpenAI asegura que estas medidas son “solo el comienzo” y que seguirá trabajando con especialistas para garantizar que ChatGPT sea una herramienta segura y útil, sobre todo en manos de los más jóvenes.
Con información tomada de EFE.
La transformación digital modificó también el terreno de confrontación entre organizaciones y ciberdelincuentes y en…
La Tierra volvió a verse pequeña frente a la inmensidad del espacio. Los astronautas de…
El futuro del campo mexicano también se cultiva con innovación. México incorporó una plataforma que…
Los espacios temporales también pueden convertirse en laboratorios para imaginar cómo construir mejor. Los pabellones…
La arquitectura educativa puede hacer mucho más que distribuir aulas y pasillos. En las afueras…
La Luna acaba de recordar que sigue siendo un mundo expuesto a cambios violentos. Científicos…