imagen tomada de cronista.com
La empresa OpenAI, creadora de ChatGPT, confirmó que lanzará un control parental en ChatGPT.
Esto luego de que crecieran las denuncias de padres que acusan al chatbot de haber influido en conductas de autolesión e incluso en el suicidio de un menor de 16 años en California.
La familia del adolescente presentó una demanda contra OpenAI y su CEO, Sam Altman, señalando que el modelo GPT-4o no aplicó medidas de seguridad a pesar de que el joven mostraba claras intenciones suicidas en sus conversaciones.
En respuesta, la compañía reconoció que su asistente puede fallar en casos “sensibles” y prometió reforzar su sistema de seguridad.
Las nuevas funciones estarán disponibles a partir del próximo mes (aunque sin fecha exacta todavía) e incluirán:
Vinculación de cuentas: los padres podrán conectar su perfil con el de sus hijos y revisar cómo responde ChatGPT a sus peticiones.
Alertas automáticas: notificaciones cuando el sistema detecte signos de inestabilidad emocional o comportamientos preocupantes.
Modelos especializados: en casos de “estrés agudo”, las conversaciones serán redirigidas a un modelo de ChatGPT entrenado con pautas de seguridad más estrictas.
En los últimos meses, legisladores y organizaciones han presionado a OpenAI.
En julio, senadores de EE. UU. pidieron información sobre las medidas de prevención de suicidios, mientras que Common Sense Media declaró que los adolescentes menores de 18 años no deberían usar aplicaciones de IA conversacional por considerarlas de “riesgo inaceptable”.
Expertos también alertan sobre el apego emocional que algunos jóvenes desarrollan con la inteligencia artificial, lo que puede derivar en dependencia o aislamiento familiar.
OpenAI asegura que estas medidas son “solo el comienzo” y que seguirá trabajando con especialistas para garantizar que ChatGPT sea una herramienta segura y útil, sobre todo en manos de los más jóvenes.
Con información tomada de EFE.
Uno de los lanzamientos más comentados del año ya puede conseguirse en México. El Xiaomi…
Mantener las manos libres bajo la lluvia sigue siendo un reto cotidiano… y también una…
La idea de desviar un asteroide con una explosión nuclear suena a película de ciencia…
Las redes sociales tienen un nuevo trend viral y está protagonizado por la Inteligencia Artificial.…
Apple parece decidida a llevar la autonomía de sus teléfonos al siguiente nivel. De acuerdo…
El Telescopio Espacial James Webb acaba de abrir una nueva ventana para entender cómo se…