imagen tomada de entraenlared.com
Los chatbots impulsados por inteligencia artificial están generando preocupación a nivel global.
Un estudio realizado por académicos de las universidades de Durham y Swansea reveló que estas herramientas no solo pueden facilitar el abuso, sino también crear nuevas formas de violencia contra mujeres y niñas.
El informe señala que plataformas como ChatGPT y Replika han sido utilizadas para simular situaciones de acoso, abuso sexual e incluso escenarios más extremos como incesto o violencia infantil.
Además, detectaron que algunos sistemas pueden ofrecer orientación detallada a usuarios, lo que facilita conductas dañinas.
La investigación identificó cuatro tipos de violencia relacionados con chatbots.
Entre ellos, casos donde la IA inicia el abuso, otros donde ayuda a los usuarios a cometerlo, situaciones de simulación mediante juegos de rol y escenarios donde se normaliza o trivializa la violencia.
En algunos ejemplos analizados, los chatbots respondieron de forma que validaban o incluso fomentaban conductas violentas. Según los investigadores, esto no solo permite la expresión del abuso, sino que puede reforzarlo al presentarlo como algo aceptable o incluso atractivo.
También se encontraron plataformas que incluyen categorías explícitas relacionadas con violencia sexual dentro de sus opciones, lo que incrementa la preocupación sobre el acceso y uso de estas herramientas.
Uno de los puntos más críticos del estudio es que este problema sigue siendo poco visible. Los expertos advierten que gran parte de estas prácticas no se reconocen o se minimizan, lo que dificulta su regulación.
Además, consideran que las leyes actuales son insuficientes para abordar este tipo de violencia digital. Por ello, proponen reformas en legislación tecnológica, penal y de seguridad en línea, así como la creación de nuevas normativas específicas para la inteligencia artificial.
Mientras tanto, el debate continúa. Algunas empresas aseguran haber mejorado sus sistemas de seguridad en versiones recientes, pero los especialistas insisten en que el avance tecnológico va más rápido que la regulación.
El reto ahora no solo es tecnológico, sino social: entender cómo estas herramientas están cambiando la forma en que ocurre la violencia en el entorno digital.
Con información de La Jornada.
Grupo AJE desarrolla una estrategia ambiental que combina innovación industrial, restauración ecológica y participación comunitaria…
El mapa del capital global está en proceso de reconfiguración estructural. El empresario industrial Salomón…
El fútbol en México posee un misticismo único que trasciende las canchas. Con la Selección…
El sistema de salud mexicano se prepara para una nueva etapa de modernización impulsada por…
La industria tecnológica y manufacturera enfrenta un nuevo reto: proteger ecosistemas cada vez más conectados.…
La evolución de la industria del mobiliario y el diseño de espacios corporativos en México…