imagen tomada de entraenlared.com
Los chatbots impulsados por inteligencia artificial están generando preocupación a nivel global.
Un estudio realizado por académicos de las universidades de Durham y Swansea reveló que estas herramientas no solo pueden facilitar el abuso, sino también crear nuevas formas de violencia contra mujeres y niñas.
El informe señala que plataformas como ChatGPT y Replika han sido utilizadas para simular situaciones de acoso, abuso sexual e incluso escenarios más extremos como incesto o violencia infantil.
Además, detectaron que algunos sistemas pueden ofrecer orientación detallada a usuarios, lo que facilita conductas dañinas.
La investigación identificó cuatro tipos de violencia relacionados con chatbots.
Entre ellos, casos donde la IA inicia el abuso, otros donde ayuda a los usuarios a cometerlo, situaciones de simulación mediante juegos de rol y escenarios donde se normaliza o trivializa la violencia.
En algunos ejemplos analizados, los chatbots respondieron de forma que validaban o incluso fomentaban conductas violentas. Según los investigadores, esto no solo permite la expresión del abuso, sino que puede reforzarlo al presentarlo como algo aceptable o incluso atractivo.
También se encontraron plataformas que incluyen categorías explícitas relacionadas con violencia sexual dentro de sus opciones, lo que incrementa la preocupación sobre el acceso y uso de estas herramientas.
Uno de los puntos más críticos del estudio es que este problema sigue siendo poco visible. Los expertos advierten que gran parte de estas prácticas no se reconocen o se minimizan, lo que dificulta su regulación.
Además, consideran que las leyes actuales son insuficientes para abordar este tipo de violencia digital. Por ello, proponen reformas en legislación tecnológica, penal y de seguridad en línea, así como la creación de nuevas normativas específicas para la inteligencia artificial.
Mientras tanto, el debate continúa. Algunas empresas aseguran haber mejorado sus sistemas de seguridad en versiones recientes, pero los especialistas insisten en que el avance tecnológico va más rápido que la regulación.
El reto ahora no solo es tecnológico, sino social: entender cómo estas herramientas están cambiando la forma en que ocurre la violencia en el entorno digital.
Con información de La Jornada.
La transformación digital modificó también el terreno de confrontación entre organizaciones y ciberdelincuentes y en…
La Tierra volvió a verse pequeña frente a la inmensidad del espacio. Los astronautas de…
El futuro del campo mexicano también se cultiva con innovación. México incorporó una plataforma que…
Los espacios temporales también pueden convertirse en laboratorios para imaginar cómo construir mejor. Los pabellones…
La arquitectura educativa puede hacer mucho más que distribuir aulas y pasillos. En las afueras…
La Luna acaba de recordar que sigue siendo un mundo expuesto a cambios violentos. Científicos…