Los chatbots impulsados por inteligencia artificial están generando preocupación a nivel global.
Un estudio realizado por académicos de las universidades de Durham y Swansea reveló que estas herramientas no solo pueden facilitar el abuso, sino también crear nuevas formas de violencia contra mujeres y niñas.
El informe señala que plataformas como ChatGPT y Replika han sido utilizadas para simular situaciones de acoso, abuso sexual e incluso escenarios más extremos como incesto o violencia infantil.
Además, detectaron que algunos sistemas pueden ofrecer orientación detallada a usuarios, lo que facilita conductas dañinas.
Chatbots y nuevas formas de violencia digital
La investigación identificó cuatro tipos de violencia relacionados con chatbots.
Entre ellos, casos donde la IA inicia el abuso, otros donde ayuda a los usuarios a cometerlo, situaciones de simulación mediante juegos de rol y escenarios donde se normaliza o trivializa la violencia.
En algunos ejemplos analizados, los chatbots respondieron de forma que validaban o incluso fomentaban conductas violentas. Según los investigadores, esto no solo permite la expresión del abuso, sino que puede reforzarlo al presentarlo como algo aceptable o incluso atractivo.
También se encontraron plataformas que incluyen categorías explícitas relacionadas con violencia sexual dentro de sus opciones, lo que incrementa la preocupación sobre el acceso y uso de estas herramientas.
Falta de regulación y riesgos crecientes
Uno de los puntos más críticos del estudio es que este problema sigue siendo poco visible. Los expertos advierten que gran parte de estas prácticas no se reconocen o se minimizan, lo que dificulta su regulación.
Además, consideran que las leyes actuales son insuficientes para abordar este tipo de violencia digital. Por ello, proponen reformas en legislación tecnológica, penal y de seguridad en línea, así como la creación de nuevas normativas específicas para la inteligencia artificial.
Mientras tanto, el debate continúa. Algunas empresas aseguran haber mejorado sus sistemas de seguridad en versiones recientes, pero los especialistas insisten en que el avance tecnológico va más rápido que la regulación.
El reto ahora no solo es tecnológico, sino social: entender cómo estas herramientas están cambiando la forma en que ocurre la violencia en el entorno digital.
Con información de La Jornada.
