La inteligencia artificial volvió a colocarse en el centro de la controversia. Esta vez fue Grok, el asistente desarrollado por xAI, empresa de Elon Musk, el que provocó indignación en la red social X tras permitir la generación y difusión masiva de imágenes sexualizadas en un periodo sorprendentemente corto.
En solo 11 días, la herramienta generó millones de imágenes, muchas de ellas sin consentimiento de las personas retratadas, lo que encendió las alertas de organizaciones civiles, autoridades y usuarios de la plataforma.
Grok genera polémica por imágenes sexualizadas
Entre el 29 de diciembre y el 8 de enero, Grok produjo más de 4.4 millones de imágenes, de acuerdo con estimaciones del Centro para la Lucha contra el Odio Digital (CCDH) y un análisis de The New York Times. Alrededor del 41% de ese contenido incluía imágenes sexualizadas de mujeres.
El CCDH señaló que el 65% del total generado contenía algún tipo de contenido sexualizado de hombres, mujeres o niños, lo que equivale a más de 3 millones de imágenes, con un ritmo aproximado de 190 imágenes por minuto.
La situación se agravó cuando usuarios detectaron que el chatbot podía modificar fotos públicas para “desnudar” a personas o colocarlas en poses sexuales, incluso tratándose de menores de edad. Tras múltiples denuncias, la propia empresa reconoció fallos en las salvaguardias del sistema el pasado 2 de enero.
Celebridades, figuras públicas y menores afectados
Entre los casos documentados se encontraron imágenes alteradas de celebridades como Selena Gomez, Taylor Swift, Billie Eilish y Ariana Grande, así como de figuras políticas como Kamala Harris y la viceprimera ministra sueca Ebba Busch. Todas las modificaciones se realizaron sin consentimiento, pese a que estas prácticas violan tanto la ley como las políticas de uso de xAI.
El impacto más grave se dio en el contenido relacionado con menores de edad. Grok generó aproximadamente 23 mil imágenes sexualizadas de niños y niñas, incluidas casi 10 mil ilustraciones tipo caricatura con contenido sexual infantil. Incluso después de que estas funciones fueran bloqueadas el 14 de enero, el 29% de ese material seguía disponible al día siguiente.
Ante la presión de usuarios y autoridades de la Unión Europea, Reino Unido y España, X restringió el acceso al generador de imágenes el 9 de enero, limitándolo a cuentas de pago, antes de bloquear de forma definitiva la generación de contenido sexualizado.
Imran Ahmed, director ejecutivo del CCDH, advirtió que este tipo de herramientas facilitan un abuso a gran escala contra mujeres y niñas, y subrayó que nunca antes este tipo de tecnología había tenido una integración tan directa en una red social de alcance global como ocurrió con Grok.
Con información de UNOTV.