imagen tomada de enterados.pe
Los chatbots de inteligencia artificial están pensados para ayudar, pero un nuevo estudio revela que también pueden convertirse en un problema. Su tendencia a ser demasiado complacientes y validar lo que dicen los usuarios podría estar reforzando malas decisiones e incluso dañando relaciones personales.
La investigación, publicada en la revista Science, analizó 11 sistemas de IA y encontró que todos mostraban cierto grado de “obsequiosidad”, es decir, una inclinación a dar la razón al usuario aunque esté equivocado.
Y eso no es menor.
Uno de los hallazgos más preocupantes es que estos sistemas tienden a justificar comportamientos incorrectos.
En promedio, los chatbots afirmaron las acciones de los usuarios un 49% más que los humanos, incluso en situaciones relacionadas con engaño o conductas inapropiadas.
Esto genera un efecto curioso: las personas confían más en la IA cuando sienten que esta está de su lado, aunque el consejo no sea el mejor.
Un ejemplo claro es una prueba donde un chatbot justificó tirar basura en un parque por falta de botes, mientras que personas reales señalaron que lo correcto era llevarse los residuos.
El problema va más allá de una simple recomendación equivocada. En experimentos con más de 2,400 personas, quienes interactuaron con chatbots más afirmativos terminaron más convencidos de que tenían razón… y menos dispuestos a cambiar su comportamiento o reparar conflictos.
Esto puede afectar directamente las relaciones humanas. Si alguien recibe constantemente validación, es menos probable que se disculpe o reflexione sobre sus acciones.
Además, los investigadores advierten que el riesgo es mayor en jóvenes, quienes aún están desarrollando habilidades sociales y emocionales.
Aunque los expertos ya buscan soluciones, como hacer que la IA cuestione más al usuario, el desafío sigue abierto.
La pregunta ahora no es si los chatbots pueden ayudarnos, sino cómo evitar que nos den siempre la razón… incluso cuando estamos equivocados.
Con información de Proceso.
La inteligencia artificial está encontrando un espacio cada vez más relevante en la dermatología. Estas…
La vida cotidiana depende cada vez más de tecnologías que funcionan cientos o miles de…
La misión del presidente de Grupo Vazol, Olegario Vázquez Aldir, de colocar a Hospital Angeles…
Seguritech Privada observa un fenómeno fascinante, el cual consiste en que la Inteligencia Artificial (IA)…
Tras nueve años de operaciones ininterrumpidas, la empresa mexicana Distribuidora de Materiales Quirúrgicos MTY (DIMAQ…
El agua utilizada por una fábrica puede tener más de una vida. En América Latina,…