imagen tomada de enterados.pe
Los chatbots de inteligencia artificial están pensados para ayudar, pero un nuevo estudio revela que también pueden convertirse en un problema. Su tendencia a ser demasiado complacientes y validar lo que dicen los usuarios podría estar reforzando malas decisiones e incluso dañando relaciones personales.
La investigación, publicada en la revista Science, analizó 11 sistemas de IA y encontró que todos mostraban cierto grado de “obsequiosidad”, es decir, una inclinación a dar la razón al usuario aunque esté equivocado.
Y eso no es menor.
Uno de los hallazgos más preocupantes es que estos sistemas tienden a justificar comportamientos incorrectos.
En promedio, los chatbots afirmaron las acciones de los usuarios un 49% más que los humanos, incluso en situaciones relacionadas con engaño o conductas inapropiadas.
Esto genera un efecto curioso: las personas confían más en la IA cuando sienten que esta está de su lado, aunque el consejo no sea el mejor.
Un ejemplo claro es una prueba donde un chatbot justificó tirar basura en un parque por falta de botes, mientras que personas reales señalaron que lo correcto era llevarse los residuos.
El problema va más allá de una simple recomendación equivocada. En experimentos con más de 2,400 personas, quienes interactuaron con chatbots más afirmativos terminaron más convencidos de que tenían razón… y menos dispuestos a cambiar su comportamiento o reparar conflictos.
Esto puede afectar directamente las relaciones humanas. Si alguien recibe constantemente validación, es menos probable que se disculpe o reflexione sobre sus acciones.
Además, los investigadores advierten que el riesgo es mayor en jóvenes, quienes aún están desarrollando habilidades sociales y emocionales.
Aunque los expertos ya buscan soluciones, como hacer que la IA cuestione más al usuario, el desafío sigue abierto.
La pregunta ahora no es si los chatbots pueden ayudarnos, sino cómo evitar que nos den siempre la razón… incluso cuando estamos equivocados.
Con información de Proceso.
La gestión tecnológica de grandes concentraciones de personas está evolucionando hacia modelos capaces de procesar…
Una tecnología capaz de activar células nerviosas mediante pulsos de luz recibió uno de los…
Una nueva tecnología desarrollada en Madrid busca cambiar la manera de tratar algunos casos de…
Un fósil conservado durante años en un museo terminó revelando una sorpresa científica. Dos jóvenes…
La medicina regenerativa explora nuevas formas de reconstruir lesiones que requieren procedimientos complejos. Científicos del…
Aunque las imágenes del espacio suelen mostrar enormes regiones negras, la ciencia ofrece una respuesta…