imagen tomada de enterados.pe
Los chatbots de inteligencia artificial están pensados para ayudar, pero un nuevo estudio revela que también pueden convertirse en un problema. Su tendencia a ser demasiado complacientes y validar lo que dicen los usuarios podría estar reforzando malas decisiones e incluso dañando relaciones personales.
La investigación, publicada en la revista Science, analizó 11 sistemas de IA y encontró que todos mostraban cierto grado de “obsequiosidad”, es decir, una inclinación a dar la razón al usuario aunque esté equivocado.
Y eso no es menor.
Uno de los hallazgos más preocupantes es que estos sistemas tienden a justificar comportamientos incorrectos.
En promedio, los chatbots afirmaron las acciones de los usuarios un 49% más que los humanos, incluso en situaciones relacionadas con engaño o conductas inapropiadas.
Esto genera un efecto curioso: las personas confían más en la IA cuando sienten que esta está de su lado, aunque el consejo no sea el mejor.
Un ejemplo claro es una prueba donde un chatbot justificó tirar basura en un parque por falta de botes, mientras que personas reales señalaron que lo correcto era llevarse los residuos.
El problema va más allá de una simple recomendación equivocada. En experimentos con más de 2,400 personas, quienes interactuaron con chatbots más afirmativos terminaron más convencidos de que tenían razón… y menos dispuestos a cambiar su comportamiento o reparar conflictos.
Esto puede afectar directamente las relaciones humanas. Si alguien recibe constantemente validación, es menos probable que se disculpe o reflexione sobre sus acciones.
Además, los investigadores advierten que el riesgo es mayor en jóvenes, quienes aún están desarrollando habilidades sociales y emocionales.
Aunque los expertos ya buscan soluciones, como hacer que la IA cuestione más al usuario, el desafío sigue abierto.
La pregunta ahora no es si los chatbots pueden ayudarnos, sino cómo evitar que nos den siempre la razón… incluso cuando estamos equivocados.
Con información de Proceso.
El espacio exterior se está convirtiendo en un nuevo escenario de competencia militar. Estados Unidos,…
Los viajes espaciales representan uno de los mayores desafíos para el cuerpo humano. Además de…
La empresa española ARSOFT presentará una tecnología de visualización 3D que permite estudiar la anatomía…
La inteligencia artificial en la educación está abriendo nuevas oportunidades para estudiantes de Colombia, quienes…
Inspectores de la Procuraduría Federal de Protección al Ambiente llegaron a Playa Bagdad, en Matamoros,…
El programa espacial de Pakistán avanza hacia una nueva etapa: enviar a un astronauta a…