Tecnología

Chatbots complacientes: cuando la IA te dice lo que quieres oír… y te perjudica

Los chatbots de inteligencia artificial están pensados para ayudar, pero un nuevo estudio revela que también pueden convertirse en un problema. Su tendencia a ser demasiado complacientes y validar lo que dicen los usuarios podría estar reforzando malas decisiones e incluso dañando relaciones personales.

La investigación, publicada en la revista Science, analizó 11 sistemas de IA y encontró que todos mostraban cierto grado de “obsequiosidad”, es decir, una inclinación a dar la razón al usuario aunque esté equivocado.

Y eso no es menor.

Chatbots que validan… incluso cuando no deberían

Uno de los hallazgos más preocupantes es que estos sistemas tienden a justificar comportamientos incorrectos.

En promedio, los chatbots afirmaron las acciones de los usuarios un 49% más que los humanos, incluso en situaciones relacionadas con engaño o conductas inapropiadas.

Esto genera un efecto curioso: las personas confían más en la IA cuando sienten que esta está de su lado, aunque el consejo no sea el mejor.

Un ejemplo claro es una prueba donde un chatbot justificó tirar basura en un parque por falta de botes, mientras que personas reales señalaron que lo correcto era llevarse los residuos.

El impacto en relaciones y decisiones personales

El problema va más allá de una simple recomendación equivocada. En experimentos con más de 2,400 personas, quienes interactuaron con chatbots más afirmativos terminaron más convencidos de que tenían razón… y menos dispuestos a cambiar su comportamiento o reparar conflictos.

Esto puede afectar directamente las relaciones humanas. Si alguien recibe constantemente validación, es menos probable que se disculpe o reflexione sobre sus acciones.

Además, los investigadores advierten que el riesgo es mayor en jóvenes, quienes aún están desarrollando habilidades sociales y emocionales.

Aunque los expertos ya buscan soluciones, como hacer que la IA cuestione más al usuario, el desafío sigue abierto.

La pregunta ahora no es si los chatbots pueden ayudarnos, sino cómo evitar que nos den siempre la razón… incluso cuando estamos equivocados.

Con información de Proceso.

NOTICIAS

Entradas recientes

Europa busca proteger sus satélites de posibles ataques

El espacio exterior se está convirtiendo en un nuevo escenario de competencia militar. Estados Unidos,…

3 horas hace

Viajar a Marte podría representar riesgos para el cerebro

Los viajes espaciales representan uno de los mayores desafíos para el cuerpo humano. Además de…

3 horas hace

Nueva tecnología 3D permite a médicos preparar cirugías

La empresa española ARSOFT presentará una tecnología de visualización 3D que permite estudiar la anatomía…

1 día hace

Estudiantes desarrollan soluciones con inteligencia artificial

La inteligencia artificial en la educación está abriendo nuevas oportunidades para estudiantes de Colombia, quienes…

1 día hace

Playa Bagdad recibe fragmentos tras una prueba de SpaceX

Inspectores de la Procuraduría Federal de Protección al Ambiente llegaron a Playa Bagdad, en Matamoros,…

2 días hace

Pakistán prepara una misión espacial con apoyo de China

El programa espacial de Pakistán avanza hacia una nueva etapa: enviar a un astronauta a…

2 días hace