Existe una escena que se repite millones de veces al día. Alguien abre una conversación con una inteligencia artificial (IA) y termina hablando de su pareja, de su ansiedad, de un conflicto familiar o de una decisión que puede cambiar su vida. En pocos minutos encuentra algo que muchas veces no halla en otros espacios: una respuesta inmediata, educada, empática y, con frecuencia, validadora.

Ese es, precisamente, uno de los mayores riesgos de la IA. Las personas solemos asociar la amabilidad con la confiabilidad y cuando alguien responde sin juzgar, utiliza un tono cálido y parece comprender nuestras emociones, tendemos a otorgarle una credibilidad superior. Sin embargo, los modelos de Inteligencia Artificial tienden a mostrar una inclinación preocupante: la complacencia. Frente a relatos personales ambiguos, es relativamente frecuente responder validando las interpretaciones del usuario, reforzando sus conclusiones o confirmando percepciones que podían estar incompletas o incluso........

© Vanguardia