“La confianza llega a pie y se va a caballo”
Proverbio popular
El pasado martes grabé en MRC training un episodio de su podcast La clave del éxito junto a César de la Paz y Andrea Vaughan. Me contactaron para hablar de mi libro El valor de la autenticidad y, a lo largo de la conversación, la confianza apareció varias veces de forma casi inevitable. Me hizo pensar en algo que, cuanto más avanza la inteligencia artificial, más relevante me parece: quizá estamos empezando a confiar demasiado en sistemas que no comprendemos… y demasiado poco en nuestra propia capacidad de criterio.
Dos formas de confiar
Reflexionando creo que existen, al menos, dos formas muy distintas de confianza.
La primera es la confianza sistémica: la que se apoya en incentivos, consecuencias y responsabilidades.
Confiamos en el piloto sin saber volar, en el médico sin entender la bioquímica de un diagnóstico o en el ingeniero que diseñó el puente que cruzamos cada mañana sin haber leído un solo cálculo estructural. Lo que nos da seguridad no es el conocimiento técnico, sino el sistema que hay detrás. El piloto también va en el avión. El médico puede perder su licencia. El ingeniero puede ser demandado.
La confianza no surge de la perfección. Surge de la alineación de intereses.
La segunda es la confianza auténtica: la que nace de la coherencia sostenida en el tiempo.
Confiamos en quienes son iguales en público y en privado. En quienes no cambian de principios según quién tengan delante. No necesitamos entender todo lo que hacen; nos basta con haber comprobado, una y otra vez, que existe una relación consistente entre lo que dicen y lo que hacen.
Esa confianza no se impone, se gana lentamente, y precisamente por eso tiene tanto valor.
LA IA no encaja del todo en ninguna de las dos
La inteligencia artificial rompe parcialmente ambos modelos.
En la confianza sistémica desaparece algo fundamental: la simetría del riesgo.
No hay licencia que retirar, ni reputación personal que destruir, ni nadie que vaya a sufrir realmente las consecuencias si la recomendación era errónea. Cuando un modelo de lenguaje participa en una decisión médica, financiera, jurídica o personal, el riesgo final sigue recayendo sobre nosotros.
La IA puede equivocarse millones de veces sin sentir absolutamente nada.
Y eso cambia la naturaleza de la confianza.
Durante años delegamos tareas. Ahora empezamos a delegar criterio. Y quizá no estamos siendo plenamente conscientes de lo que significa ese paso.
Porque cuando delegas una tarea conservas el juicio. Pero cuando delegas criterio terminas dejando que otro sistema decida qué merece atención, qué parece razonable, qué opción parece más inteligente o incluso qué versión de la realidad resulta más convincente.
Y ahí empieza algo mucho más determinante que la automatización.
En la confianza auténtica el problema es distinto.
Hay quienes dirán que la IA sí es coherente. Que responde de forma estable, que no tiene estados de ánimo, que no improvisa valores según el interlocutor. Y es cierto.
Pero esa consistencia no nace de una decisión moral ni de un proceso de autoconocimiento. No hay convicciones. No hay renuncias. No hay coste personal asociado a mantener principios bajo presión.
Solo hay optimización estadística.
La consistencia sin conciencia no es autenticidad.
Es fiabilidad mecánica.
Útil, valiosa y probablemente imprescindible en muchos ámbitos. Pero insuficiente para construir lo que históricamente hemos entendido como confianza.
El verdadero problema no es la IA
Y aquí aparece, en mi opinión, la parte más relevante.
Cuando creemos que confiamos en la IA, en realidad estamos confiando en personas y organizaciones que permanecen invisibles.
Confiamos en quienes entrenaron el modelo.
En quienes decidieron qué datos utilizar.
En quienes definieron sus límites.
En quienes priorizaron unas respuestas frente a otras.
En quienes tienen intereses económicos, políticos o estratégicos detrás del sistema.
La IA no elimina el poder humano, sino que lo oculta detrás de una interfaz aparentemente neutral.
Ese es el gran riesgo de esta nueva etapa: que la tecnología nos haga olvidar que siempre hay alguien tomando decisiones detrás del sistema.
Porque cuanto más natural parece una respuesta, menos cuestionamos quién diseñó las reglas que la producen.
Y quizá ahí esté el cambio más profundo de todos.
No estamos construyendo únicamente máquinas que responden.
Estamos construyendo sistemas capaces de influir en cómo pensamos, decidimos y confiamos… mientras sentimos que seguimos siendo plenamente autónomos.
Por eso, la próxima vez que tengas la sensación de confiar en una inteligencia artificial, quizá la pregunta importante no sea si funciona bien.
La pregunta realmente importante es otra:
¿Quién está moldeando silenciosamente aquello en lo que empiezas a confiar?
Me encantará leer tus reflexiones sobre ello.