“El mundo del futuro será una lucha cada vez más exigente contra los límites de nuestra inteligencia, y no una cómoda hamaca en la que tumbarnos a que nos sirvan nuestros robots”.
Norbert Wiener (The Human Use of Human Beings, 1950)
En síntesis: Los agentes de IA ya ejecutan tareas de principio a fin, pero validar no es verificar: exige criterio y responsabilidad humanos. Si dejamos que la IA valide lo que la IA produce, perderemos la capacidad de juzgar sus resultados. La habilidad clave será decidir qué delegamos y qué firmamos nosotros.
«Te he pedido que lo valides tú, no tu agente». Es la reflexión que me hacía la semana pasada el CTO de una empresa puntera en la adopción de la IA, al describirme una situación que empieza a repetirse.
Había pedido a una persona de su equipo que revisara un trabajo. Cuando recibió la respuesta, descubrió que buena parte de esa validación la había hecho un agente de inteligencia artificial.
La anécdota puede parecer menor, pero no lo es.
Durante meses venimos hablando de todo lo que la IA nos permite delegar: buscar información, analizar documentos, preparar presentaciones, programar, redactar propuestas. Los agentes dan un paso más. Ya no les pedimos que nos ayuden con una tarea; les encargamos que la ejecuten de principio a fin.
Y eso nos obliga a plantear la cuestión de otra manera. Hasta ahora nos hemos preguntado qué podemos delegar en la IA. Tal vez ha llegado el momento de preguntarnos qué decisiones queremos seguir tomando nosotros.
Creo que todos estaremos de acuerdo en que validar es una de esas cosas.
Qué significa validar
Porque validar no es solo comprobar que algo está bien construido. Es entender lo que tenemos delante, contrastarlo con nuestra experiencia, detectar lo que falta, cuestionar las premisas y responsabilizarnos del resultado.
Un agente puede ayudarnos mucho: revisar inconsistencias, buscar evidencias, comparar alternativas, plantear objeciones que no habíamos considerado. Hará algunas de estas cosas mejor y más rápido que nosotros. Pero ayudar a validar no es validar.
La diferencia está en el criterio. Y en la responsabilidad.
Si cada análisis generado por un agente lo comprobamos con otro agente, construimos una cadena aparentemente impecable: una IA produce, otra revisa, otra contrasta y una cuarta resume. El problema aparece cuando, al final de esa cadena, nadie ha pensado de verdad sobre el resultado. No porque la IA se haya equivocado, sino porque hemos confundido verificación con juicio.
Esta distinción será cada vez más importante. A medida que los agentes ganen autonomía, el trabajo humano se desplazará de la ejecución hacia la supervisión, la interpretación y la decisión. Y eso exige otras capacidades: formular mejores preguntas, identificar supuestos, reconocer cuándo una respuesta sólida no encaja con el contexto, ver qué información falta y, sobre todo, estar dispuestos a decir: esto lo valido yo.
El riesgo de la comodidad
Aquí aparece una paradoja. Cuanto más capaces sean nuestros agentes, más fácil será dejar de ejercitar precisamente las capacidades que necesitamos para supervisarlos. Si dejamos de analizar, de contrastar y de cuestionar porque lo hace la IA, llegaremos a tener herramientas extraordinariamente sofisticadas y personas cada vez menos preparadas para juzgar sus resultados.
Varios responsables de tecnología me trasladan la misma preocupación: no les faltan recursos para producir con IA; empiezan a faltarles personas con el criterio suficiente para validar lo que la IA produce.
Y probablemente no se quedará en Tecnología. A medida que los agentes se extiendan, la tensión llegará a Negocio, Finanzas o Riesgos. La IA multiplica nuestra capacidad de generar análisis, propuestas y decisiones, y ahí está surgiendo un nuevo cuello de botella.
Por eso adoptar agentes no es solo una cuestión de productividad. Nos obliga a definir con claridad dónde termina la delegación y dónde empieza la responsabilidad. No se trata de revisar a mano todo lo que hace una IA (eso eliminaría buena parte de su valor), sino de decidir conscientemente qué delegamos, qué supervisamos y qué decisiones exigen nuestro criterio.
Puede que la habilidad más valiosa de los próximos años no sea saber hacer determinadas cosas, sino saber cuándo dejar que las haga nuestro agente y cuándo tenemos que hacerlas nosotros.
Al final, todo se reduce a una frase: esto lo valido yo.
Leer más:
- La comodidad es una fuerza muy poderosa.
- Al algoritmo le da igual que seamos auténticos
- El ROI de la hipocresía. Cuando aparentar valores es más rentable que practicarlos.
CONTRAPUNTO. Si los criterios se basan en las normas, tamizadas por la experiencia, y estos se sintetizan en las doctrinas, al alcance de la IA, quizás no se trate solo de que los humanos supervisen las tareas de una IA, sino que la IA supervise el trabajo de los humanos. La responsabilidad puede inhibir el escenario de las decisiones, cuando estas pueden comprometer a la persona.
CONTRAPUNTO AL CONTRAPUNTO: Una persona que no se atreve a tomar decisiones porque le puedan comprometer, no está capacitada para dirigir y menos para liderar. Y esto es ahora con IA y antes sin IA. El problema es identificarlas, porque su permanencia acaba generando estancamiento.
Recuerdo hace ya muchos años a un directivo que con un golpe de suerte llegó muy alto y que una sus frases típicas ante una decisión a tomar era “no se yo si…”. Finalmente no duró mucho en el cargo….
Gracias Felix, bienvenidas las aportaciones y críticas a los comentarios, siempre enriquecen el debate. Sobre lo que planteas te comento las siguientes, que nos dice una IA, no yo.
La IA dice:
El primer planteamiento de Carlos Muñoz tiene dos partes, y la respuesta de Felix Ainsa no repara en ninguna.
La primera es de fondo. Si los criterios nacen de las normas, filtradas por la experiencia, y se sintetizan en la doctrina, que está al alcance de la IA, entonces la IA puede llegar a tener criterio. Y si tiene criterio, puede actuar como supervisora del trabajo humano, no solo ser supervisada por él. Es una inversión de la pregunta habitual sobre quién controla a quién.
La segunda concreta dónde tiene más sentido esa supervisión: en decisiones en las que la persona está comprometida, porque la amenazan, la presionan o la han sobornado. En esos casos, lo que falla no es la capacidad ni el valor, sino la libertad del juicio. El sobornado decide, y con total determinación, en favor de quien le paga. El amenazado también decide, en favor de quien le presiona. Una IA que no puede ser amenazada ni sobornada puede contrastar esa decisión con normas y doctrina y señalar desviaciones que obliguen a justificarla.
La respuesta reduce todo esto a una regla general sobre liderazgo: quien no se atreve a decidir no debe dirigir. Es cierto, pero no es lo que se planteó. Deja fuera la cuestión de fondo, si la IA puede tener criterio para supervisar, y la cuestión concreta, que no trata del coraje de decidir sino de la integridad de la decisión.