Human capital y token capital: por qué sacar al humano del bucle es una utopía

Llevamos meses escuchando la misma promesa. Agentes que trabajan solos, procesos sin intervención humana, empresas que escalan sin contratar. En junio, Satya Nadella publicó un ensayo que va en la dirección contraria, y que merece leerse con calma. Su tesis es que toda empresa necesita construir dos tipos de capital a la vez, el humano y el de tokens, y que el segundo no sustituye al primero, lo multiplica.

Me sirve como punto de partida para algo que defiendo desde hace tiempo. Eliminar al humano del bucle, el famoso human in the loop (HITL), no es el siguiente paso lógico de la IA. Es una idea utópica, y en muchos casos bastante pretenciosa.

Human capital y token capital

En A frontier without an ecosystem is not stable, publicado el 14 de junio, Nadella define los dos conceptos así:

• Human capital, el conocimiento, el criterio, las relaciones, el ingenio y la capacidad de reconocer patrones de las personas de una empresa.
• Token capital, la capacidad de IA que la empresa construye y posee, más allá del modelo que alquila.

La frase que más se ha citado lo resume bien, «el capital humano no pierde valor a medida que crece el capital de tokens». Según Nadella, gana valor, porque sin dirección humana lo que tienes es computación dando vueltas en círculo.

La parte más interesante del ensayo no es la definición, es dónde sitúa la ventaja competitiva. Para Nadella no está en elegir el mejor modelo, sino en construir un bucle de aprendizaje encima de los modelos, en el que ambos capitales se refuercen. Eso significa que la empresa debe ser dueña de sus evaluaciones, de sus entornos de entrenamiento y de su conocimiento estructurado, de forma que pueda cambiar de proveedor de modelos sin perder lo aprendido. Puedes delegar una tarea, o incluso un puesto, pero no tu aprendizaje.

Hay una advertencia de fondo que conviene no pasar por alto. Nadella compara el riesgo con la primera ola de la globalización, cuando las cifras macro parecían buenas mientras industrias enteras perdían su base de conocimiento. Si unos pocos modelos absorben la experiencia de sectores completos, dice, la sociedad no lo va a tolerar.

Es justo señalar que este discurso encaja muy bien con el negocio cloud de Microsoft, y que Turing Post le reprochó no concretar qué capital humano importa más. Pero el marco es útil, y lleva directamente a la pregunta incómoda.

La promesa de sacar al humano del bucle

El relato dominante en la industria es que el humano es un cuello de botella temporal. Primero aprueba cada acción, luego supervisa, y al final desaparece. Las cifras muestran que la presión existe:

• Gartner prevé que en 2028 al menos el 15% de las decisiones de trabajo diarias se tomen de forma autónoma mediante agentes.
• En la encuesta de EY publicada en septiembre, a 202 directivos de empresas estadounidenses con más de 1.000 millones de facturación, el 85% de los que usan agentes reconoce que algunos de sus sistemas ya ejecutan acciones sin intervención humana en tiempo real.

La misma encuesta da la otra cara. El 36% ha sufrido en el último año un incidente de IA con impacto negativo material, el 47% se ha saltado alguna vez su propio proceso de gobierno para desplegar algo urgente y el 26% de los que usan agentes no sabe detectar agentes no autorizados funcionando dentro de su organización.

Por qué eliminar el HITL es una utopía

No es una cuestión de pesimismo tecnológico. Hay razones concretas que no desaparecen con el siguiente modelo:

• La fiabilidad todavía no está. El International AI Safety Report 2026 documenta fallos típicos de los agentes, como ejecutar comandos irrelevantes, perder el estado de la operación o no poder recuperarse de errores sencillos sin ayuda de una persona. Y concluye que ningún método actual elimina los fallos por completo.
• Alguien tiene que responder. Un agente no firma contratos ni da explicaciones a un cliente, a un juez o a un regulador. En Europa, el AI Act exige supervisión humana en los sistemas de alto riesgo. El acuerdo del Digital Omnibus retrasa los plazos, a diciembre de 2027 o agosto de 2028 según el caso, pero no elimina la obligación.
• Los objetivos los pone una persona. Decidir qué significa «hecho», qué riesgo es aceptable o qué cliente merece una excepción no es un problema de cómputo. Es exactamente el capital humano del que habla Nadella.
• Ni los fabricantes lo plantean. Claude Duet, el agente proactivo que Anthropic lanzó en octubre, pide aprobación explícita antes de enviar un mensaje, pagar, firmar o borrar algo, y tiene acciones prohibidas incluso con permiso. Quien mejor conoce los límites de sus agentes es quien más cuida el punto de control humano.
• Los proyectos que lo ignoran fracasan. Gartner ya predijo en 2025 que más del 40% de los proyectos de IA agéntica se cancelarán antes de que acabe 2027, por costes crecientes, valor poco claro y controles de riesgo insuficientes. La mayoría eran pruebas de concepto impulsadas por el hype.

Pretender que todo eso se resuelve quitando a la persona del proceso es confundir la demo con la operación real.

Pero el HITL tal como lo hacemos tampoco funciona

Aquí está el matiz que casi nadie cuenta. Defender al humano en el bucle no significa defender cualquier botón de «aprobar». Dos trabajos recientes lo explican muy bien.

En julio, Data & Society publicó The Oversight Fallacy, de Samir Passi y Ranjit Singh. Su argumento es que los botones de aprobación y pausa solo protegen si el usuario es capaz de reconocer el error y de intervenir antes de que las consecuencias se encadenen. Y cuanto más fluido es el sistema, más difícil es notar que algo va mal.

En agosto, Margaret Mitchell, Avijit Ghosh y el propio Passi fueron más lejos en AI Agents Push Humans Out of the Loop. Describen la fatiga de aprobación, en la que acabas validando sin leer, y un ciclo en el que la supervisión degrada al supervisor, porque el uso continuado de la automatización erosiona las habilidades necesarias para detectar sus fallos. Es la vieja «ironía de la automatización» que Lisanne Bainbridge describió en 1983. Cuanto más capaz es el sistema, peor preparado está el humano para intervenir cuando hace falta.

La conclusión no es quitar al humano, es diseñar mejor dónde está y en qué condiciones. Las propuestas van en esa línea:

• Autonomía gradual, que solo se amplía cuando el agente demuestra fiabilidad, como recomienda el Singapore Consensus de 2026.
• Fricción estratégica, por ejemplo pedir a la persona su propio juicio antes de enseñarle la respuesta de la IA.
• Medir la supervisión, con métricas como el tiempo de revisión o la tasa de rechazos, para detectar cuándo se ha convertido en un trámite.
• Separar roles, para que quien aprueba no sea quien se beneficia de aprobar rápido.

Qué hacer en tu empresa

Si juntamos el marco de Nadella con lo que sabemos sobre supervisión, salen decisiones bastante prácticas:

• Construye los dos capitales a la vez. Cada flujo que automatizas debería dejar conocimiento reutilizable, como evaluaciones, casos resueltos o criterios documentados, y no solo ahorrar horas.
• Clasifica las acciones por reversibilidad. Aprobación explícita para lo irreversible, revisión por muestreo para lo reversible y autonomía para lo trivial.
• Diseña la supervisión como un producto. Con interfaces que permitan entender qué ha hecho el agente, no solo un botón de confirmar.
• No te comas la cantera. Si la IA hace todo el trabajo junior, en cinco años no tendrás seniors capaces de supervisarla. Turing Post lo resume como el choque entre «conocimiento lento e ignorancia rápida».
• Mantén tu aprendizaje fuera del modelo. Tus evaluaciones y tu conocimiento tienen que sobrevivir al cambio de proveedor.

Conclusión

La empresa sin humanos en el bucle es una buena diapositiva y una mala estrategia. El valor no está en cuántas decisiones consigues quitarle a las personas, sino en cuánto aprende tu organización de cada decisión, la tome quien la tome. El capital de tokens escala la ejecución, pero el criterio, la responsabilidad y la dirección siguen siendo capital humano. La pregunta útil no es cuándo podremos prescindir del humano, sino dónde aporta más y cómo evitamos que la propia automatización lo deje sin capacidad de intervenir.

Fuentes: Satya Nadella, A frontier without an ecosystem is not stable (14 de junio de 2026), con cobertura de VentureBeat y la crítica de Turing Post; International AI Safety Report 2026; EY AI Risk and Governance Survey (septiembre de 2026); Data & Society, The Oversight Fallacy (julio de 2026); Mitchell, Ghosh y Passi, AI Agents Push Humans Out of the Loop (agosto de 2026); Gartner (junio de 2025).