Un humano en el circuito no es un seguro. Un humano que sabe, sí.
La frase nació en machine learning como una etapa del pipeline. En producción se comporta como una propiedad de la organización. La diferencia es todo el juego.
Cada propuesta de IA llega ya con la misma frase de cinturón de seguridad: hay un humano en el circuito. Tranquiliza como tranquiliza una casilla de verificación. Pero un circuito vale lo que su humano puede cachar, y cachar requiere dos cosas que ninguna casilla da: el saber para reconocer una respuesta equivocada que se ve bien, y un clima donde decirlo cueste menos que quedarse callado. Esta entrada reconstruye el human-in-the-loop desde la disciplina a la que de verdad le pertenece. No el machine learning. La psicología de la gente en el trabajo.
Lo que la frase asume sin decirlo
Human-in-the-loop nació en machine learning como una etapa del pipeline: una persona etiqueta, revisa, aprueba, corrige. La definición no tiene nada de malo. El problema es el supuesto que viaja callado adentro: que el juicio del humano es un componente resuelto, una pieza confiable que se atornilla como se atornilla una base de datos. Todo el aparato de revisión descansa sobre el único nodo que nadie especifica: lo que la persona del circuito realmente sabe, y lo que su lugar de trabajo le permite hacer con eso. Una industria que mide cada modelo contra cada benchmark no tiene, para su mecanismo de seguridad favorito, ni una hoja de requisitos.
Así que hay que desarmar la frase con cuidado. Un circuito tiene tres componentes, no uno: el paso de revisión, la capacidad de la persona parada en él, y el clima que decide qué va a decir esa persona en voz alta. El diagrama del pipeline muestra el primero y asume los otros dos. Esta entrada es sobre los otros dos.
El saber nunca se delega
La entrada anterior terminó en una línea que esta existe para desempacar: la IA acorta las horas entre saber y tener, y no acorta el saber. La automatización delega el hacer. Nunca delega el saber, porque el saber es exactamente lo que el paso de revisión existe para aportar. Un revisor que no puede distinguir un buen resultado de uno malo no es un humano en el circuito. Es una firma en el circuito, y la firma empeora las cosas, porque ahora el error viaja con aprobación institucional encima.
Esta no es una falla hipotética. En estudios controlados de decisiones asistidas por IA, la gente acepta con frecuencia las respuestas equivocadas de la IA, y el primer remedio de los proveedores, poner una explicación junto al resultado, no reduce ese exceso de confianza; algunos estudios sugieren que hasta puede aumentarlo. La lectura de los investigadores es que la gente rara vez analiza cada recomendación por separado; desarrolla hábitos generales sobre cuándo seguir a la máquina. Lo que sí lo redujo fue el diseño que exige involucrarse, un hilo que la sección aplicada retoma.
Por eso el circuito es una pregunta de capacidad antes que una pregunta de proceso. La habilidad de cachar la respuesta equivocada y segura de sí misma es exactamente la maestría que la entrada del puente llama autoeficacia, y se construye como Bandura dijo que se construyen las creencias de capacidad: haciendo, fallando y recuperándose en un lugar donde fallar sale barato. De ahí sale una regla de diseño que casi todos los arranques se saltan. La gente a cargo de un paso de revisión tiene que conocer los patrones de falla del sistema antes de que esos patrones cuesten algo: entradas malas alimentadas a propósito, respuestas equivocadas estudiadas por adelantado, el error confiado visto en el entrenamiento y no descubierto en producción. Esa media hora no es una cortesía. Es el circuito siendo fabricado.
De qué está hecho el saber
Hay que ser precisos con este saber, porque no es del tipo que vive en los manuales. Cuando una cotización armada con IA le pone a una obra un número que la ganaría, el modelo leyó un mercado. El contratista que ya perdió dinero en ese tipo de terreno lee el mismo número y encuentra lo que le falta: la semana de lluvia, el suelo que pelea con la excavadora, el sub que cotiza barato y entrega tarde. Puede sentir si la obra cabe en el número antes de poder explicarte por qué, y ningún puntaje de confianza cierra ese hueco, porque un puntaje de confianza puede decir que un resultado podría estar mal, nunca si lo está. El número vino del modelo; el veredicto vino del saber. La misma escena se repite donde lo que se juega es real: el despachador que anula una ruta en la que el software insiste, la encargada que se detiene en una factura aritméticamente limpia y prácticamente imposible. Ese sentir no es misticismo. Es reconocimiento de patrones con años de contacto detrás, y el filósofo Michael Polanyi le puso su nombre correcto hace sesenta años: conocimiento tácito. Sabemos más de lo que podemos decir. La parte que no podemos decir es exactamente la parte sobre la que corre el circuito, y es exactamente la que ningún modelo tiene, porque la IA trabaja sobre descripciones del mundo, y tu gente trabaja en el mundo. El documento es datos para el sistema. Es un recuerdo para la persona.
El saber tiene tres caras, y vale la pena nombrarlas, porque cada una es algo distinto que el circuito aporta. Intuición: la sensación de que un resultado está mal antes de poder articular la razón. Criterio: el juicio sobre cuáles errores importan, porque una lectura equivocada de tres dólares y una de tres mil se ven idénticas dentro de un puntaje de confianza. Y resolución en el mundo físico: quien conoce la obra, al proveedor y lo que se prometió el martes arregla con una llamada lo que un sistema solo puede escalar. Tres capacidades que la herramienta no tiene ni necesita tener, porque un circuito bien diseñado empareja la velocidad de la herramienta con el contacto de ellos con la realidad.
Digamos la implicación con todas sus letras, porque es lo contrario de la historia del reemplazo. Nada de esto es premio de consolación para los humanos, las sobras que deja la automatización. Es la razón por la que el sistema funciona, y además se aprecia con el tiempo: entre más fluidos se vuelven los modelos, más se concentra su falla característica en la respuesta equivocada que suena bien, y más vale la persona que puede sentir lo equivocado a través de la fluidez. Entre mejor la IA, más vale el circuito. Trabajar bien con estas herramientas nunca fue volverse como ellas. Es aportar, a propósito, todo aquello sin lo que ellas trabajan.
El circuito corre sobre el clima
La capacidad es la primera mitad. La segunda es lo que la persona está dispuesta a decir en voz alta, y eso es una propiedad del cuarto, no de la persona. La evidencia está en los libros desde antes de que existiera la frase human-in-the-loop: estudiando errores de medicación en hospitales, Amy Edmondson encontró que los equipos diferían sistemáticamente no solo en la frecuencia de sus errores sino en qué tan probable era que los errores fueran detectados y aprendidos, y la diferencia seguía al clima. Un circuito a cargo de gente que aprendió que señalar problemas cae mal no deja de aprobar. Aprueba todo, en silencio, y la auditoría se llena de firmas que no significan nada. Como argumentó sobre los resistentes la entrada de la resistencia, el que firma por firmar no te está fallando. Está leyendo su cuarto con precisión. El defecto es el cuarto.
Junta las dos mitades y llegas al reencuadre que esta entrada vino a hacer. Human-in-the-loop no es una etapa del pipeline. Es una propiedad de la organización: el saber de la gente alrededor del sistema, multiplicado por el clima que decide si ese saber se usa. Los dos factores viven en la capa humana. Lo que significa que la frase que cada proveedor ofrece como garantía técnica es en realidad una promesa sobre diseño de entrenamiento y condiciones psicológicas, hecha por gente que, en la mayoría de los casos, nunca ha auditado ninguna de las dos.
Cómo se ve un circuito real, en corto
La teoría se gana su lugar en decisiones de diseño, así que aquí va el bosquejo aplicado, y la primera decisión es la talla. El circuito no es gratis, y no todo flujo merece uno: donde los errores son chicos, baratos y fáciles de revertir, la automatización completa es la respuesta honesta, y un paso de revisión puesto de todos modos es teatro. El circuito se gana su costo donde la respuesta equivocada y segura de sí misma sale cara, cuesta deshacer o le cae a un cliente. El circuito se escoge como se escoge el modelo: a la medida de la tarea, no de la moda.
Así se ve subirle la talla. Otro sistema de la práctica del autor se construyó para vigilar un perímetro para una empresa de seguridad. Un dron lee la actividad contra un umbral, y cuando algo lo cruza, el sistema escanea, califica el riesgo y aterriza todo junto en la pantalla del despachador: qué vio, por qué le puso el riesgo que le puso, y qué se necesitaría para atenderlo. El despachador mira la cámara en vivo unos segundos, está de acuerdo o no, y aprueba. Los oficiales salen a la escena con un curso de acción en lugar de salir a ciegas.
Y el detalle que vale la pena robarse: el sistema es deliberadamente más lento de lo que podría ser, exactamente donde alimenta al humano. En el instante en que el dron detecta algo, podría aventar una alarma cruda a la pantalla del despachador. En lugar de eso se toma unos dos segundos para armar la evaluación antes de decir nada. Esos dos segundos son la diferencia entre un despachador interrogando una alarma a ciegas y un despachador ejerciendo juicio, y se pagan solos en minutos en cada paso que sigue, hasta el número que en el trabajo de seguridad no es una métrica sino el negocio entero: el tiempo de llegada. La economía del circuito en una sola línea: la pausa deliberada cuesta segundos y paga en minutos. Luego fíjate en lo que el sistema nunca hace: nunca manda a nadie. Aquí el circuito es grueso a propósito, porque lo que se juega es gente, y su forma lo dice: todo lo que está antes del despachador existe para que sus segundos de juicio cuenten, y todo lo que está después existe para que el veredicto se mueva. Esa es la ley escondida en el ejemplo: el humano pone el juicio; la arquitectura decide si el circuito funciona.
Ese movimiento de diseño tiene nombre en la investigación. Las intervenciones que obligan a una persona a involucrarse antes de aceptar la respuesta de una IA se llaman funciones de forzamiento cognitivo, y en un estudio controlado lograron lo que las explicaciones no pudieron: los participantes que veían explicaciones seguían aceptando respuestas equivocadas, mientras que los diseños que obligan a involucrarse redujeron significativamente el exceso de confianza. El mismo estudio encontró la parte incómoda: la gente calificó los diseños que mejor la protegían como los que menos le gustaban. Desde adentro del flujo, la protección se siente como fricción. Una razón más por la que el circuito es una propiedad de la organización: alguien tiene que valorar más la cachada que la suavidad, y ese alguien no puede ser el software.
Una vez que un flujo se gana su circuito, el circuito hace cuatro movimientos. Pone la verificación en el momento del contacto, frente a la persona que todavía se acuerda de la realidad detrás del documento. Enseña los patrones de falla del sistema antes de que cuesten algo. Hace barata la cachada: un clic para el juicio, no una ceremonia que pide a gritos saltarse. Y mantiene visible el valor del circuito, regresando los números del sistema a la gente cuyas cachadas los formaron. En el sistema en producción del que esta publicación ya ha escrito, el circuito corre deliberadamente delgado, porque lo que se juega ahí es modesto, y es la misma regla de la talla aplicada desde el otro extremo. Los sistemas son la ilustración, no el argumento: los cuatro movimientos son portátiles, y la auditoría también.
Qué preguntar en lugar de “¿hay un humano en el circuito?”
Si estás comprando automatización, la pregunta de casilla te consigue una respuesta de casilla. Estas cuatro te consiguen la verdad. ¿Quién revisa lo que produce el sistema, y podría explicarte el último error que cometió? ¿Qué entrenamiento recibió sobre sus patrones de falla conocidos, antes de que esos patrones costaran algo? ¿Qué le pasa, socialmente, a la persona que detiene la línea con una cachada: gratitud o fricción? ¿Y a dónde van los números del sistema cada mes, a un reporte que nadie lee o enfrente de la gente cuyas cachadas los formaron? Cuatro preguntas, cero tecnología en todas. Ese es el punto. El circuito nunca estuvo en el diagrama. Está en la gente a la que el diagrama sirve, y en lo que sabe, y en lo que se le permite decir.
Si quieres correr el diagnóstico en tu propia operación, el Ops Scan gratuito empieza exactamente ahí: no con las herramientas, con el circuito.
Preguntas frecuentes
¿Qué significa humano en el circuito (human in the loop) en automatización con IA?
En el mundo del machine learning, human in the loop nombra una etapa del pipeline: una persona revisa, aprueba o corrige un resultado automatizado antes de que surta efecto. Esa definición es correcta e incompleta. En producción, el circuito solo funciona cuando el humano que revisa de verdad puede distinguir un buen resultado de uno malo y se siente capaz de decirlo en voz alta. Una definición completa incluye la etapa del pipeline más la capacidad de la persona más el clima a su alrededor. Quita cualquiera de las tres y tienes automatización con firma, no supervisión.
¿Basta un paso de revisión humana para que la automatización sea segura?
No, y la falla es silenciosa. Un paso de revisión a cargo de alguien que no puede juzgar el resultado, o que aprendió que señalar problemas cae mal, aprueba casi al mismo ritmo que si no hubiera revisión, mientras produce papeleo que dice que hubo supervisión. El paso es real; el circuito no. Hacer que la revisión de verdad proteja es un problema de entrenamiento y de clima, y por eso pertenece a la capa humana y no al software.
¿Qué necesita realmente la persona en el circuito?
Dos activos. Primero, el saber: suficiente dominio del trabajo y de los patrones de falla de la herramienta para reconocer una respuesta equivocada que se ve bien. Eso se construye con entrenamiento que incluye errores a propósito, no con un usuario y buenos deseos. Segundo, respaldo: la confianza de que cachar un problema se va a recibir como contribución, no como fricción. Lo primero es autoeficacia, lo segundo seguridad psicológica, y el paso de revisión hereda el nivel que la organización haya construido de ambas.
¿Cómo se diseña una revisión humana que la gente sí use?
Haz barata la cachada y valorado al que cacha. Cuatro movimientos de diseño hacen casi todo el trabajo: pon la verificación en el momento del contacto, mientras la persona todavía se acuerda de la realidad detrás del documento; entrena a quien revisa en los patrones de falla conocidos del sistema antes de que esos patrones cuesten algo; deja la aprobación o corrección a un clic, no detrás de ceremonia; y regresa los números del sistema a la gente cuyas cachadas los formaron. La revisión que cuesta ceremonia se salta; la que cuesta segundos y gana crédito visible se vuelve hábito. El principio de diseño es el mismo que el de compartir errores: bajar el precio de hablar, subir la recompensa.
¿Qué puede hacer el humano del circuito que la IA no puede?
Tres cosas, y ninguna viene en la ficha técnica. Intuición: la sensación de que un número está mal antes de poder explicar la razón, que es reconocimiento de patrones construido con años de contacto con el trabajo real. Criterio: juzgar cuáles errores importan, porque una lectura equivocada barata y una carísima se ven idénticas dentro de un puntaje de confianza. Y resolución en el mundo físico: quien conoce la obra, al proveedor y la semana arregla con una llamada lo que un sistema solo puede escalar. La IA trabaja sobre descripciones del mundo; la gente a su alrededor trabaja en el mundo. La meta del diseño es emparejar la velocidad de la herramienta con el contacto de ellos con la realidad.
¿Cuál es la diferencia entre humano en el circuito y firmar por firmar?
El saber, y el permiso. Un sello de goma es un humano en el circuito sin la capacidad de evaluar el resultado o sin la disposición de detenerlo. Ambos se ven idénticos en una auditoría, y eso es lo que hace peligrosa la falla: la organización cree que tiene supervisión precisamente porque alguien firma. Si un circuito es real lo deciden lo que sabe su humano y lo que su clima le deja decir, no que el diagrama tenga una cajita de revisión.
¿Las explicaciones de la IA evitan que la gente confíe de más en ella?
La evidencia dice que no. En estudios controlados de decisiones asistidas por IA, la gente aceptó con frecuencia las respuestas equivocadas de la IA, y agregar explicaciones al resultado no redujo ese exceso de confianza; algunos estudios sugieren que hasta puede aumentarlo. La lectura de los investigadores es que la gente rara vez analiza cada recomendación por separado; desarrolla hábitos generales sobre cuándo seguir a la máquina. Lo que sí redujo el exceso de confianza fueron las funciones de forzamiento cognitivo: diseños que exigen un momento de involucramiento genuino antes de aceptar, como la pausa deliberada que describe esta entrada. El detalle: los participantes calificaron los diseños más protectores como los menos agradables, así que un circuito efectivo necesita respaldo de la organización, no solo instalación.
Fuentes
- The applied sketch draws on two production systems from the author's practice, both described with the clients' operational details omitted: an n8n workflow in daily service at a South Texas construction company for more than seven months (the system behind entry No. 006), and a drone-based detection and dispatch workflow built for a private security operation.
- Edmondson, A. C. (1996). Learning from mistakes is easier said than done: Group and organizational influences on the detection and correction of human error. Journal of Applied Behavioral Science, 32(1), 5–28. https://doi.org/10.1177/0021886396321001
- Edmondson, A. (1999). Psychological safety and learning behavior in work teams. Administrative Science Quarterly, 44(2), 350–383.
- Bandura, A. (1997). Self-efficacy: The exercise of control. W. H. Freeman.
- Buçinca, Z., Malaya, M. B., & Gajos, K. Z. (2021). To trust or to think: Cognitive forcing functions can reduce overreliance on AI in AI-assisted decision-making. Proceedings of the ACM on Human-Computer Interaction, 5(CSCW1), Article 188. https://doi.org/10.1145/3449287
- Polanyi, M. (1966). The tacit dimension. Doubleday.
- Reich, A., Wolfe, D., Price, M., Choe, A., Kidd, F., & Wagner, H. (2026). Safety first: Psychological safety as the key to AI transformation. arXiv:2602.23279
Publicado: 12 de julio de 2026