La edición abierta · viernes 25 de septiembre 2026
Casi la mitad de los agentes en producción no tiene quien los audite todavía
Casi la mitad de las organizaciones ya opera agentes autónomos en producción, pero la revisión de lo que hacen sigue siendo un reporte interno que nadie de afuera vuelve a mirar. Esta semana, uno de los laboratorios que más agentes despliega se comprometió a abrir ese proceso a evaluadores externos con acceso profundo, no solo al resultado final. Es la primera señal concreta de que la auditoría de agentes está dejando de ser algo que cada organización se hace a sí misma.
El 22 de septiembre, uno de los laboratorios que más agentes de inteligencia artificial despliega se comprometió públicamente a abrir su entrenamiento, evaluación y despliegue a evaluadores independientes, con acceso profundo al proceso y no solo a un resumen del resultado. Es un compromiso puntual, de un solo laboratorio, pero llega en un momento en que casi la mitad de las organizaciones ya tiene agentes autónomos corriendo en producción, según un relevamiento reciente sobre gobernanza de IA, y la forma en que se revisa lo que esos agentes hacen sigue siendo, en la mayoría de los casos, un reporte que se genera puertas adentro y que nadie de afuera vuelve a mirar salvo que haya un reclamo.\n\nLa distancia entre esas dos cifras -la mitad de las organizaciones ya opera agentes solos, pero la verificación externa recién empieza a aparecer, y solo en un laboratorio- es la que venimos señalando en ediciones anteriores desde otro ángulo: la infraestructura y las herramientas para construir agentes se abarataron mucho más rápido que la infraestructura para revisar qué hacen una vez desplegados. Lo que cambió esta semana es que, por primera vez, uno de los actores más grandes del sector aceptó ese estándar sobre sí mismo, y no solo como una exigencia para clientes más chicos.
Señal 01 · El compromiso
Un laboratorio grande se abre a evaluadores externos
El 22 de septiembre, uno de los laboratorios que más agentes de inteligencia artificial despliega en producción anunció que va a dar acceso profundo a evaluadores externos independientes durante el entrenamiento, la evaluación y el despliegue de sus modelos, no solo a un resumen posterior.
Hasta ahora, la verificación de cómo se comporta un sistema de IA quedaba casi siempre puertas adentro: el propio laboratorio, o la propia empresa que lo despliega, decidía qué mostrar y cuándo. Un compromiso de este tipo cambia quién tiene la llave para mirar el proceso completo, no solo el resultado que el sistema decide mostrar.
Es un anuncio de un solo actor, todavía sin marco regulatorio detrás que lo exija al resto del sector. Pero establece una vara: si el laboratorio que más agentes despliega acepta ser auditado con ese nivel de profundidad, la pregunta que le queda a cualquier organización más chica que también despliega agentes es por qué el proceso propio sigue siendo, hoy, un reporte que nadie de afuera revisa.
La mitad ya despliega agentes; la gobernanza sigue en cuatro piezas sueltas
Casi la mitad de las organizaciones relevadas ya tiene agentes de inteligencia artificial autónomos operando en producción, según un estudio reciente sobre el estado de la gobernanza de IA. La misma fuente descompone lo que falta en cuatro problemas simultáneos, no uno solo: aplicación de políticas, registro y observabilidad de lo que el agente hizo (audit trails), control de acceso e identidad, y cumplimiento regulatorio.
Ninguno de esos cuatro problemas se resuelve con más velocidad de despliegue. Se resuelve con infraestructura de revisión, que es justamente lo que todavía está atrasado frente a la infraestructura de construcción: hoy es más fácil y más barato levantar un agente nuevo que armar el registro de qué hizo el que ya está corriendo.
La brecha no es teórica. Otro análisis del mismo período proyecta que, para 2028, una de cada cuatro brechas de seguridad empresarial va a originarse en el abuso de un agente de inteligencia artificial, no en una falla de acceso humano tradicional.
El mismo criterio que audita modelos empieza a auditar agentes en producción
En paralelo, un estudio de julio ya había comparado cómo distintos modelos de inteligencia artificial resuelven los mismos casos reales, mirando el razonamiento completo detrás de cada respuesta y no solo si la respuesta final estaba bien. Ese mismo criterio -mirar el camino, no solo el resultado- es el que ahora empieza a trasladarse de los laboratorios de investigación a la operación cotidiana de cualquier organización que ya tiene agentes trabajando solos.
El mínimo privilegio, pensado para personas, dejó de alcanzar como marco: la pregunta para un agente ya no es qué puede ver, sino qué puede hacer, con qué identidad y con cuánta autonomía, y quién puede reconstruir esa decisión después si algo sale mal. Es un desplazamiento de criterio, no una herramienta nueva: cambia qué se mide, antes de cambiar qué se construye.
El 20 de septiembre señalamos que el mismo discurso de seguridad que usan los laboratorios grandes para pedir más regulación también funciona como barrera de entrada frente a competidores chicos. La señal de hoy es distinta y, en algún sentido, la contracara: no es un pedido de regulación externa, es un laboratorio grande aceptando sobre sí mismo un estándar de auditoría que todavía casi nadie más -ni siquiera organizaciones mucho más chicas que ya despliegan agentes- está aplicando puertas adentro.
Si ya tenés un agente de IA operando solo -contestando, agendando, filtrando casos- sin que nadie repase lo que hizo al final del día, la palanca de esta semana no es sumar otro agente: es armar, para ese que ya corre, un registro simple de su camino completo en al menos un caso relevante. No hace falta un sistema de auditoría entero: alcanza con documentar, para un caso real, qué datos usó el agente, qué reglas siguió y en qué punto una persona debería haber podido frenarlo antes de que avanzara.\n\nEse documento corto es lo que hoy separa a una organización que puede explicar lo que su agente hizo de una que solo puede mostrar que el agente "funcionó". La segunda categoría es mayoría; la primera, todavía minoría, y es la que va a estar mejor parada cuando la verificación externa que hoy acepta un solo laboratorio grande se vuelva, con el tiempo, algo que también se le pida a organizaciones más chicas.
La movida del día
Elegí un agente o automatización que ya esté corriendo solo en tu operación. Reconstruí, en un documento aparte, el camino completo que siguió la última vez que resolvió algo: qué datos usó, qué reglas aplicó, en qué momento hubiera convenido que una persona lo revisara antes de seguir. Ese ejercicio, hecho una sola vez, muestra rápido qué tan defendible es hoy tu proceso frente a alguien que no confía a ciegas en lo que el sistema dice que hizo.
¿Qué significa "acceso profundo" para un evaluador externo de IA?
Significa poder revisar el proceso completo de entrenamiento, evaluación y despliegue de un sistema de IA -no solo un resumen o el resultado final que la propia empresa decide mostrar-, de forma similar a como una auditoría financiera revisa los libros contables y no solo el balance publicado.
Esto, pero sobre lo tuyo.
La edición abierta lee el mundo. La tuya lee TU mundo — tu industria, tus proyectos, tus objetivos — y llega a tu casilla cada mañana. Nadie más recibe tu edición.
