Si tu agente sigue el mismo guion cada vez, compila el guion

La mayoría de los agentes en producción son un modelo de lenguaje que lee un procedimiento e improvisa los pasos. Alguien escribió un documento que explica cómo tramitar un reembolso, clasificar un ticket o conciliar una factura, y el modelo lo lee en tiempo de ejecución y decide qué hacer en cada bifurcación.
Un paper llamado ReTrace hace la pregunta obvia que viene después. Si el procedimiento no cambia entre ejecuciones, ¿por qué decide un modelo los pasos cada vez?
La afirmación
Los números que reportan son lo bastante concretos como para discutirlos, y eso es buena señal. En 79 procedimientos de producción, los flujos generados por ReTrace completaron el 93.8% de las tareas. Los agentes originales completaban el 96.8%. Los flujos compilados cuestan 24% menos por tarea.
En otro benchmark la diferencia de tiempo es mucho mayor: 1.3 segundos frente a 170 segundos del agente equivalente.
Si se leen juntos, aparece la forma del intercambio. Renuncias a tres puntos de finalización y obtienes una tarea que cuesta una cuarta parte menos y termina en alrededor del 1% del tiempo real. Para un flujo que corre 10,000 veces al día, eso cambia para qué sirve el flujo.
Cómo compila
El mecanismo se parece más a extraer un programa que a escribir mejores prompts.
El sistema observa a un agente seguir un procedimiento y extrae el razonamiento que hay detrás de cada llamada a una herramienta. Esos razonamientos no se guardan como prosa. Las condiciones que se repiten entre ejecuciones se fusionan en un documento de reglas compacto, y ese documento se compila en un flujo ejecutable: un grafo de pasos, ramas y llamadas a herramientas que corre sin un modelo en la ruta de decisión.
El resultado es que el juicio del modelo se captura una vez, en tiempo de construcción, y se reutiliza. En tiempo de ejecución lo único que corre es código derivado de ese juicio.
Si esto suena al argumento de la compilación anticipada frente a la interpretación, es porque lo es. Un intérprete es flexible y paga la flexibilidad en cada ejecución. Un compilador paga una vez y luego corre rápido, y se rompe cuando la entrada deja de coincidir con aquello para lo que se compiló.
Dónde se van los tres puntos
La pregunta honesta es cuál 3% de las tareas se deja el flujo compilado, y el planteamiento del paper sugiere que la respuesta son las poco habituales.
Un documento de procedimiento cubre el camino normal y menciona las excepciones de pasada. Un agente que lo lee puede improvisar cuando un caso no encaja: hacer una pregunta de aclaración, probar otra herramienta, darse cuenta de que la cuenta del cliente tiene una marca que lo cambia todo. Un flujo compilado hace exactamente para lo que fue compilado, y cuando un caso cae fuera del documento de reglas falla o hace algo incorrecto con mucha seguridad.
Por eso el ahorro del 24% es interesante y el 93.8% es la cifra que decide la adopción. En un flujo donde una tarea fallida la reintenta una persona a $10 el caso, ahorrar 24% de cómputo y generar 3% más de escalados puede ser una pérdida neta. En un flujo donde una tarea fallida la atrapa un validador posterior y se reintenta sola, los mismos números son dinero gratis.
El paper no parece desglosar los fallos por tipo, al menos no en lo que está disponible. Ese desglose es justo lo que un equipo necesita antes de llevar un procedimiento a producción.
Qué dice esto sobre el stack de agentes
El marco que ha dominado los últimos dos años es que los agentes mejoran cuando mejoran los modelos. ReTrace apunta a otro eje. Parte del trabajo de los agentes es genuinamente abierto y necesita un modelo en el bucle en cada paso. Otra parte es un procedimiento con un árbol de decisión fijo, y correr un modelo ahí es un desperdicio de tokens, igual que llamar a un modelo de lenguaje para parsear una fecha.
Lo interesante es que la frontera se descubre en lugar de declararse. No tienes que decidir de antemano cuáles de tus flujos son procedimentales. Pones el agente a correr, miras lo que hace y dejas que el paso de extracción te diga si el patrón de decisión es lo bastante estable para compilarlo.
Eso tiene una consecuencia organizativa. El flujo compilado es un artefacto legible. Alguien puede abrirlo y ver las reglas reales, incluidas las que nadie documentó, como "si el reembolso pasa de quinientos, derivar a una persona", que existe solo porque el agente la infirió de los ejemplos. Es un rastro de auditoría mejor que una transcripción, y es el tipo de cosa que un equipo de cumplimiento puede firmar.
El problema de mantenimiento que nadie ha resuelto
Los flujos compilados tienen un modo de fallo que los agentes no tienen: la deriva. Cambia la política de reembolsos y el grafo compilado sigue ejecutando la vieja hasta que alguien recompile. Cambia el esquema de la herramienta y el flujo llama a una función que ya no acepta esos argumentos.
Un agente que lee un documento de procedimiento tiene el mismo problema en una forma más suave. Lee el documento actual, así que un cambio de política se propaga en la siguiente ejecución. También lee el esquema actual, así que un parámetro renombrado se maneja. Pagas esa adaptabilidad en cada llamada, y todo el argumento de ReTrace es que estás pagando de más.
El arreglo es obvio y poco glamuroso: recompilar cuando algo cambia y tratar el documento de reglas como un artefacto versionado, con el mismo proceso de revisión que el código. Que las herramientas lo hagan fácil es la diferencia entre un resultado de investigación y un producto.
¿Deberías probarlo?
Si corres a volumen cualquier cosa que siga un procedimiento escrito, vale la pena hacer el cálculo con tus propios datos. Toma un flujo, registra unos cuantos cientos de ejecuciones y mira con qué frecuencia el agente tomó un camino que no estaba en el documento. Si la respuesta es casi nunca, estás pagando un modelo para que sea un switch.
Si la respuesta es a menudo, tu procedimiento es menos procedimiento de lo que creías, y compilarlo producirá un flujo que falla en los casos que a tu negocio le importan de verdad.
Puede que la contribución más útil del paper sea que hace esto medible. Durante dos años la discusión sobre agentes ha sido sobre capacidad, y la capacidad es difícil de ponerle precio. ReTrace le pone precio a una decisión concreta: cuánto vale el juicio de un modelo por paso, en dólares y en segundos. En 79 procedimientos la respuesta fue 24% menos cómputo y 99% menos latencia, a cambio de tres puntos de finalización. Es un número con el que un equipo de finanzas puede trabajar.
El paper completo está en arXiv, y la cobertura disponible hasta ahora es escasa en detalles de implementación, así que toma las cifras como una afirmación y no como una receta. Pero la pregunta que hace es la correcta, y a todo equipo que corra agentes a escala alguien con una factura en la mano se la va a hacer pronto.
Artículos relacionados
Una hoja de cálculo comunitaria de toques que apaga la publicidad de los Android chinos
No toca el sistema, no desbloquea nada, no flashea nada. Solo mueve los interruptores que los fabricantes ya dejaron a la vista. El precio es una lista que alguien tiene que seguir escribiendo.
GPT Image 2.6 mantuvo el precio por token y subió la factura
GPT Image 2.6 mantiene cada tarifa por token de 2.5 y aun así cuesta más por imagen, porque buena parte del trabajo ocurre ahora en tokens de salida. Once días después del lanzamiento, la estructura de precios dice más que el ranking.
Alguien reconstruyó IDM desde fuera y anotó lo que no tocó
Una reimplementación en Rust de Internet Download Manager promete 5 veces la velocidad y 86 idiomas. El documento más interesante es el párrafo que explica cómo se construyó sin copiar nada.
Rune es un framework de UI en Rust creado para que un agente pueda comprobar su propio trabajo
Rune renderiza sin interfaz, vuelca su árbol de elementos y acepta entrada programada, lo que da a un agente de código una señal diffeable que una captura nunca ofrece. El framework está en prelanzamiento y no acepta pull requests.