← 블로그로
Ai약 11 분 읽기

에이전트가 매번 같은 스크립트를 따른다면, 그 스크립트를 컴파일하면 돼요

게시일 2026년 11월 13일
에이전트가 매번 같은 스크립트를 따른다면, 그 스크립트를 컴파일하면 돼요

프로덕션에서 도는 에이전트는 대부분 언어 모델이 절차 문서를 읽고 단계마다 즉석에서 판단하는 구조예요. 누군가 환불 처리, 티켓 분류, 청구서 대사 방법을 문서로 써 두면, 모델이 실행 중에 그 문서를 읽고 분기마다 다음에 뭘 할지 정해요.

ReTrace라는 논문은 당연한 후속 질문을 던져요. 절차가 실행마다 달라지지 않는다면, 왜 매번 모델이 단계를 정해야 하냐는 거죠.

논문의 주장

보고된 숫자가 구체적이어서 반박할 여지가 있어요. 좋은 신호예요. 79개의 프로덕션 절차에서 ReTrace가 만든 워크플로는 작업의 93.8%를 완료했어요. 원래 에이전트는 96.8%였고요. 컴파일된 워크플로는 작업당 비용이 24% 적었어요.

별도 벤치마크에서는 시간 차이가 훨씬 커요. 1.3초인데, 같은 일을 하는 에이전트는 170초가 걸려요.

둘을 같이 보면 거래의 모양이 드러나요. 완료율 3포인트를 포기하고, 비용은 4분의 1 줄고 실제 소요 시간은 1% 정도인 작업을 얻는 거예요. 하루에 10,000번 도는 워크플로라면 이건 그 워크플로가 존재하는 이유를 바꾸는 이야기예요.

어떻게 컴파일하나

이 메커니즘은 프롬프트를 잘 쓰는 쪽이 아니라 프로그램을 뽑아내는 쪽에 가까워요.

시스템이 에이전트가 절차를 따르는 과정을 지켜보고, 각 도구 호출 뒤에 있는 이유를 추출해요. 그 이유를 산문으로 남기지는 않아요. 실행을 거치며 반복되는 조건은 압축된 규칙 문서로 합쳐지고, 그 문서가 실행 가능한 워크플로로 컴파일돼요. 단계와 분기, 도구 호출로 이루어진 그래프이고, 판단 경로에 모델이 없어요.

결과적으로 모델의 판단은 빌드 시점에 한 번 붙잡히고 재사용돼요. 실행 시점에 돌아가는 건 그 판단에서 나온 코드뿐이에요.

AOT 컴파일이 인터프리터보다 낫다는 논쟁처럼 들린다면, 맞아요. 인터프리터는 유연하고 그 유연함의 값을 실행마다 치러요. 컴파일러는 한 번 값을 치르고 나서 빠르게 달려요. 그리고 입력이 컴파일할 때의 전제와 맞지 않게 되는 순간 깨져요.

3포인트는 어디로 가나

정직한 질문은 컴파일된 워크플로가 떨어뜨리는 3%가 어떤 작업이냐는 거예요. 논문의 서술을 보면 답은 특이한 케이스라는 쪽이에요.

절차 문서는 정상 경로를 다루고 예외는 슬쩍 언급만 해요. 그걸 읽는 에이전트는 맞지 않는 사건을 만나면 즉석에서 대응할 수 있어요. 확인 질문을 하고, 다른 도구를 시도하고, 고객 계정에 붙은 플래그를 발견하는 거죠. 그 플래그가 모든 걸 바꿀 수도 있어요. 컴파일된 워크플로는 컴파일된 대로만 해요. 사건이 규칙 문서 밖으로 나가면 실패하거나, 아주 자신 있게 틀린 일을 해요.

그래서 24% 비용 절감은 흥미롭고, 도입을 결정하는 숫자는 93.8%예요. 실패한 작업을 사람이 건당 $10로 다시 처리하는 워크플로라면, 컴퓨트를 24% 아끼면서 에스컬레이션이 3% 늘어나는 건 순손실이 될 수 있어요. 실패한 작업을 하위 검증기가 잡아서 자동으로 재시도하는 워크플로라면, 같은 숫자가 그냥 공짜 돈이에요.

논문은 실패를 유형별로 쪼개지는 않은 것 같아요. 적어도 지금 볼 수 있는 범위에서는요. 팀이 절차를 프로덕션으로 옮기기 전에 필요한 게 바로 그 분해예요.

에이전트 스택에 대해 말해 주는 것

지난 2년을 지배한 관점은 모델이 좋아지면 에이전트도 좋아진다는 거였어요. ReTrace는 다른 축을 가리켜요. 에이전트가 하는 일 중 일부는 정말로 열려 있어서 모든 단계에 모델이 루프 안에 있어야 해요. 또 다른 일부는 결정 트리가 고정된 절차이고, 거기에 모델을 돌리는 건 토큰 낭비예요. 날짜 하나 파싱하려고 언어 모델을 부르는 것과 같은 낭비예요.

흥미로운 건 이 경계가 선언이 아니라 발견의 대상이라는 점이에요. 내 워크플로 중 어느 것이 절차적인지 미리 정할 필요가 없어요. 에이전트를 돌리고, 하는 일을 보고, 추출 단계가 판단 패턴이 컴파일할 만큼 안정적인지 알려 주게 하면 돼요.

여기엔 조직적인 결과가 따라와요. 컴파일된 워크플로는 읽을 수 있는 산출물이에요. 누군가 열어서 실제 규칙을 볼 수 있어요. 아무도 문서화하지 않은 규칙까지 포함해서요. "환불이 500을 넘으면 사람에게 넘긴다" 같은 규칙이 존재하는 이유는 에이전트가 사례에서 그걸 추론했기 때문일 뿐이에요. 이건 대화 로그보다 나은 감사 흔적이고, 컴플라이언스 팀이 승인할 수 있는 종류의 물건이에요.

아무도 풀지 못한 유지보수 문제

컴파일된 워크플로에는 에이전트에 없는 실패 방식이 있어요. 드리프트예요. 환불 정책을 바꿔도 컴파일된 그래프는 누군가 다시 컴파일할 때까지 옛 정책을 계속 실행해요. 도구 스키마를 바꾸면 워크플로는 더 이상 그 인자를 받지 않는 함수를 계속 호출해요.

절차 문서를 읽는 에이전트도 같은 문제를 겪지만 정도가 가벼워요. 현재 문서를 읽으니까 정책 변경이 다음 실행에 반영돼요. 현재 스키마도 읽으니까 이름이 바뀐 인자도 처리해요. 그 적응성의 값을 호출마다 치르는 거고, ReTrace의 주장은 당신이 그 값을 과하게 치르고 있다는 거예요.

해법은 뻔하고 멋이 없어요. 변경 시 다시 컴파일하고, 규칙 문서를 버전이 붙은 산출물로 다루면서 코드와 같은 리뷰 절차를 태우는 거예요. 도구가 그걸 쉽게 해 주는지가 연구 결과와 제품의 차이예요.

써 볼 만한가

문서화된 절차를 따르는 일을 어느 정도 규모로 돌리고 있다면, 자기 데이터로 계산해 볼 가치가 있어요. 워크플로 하나를 골라 수백 번의 실행을 기록하고, 에이전트가 문서에 없는 경로를 얼마나 자주 택했는지 보세요. 답이 거의 없다 쪽이면, 모델에게 switch 문 역할을 시키려고 돈을 쓰고 있는 거예요.

답이 자주라면, 그 절차는 생각보다 절차답지 않아요. 그걸 컴파일하면 비즈니스가 실제로 신경 쓰는 사건에서 실패하는 워크플로가 나와요.

이 논문의 가장 유용한 기여는 이걸 측정 가능하게 만들었다는 점일지도 몰라요. 2년 동안 에이전트 논쟁은 능력에 관한 것이었고, 능력은 가격을 매기기 어려워요. ReTrace는 특정한 판단에 값을 매겨요. 모델의 판단이 단계마다 달러로 얼마이고 초로 얼마인지. 79개 절차에서 답은 컴퓨트 24% 절감, 레이턴시 99% 절감, 대신 완료율 3포인트 손실이었어요. 재무 팀이 다룰 수 있는 숫자예요.

전문은 arXiv에 있고, 지금까지 나온 해설은 구현 세부가 얇아요. 그러니 숫자는 레시피가 아니라 주장으로 다루세요. 다만 던지는 질문은 옳고, 에이전트를 큰 규모로 돌리는 팀은 곧 청구서를 들고 온 누군가에게 이 질문을 받게 될 거예요.

관련 글