harness에 종속되지 않는 에이전트: 어떤 프런티어 모델이든 내 기계에서 실행하기

harness는 곧 제품이었다

최고의 코딩 에이전트를 원한다면 하나의 묶음을 받아들여야 했다. 특정 모델이 특정 인터페이스에 포장되고, 특정 도구 세트를 갖추고, 남의 서버에서 돌아갔다. 모델과 harness와 호스팅은 한 덩어리로 팔렸고, 그중 하나를 바꾸려면 전부를 바꿔야 했다.

10월의 흐름은 이 묶음이 풀리고 있음을 보여줬다. 트렌드 상위에 오른 오픈소스 프로젝트 무리는 하나의 전제를 공유한다. 모델이 지능이고 harness는 배관이며, 둘이 같은 패키지에 살 필요는 없다는 것이다. 이를 한 번 받아들이면 에이전트를 쓰는 방식에 관한 많은 가정이 느슨해지기 시작한다.

프로젝트가 실제로 하는 일

가장 명확한 예는 이미 좋아하는 인터페이스를 그대로 두고 접근 가능한 아무 모델이나 가리키게 하는 것이다. 그 자체로 트렌드에 오른 한 프로젝트는 다중 harness, 다중 모델 구성을 제공하며 터미널, 편집기, 브라우저 세션에서 실행되고 음성 지원까지 갖춘다. 그 셀링 포인트는 작업을 시작할 때 특정 벤더의 모델에 묶이지 않는다는 것이다.

또 다른 프로젝트는 이 발상을 더 밀어붙여 공유 인프라를 아예 없앤다. 셀링 포인트는 설치마다 자체 로컬 구성, 자체 워크스페이스 허용 목록, 자체 토큰으로 실행된다는 것이다. 중앙 중계도, 공유 계정도, 당신의 트래픽을 지켜보는 중간 운영자도 없다. Model Context Protocol 위에 세워진 공급자 중립적 실행 계층이며, 보안 모델은 실패 시 차단을 따른다. 로컬 전용 HTTP 바인딩, 모든 요청에 대한 토큰 인증, 그리고 당신만의 자격 증명 없이는 원격 호출자가 워크스페이스에 닿을 방법이 없다.

세 번째 접근은 부품은 그대로 두고 조직 단위를 바꾼다. 단일 에이전트 대신 작고 지속적인 팀을 구성한다. 역할이 정의되고, 컨텍스트를 공유하며, 각자 작업의 일부를 맡는 에이전트를 여러 다른 harness에서 동시에 끌어온다. 장기 프로젝트에서는 일에 형태가 있고 그 형태가 강제되기에, 구조화된 평범한 에이전트 팀이 똑똑한 단일 에이전트를 능가한다는 베팅이다.

“스택을 직접 소유한다”가 갑자기 구체화된 이유

수년간 AI에서 “스택을 직접 소유한다”는 것은 열망의 언어였다. 프롬프트는 소유할 수 있어도 모델은 소유할 수 없었고, 가치의 대부분은 모델에 있었다. 오픈 모델과 오픈 웨이트 모델의 최근 성숙이 코딩 에이전트 범주의 성숙과 동시에 이 방정식을 바꿨고, 그 결합이 이 프로젝트들을 시기상조가 아니라 가능하게 만든다.

유능한 모델이 로컬에서 돌거나 공급자 중립 API로 닿을 수 있다면, harness는 판매 채널이기를 그치고 교체 가능한 도구가 된다. 이는 누가 주도권을 쥐는가에 있어 의미 있는 전환이다. 워크플로를 다시 쓰지 않고 모델 사이를 옮길 수 있는 팀은 가격 인상, 지원 종료, 기능 서프라이즈에 분기가 아니라 오후 하나로 대응할 수 있다.

이 도구들의 보안 아키텍처는 특히 주의 깊게 읽을 만한 부분이다. 진짜 설계적 견해가 거기 있기 때문이다. 당신 기계에서 돌고 당신 자격 증명을 쥔 도구는 그 경계만큼만 믿을 수 있다. 추진력을 얻는 프로젝트는 네트워크를 적대적으로 가정하고, 기본적으로 접근을 로컬에 두며, 무언가를 노출하려면 명시적 구성을 요구한다. 이는 코드를 자기 서버로 보내고 그 격리를 신뢰하라고 요구하는 클라우드 우선 에이전트 플랫폼과 다른 자세다.

아무도 풀지 못한 긴장

공급자 중립이라는 주장에는 뚜렷한 약점이 있고, 솔직히 말할 가치가 있다. 그것은 모델 벤더가 이를 용인하는지에 달려 있다. 사용자가 남의 인터페이스를 통해 어느 벤더의 모델을 돌리게 하는 도구는 그 벤더가 허락할지 아닐지 모르는 영역에서 작동한다. 자기 구성이 이용약관에 우호적으로 설계됐다고 분명히 밝히는 프로젝트도 있다. 반대로 바로 그 긴장에서 에너지를 얻는 프로젝트도 있다. “공급자 중립”과 “의도된 채널 우회” 사이의 선은 벤더마다 다르게 그어지고, 또 움직인다.

그 취약함이 이 범주를 무시할 이유는 아니다. 스택의 어느 계층에 의존하는지 이해할 이유다. 이미 당신이 소유한 로컬 모델을 조율하는 도구는, 비정통적 수단으로 프런티어 모델 접근을 얻는 것이 전부인 도구와 위험 프로필이 전혀 다르다. 둘 다 유용하다. 다만 지속 가능한 것은 하나뿐이고, 대개 흥미로운 쪽이 아니다.

이것이 당신의 일하는 방식에 주는 의미

오늘 에이전트를 쓰는 사람에게 실질적 결론은 머릿속에서 계층을 분리하기 시작하라는 것이다. 도구는 이미 분리하고 있기 때문이다. 모델은 하나의 결정이다. harness는 또 다른 결정이다. 도구, 기억, 권한, 실행 환경은 모두 별개의 선택이며, 이것들을 한 묶음으로 취급하는 것이 당신을 잠그는 원인이다.

계층으로 생각하기 시작하면 커뮤니티의 노력은 경쟁하는 프로젝트 더미가 아니라 하나의 스택으로 이해되기 시작한다. 한 계층은 명령을 안전하게 실행한다. 다른 계층은 컨텍스트와 기억을 관리한다. 또 다른 계층은 에이전트를 팀으로 조직한다. 또 하나는 워크플로의 내보내기와 가져오기를 처리해 그것들이 한 제품에 갇히지 않게 한다. 각 조각은 작다. 합치면 그것들은 벤더의 것이 아니라 돌리는 사람의 것인 에이전트를 그려낸다.

그 소유의 대가는 유지보수다. 빌려 쓰는 묶음은 계속 돌아가게 하는 것이 남의 문제다. 직접 조립한 스택은 당신 것이다. 모델이 업데이트되면 테스트한다. 프로토콜이 바뀌면 이전한다. 이 프로젝트들은 처음부터 짓는 것보다 이 일을 쉽게 만들지만 무료로 만들지는 않으며, 이 철학을 받아들이고도 유지보수 예산을 잡지 않은 팀은 지쳐서 다시 묶음으로 되돌아가곤 한다. 자유는 진짜다. 청구서도 진짜다.

방향

가장 그럴듯한 미래는 이 프로젝트 중 하나가 이기고 벤더가 지는 것이 아니다. 계층이 흡수되는 것이다. 벤더는 커뮤니티가 만든 기능의 자사 버전을 계속 출시할 것이다. 플랫폼이란 그렇게 하는 것이기 때문이다. 그동안 커뮤니티 프로젝트가 제공하는 것은 협상 카드다. 묶음이 선택 사항임을 증명하는 것, 그리고 벤더가 조건을 바꾸거나 엔드포인트를 폐기하는 날을 위한 몇 개의 탈출구다.

그것은 소박한 종류의 승리이고, 정직한 승리다. harness에 종속되지 않는 에이전트는 혁명이 아니다. 보험이며, 당신이 빌리는 지능과 그것을 돌리는 기계가 같은 결정이어서는 안 된다는 주장이다. 동영상 모델 한 가족이 정해진 날에 통째로 폐기되는 것을 한 달 내내 지켜본 분야에서 보험은 작은 것이 아니다.