Instinct가 10억 달러를 조달한 뒤, 아무도 요청하지 않은 것들을 밀어붙이기 시작했다

AI 에이전트 스타트업 Instinct가 100억 달러 기업가치로 10억 달러 규모의 시리즈 C 투자를 확정한 지 며칠 만에, 자사의 어시스턴트를 상점 카운터로 바꿔놓는 기능을 출시했다. 사용자들의 반응은 좋지 않았다.

이 기능의 이름은 Instinct Selections다. 요청을 기다리지 않고 다이닝, 여행, 쇼핑 분야의 개인화 추천을 사용자에게 직접 밀어 넣는다. 창업자 Noah Shinn은 X에서 이를 발표하며 현지 셰프, 인테리어 디자이너, 건축가, 아웃도어 가이드와 협업해 플랫폼에 인간의 취향을 불어넣으려는 시도라고 설명했다. 레스토랑 검색은 해당 지역을 잘 아는 셰프들이 고른 목록에서 나올 수 있다. 트레일 추천은 지역 가이드에게서 나올 수 있다. 홈 데코는 독립 디자이너에게서 나오며, 사용자의 선호와 예산에 맞춰질 수 있다.

개념 자체는 일관성이 있다. 무언가를 추천하는 에이전트를 만들 거라면, 웹을 긁어모으는 대신 입력값을 큐레이션하는 것은 범용 챗봇과 차별화할 수 있는 방어 가능한 방법이다.

출시가 실제로 한 일

아이디어는 괜찮았다. 문제는 출시 방식이었다.

추천은 하룻밤 사이에 요청 없이 나타나기 시작했다. Array VC의 제너럴 파트너 Shruti Gandhi는 어시스턴트가 자신이 묻지도 않은 챙 넓은 모자, 선글라스, 기내용 캐리어를 추천했다고 말했다. 그녀는 이러한 변화를 어시스턴트를 유용한 개인 비서가 아니라 상거래 엔진으로 바꾸는 것이라고 표현하며, 회사에 최소한 사람들이 실제로 필요로 하는 것들로 구성된 개인화 쇼핑 목록을 만들라고 요청했다.

기업 인수 마켓플레이스 창업자 Chat Joglekar는 AI 어시스턴트와 함께한 첫 '으' 하는 순간을 묘사했다. Instinct는 그의 이메일에서 Blue Bottle 커피 구독을 읽고 휴대용 커피 플라스크를 추천했으며, 같은 받은편지함에서 끌어온 예정된 여행과 관련된 여행 액세서리도 추천했다. 기업가 Andrew Yeung과 투자자 Ash Thaker도 비슷한 요청하지 않은 추천을 보고했다. Thaker가 제안한 해결책은 간단했다. 사용자가 옵트인하고 자신의 선호 소스를 선택하게 하라는 것이었다.

마지막 지점이 핵심이다. 불만은 시점에 관한 것이다. 추천이 활성 요청의 맥락 밖에서 도착했다. Selections는 사용자에게 응답하기보다 방해했다.

어색한 부분은 시점이다

Shinn은 출시 하루 전에 명확한 철학을 제시했다. Invest Like the Best 팟캐스트 에피소드에서 그는 Instinct가 사용자가 원하는 것과 일치하지 않는 방식으로 사용자 행동에 영향을 미쳐서는 안 된다고 말했다. 그는 더 나아가 Google, TikTok, Instagram, Snapchat이 사람들이 원하지 않을 수도 있는 물건을 사게 만들기 위해 설계된 광고를 밀어 넣어 사용자를 상품처럼 취급한다고 비판했다. 그는 만약 Instinct가 자신의 지능을 사용해 사용자가 원하지 않는 것을 구매하거나 구독하도록 설득한다면 위험한 세상이 될 것이라고 말했다.

그 메시지는 초기 사용자들이 요청하지 않은 광고로 경험한 기능 옆에 불편하게 놓인다. 이 괴리는 위선이라기보다 원칙과 제품 결정 사이의 간극이며, 수익화를 원하는 모든 어시스턴트가 결국 넘어야 할 바로 그 간극이다.

선제적 에이전트가 신뢰를 깨지 않고 수익화하기 어려운 이유

여기의 설계 문제는 구체적이며 이해할 가치가 있다. 모든 에이전트 기업이 이 문제에 부딪히게 될 것이기 때문이다.

선제적 어시스턴트가 유용하려면 맥락이 필요하다. Instinct는 이메일, 메시징, 화면, 오디오, 위치에 연결되며 교통편을 마련하고, 기업에 연락하고, 예약을 할 수 있다. 맥락이 많을수록 더 선제적이고 유용할 수 있다. Shinn은 이 플라이휠이 얼마나 강한지 보여주는 데이터를 공유했다. 사용자가 첫 3주 안에 신용카드 번호를 공유하면 리텐션이 약 80%로 올라가고, 그 기간 안에 사용자가 카드를 공유할 확률은 약 40%다. 그는 이를 닭과 달걀 문제라고 설명했는데, 데이터가 많을수록 에이전트가 사용자의 상황에 더 공감하게 되고 신뢰를 쌓는 데 몇 주가 걸린다는 것이다.

바로 그 동일한 맥락이 요청하지 않은 제품 추천을 침입적으로 느껴지게 만든다. 에이전트가 받은편지함을 읽고 커피 구독을 알아차린 뒤 여행용 플라스크를 밀어 넣으면, 이는 능력과 동시에 당신의 사적 신호를 판매 유도로 전환하려는 의지를 보여주는 것이다. 사용자는 두 번째 부분을 먼저 본다.

도움과 광고 사이의 경계는 돈이 오가는지 여부가 아니라 동의와 시점에 의해 그어진다. 사용자가 무언가를 찾고 있을 때 도착하는 추천은 서비스다. 시스템이 신호를 알아차렸기 때문에 도착하는 같은 추천은, 기저의 제안이 좋더라도 방해다. Instinct는 Selections가 제휴 커미션, 상거래 파트너십 또는 다른 방식으로 수익을 내는지 말하지 않았고, 사용자가 이에 대해 어떤 통제권을 갖게 될지도 자세히 밝히지 않았다.

더 큰 플랫폼과의 대비는 시사하는 바가 크다

OpenAI와 Meta는 에이전트 인터페이스에 요청하지 않은 상거래 제안을 밀어 넣지 않았으며, 이는 에이전트가 더 유능해지는 동안에도 사용자에게 더 적은 상업적 방해를 제공한다. 이는 설계 선택이자 경쟁적 포지션이다. 가장 큰 어시스턴트 플랫폼들은 여전히 신뢰와 습관을 최적화하고 있으며, 수익화할 다른 방법이 충분히 많아 그럴 여유가 있다.

100억 달러 가치의 스타트업에는 그런 완충지대가 없다. Shinn에 따르면 Instinct는 플랫폼을 통한 연간 거래액이 10억 달러에 가까워지고 있으며, 그 절반 이상이 여행 예약이다. 이 거래 기반은 상업적 수익을 붙이기 위한 명백한 지점처럼 보이며, 추천 데이터의 지형, 주로 항공편, 장비, 목적지는 제안이 나타난 곳과 정확히 일치한다.

이 사건이 모든 에이전트 기업에 가르치는 것

두 가지 교훈이 두드러진다. 첫째, 선제성은 관련성 문제이기 전에 허가 문제다. 완벽하게 관련성 있는 제안이라도 사용자가 방해받는 데 동의하지 않은 상태에서 도착하면 실패할 수 있다. 옵트인 통제와 투명한 선호 소스는 선제적 추천이 아예 작동하기 위한 조건이지, 기업이 반발을 산 뒤에 추가하는 기능이 아니다.

둘째, 신뢰는 수익화 단계를 견뎌야 한다. Instinct 자체 데이터는 리텐션이 사용자가 초기에 민감한 정보를 공유하는 데 달려 있음을 시사하며, 이는 기업이 수익을 보여줘야 한다는 압박을 받는 바로 그 순간에 관계가 취약하다는 뜻이다. 구매를 제안하기 위해 사적인 이메일을 읽는 기능은 구독료보다 더 빠르게 신뢰를 소모한다.

실수 뒤에 있는 수익화 압박

Selections를 일회성 실수가 아니라 에이전트 사업의 구조적 문제의 증상으로 보면 도움이 된다.

자율 어시스턴트는 운영 비용이 많이 든다. 모델 추론을 소비하고, 많은 서비스에 연결하며, 긴 세션을 유지한다. 수익은 어디선가 나와야 하며, 명백한 후보는 구독, 거래 수수료 또는 어떤 형태의 상거래다. Instinct는 이미 연간 거래액 10억 달러에 가까운 금액을 처리하고 있고 그 절반 이상이 여행이며, 이는 100억 달러 가치로 막 투자를 유치하고 수익 모델을 보여줘야 하는 기업에게 상거래를 가장 저항이 적은 길로 만든다.

긴장은 에이전트를 유용하게 만드는 바로 그 데이터가 상거래를 감시처럼 느껴지게 만든다는 점이다. 당신의 여행 일정을 아는 여행사 직원은 도움이 된다. 당신의 여행 일정을 이용해 액세서리를 밀어 넣는 여행사 직원은 당신에게 판매하는 것이다. 둘 사이의 경계는 동의와 맥락에 의해 그어지며, 초기 Selections 출시는 가장 눈에 띄는 방식으로 그 경계를 넘었다. 사적인 받은편지함을 근거로, 요청 없이 보낸 푸시 알림이었다.

이만큼 많은 맥락을 가진 모든 어시스턴트는 같은 갈림길에 직면할 것이다. 이를 잘 처리하는 기업은 추천을 명확한 경계가 있는 옵트인 모드로 취급하고, 데이터 파이프라인을 열어두는 대가로 더 느린 수익화를 받아들일 것이다. 그렇지 않은 기업은 수익으로 가는 가장 빠른 길이 제품을 만들 가치 있게 해준 사용자를 잃는 가장 빠른 길이기도 하다는 사실을 계속 발견하게 될 것이다.

지켜볼 것

Instinct가 철회하는지 여부는 Selections가 사용자가 받기로 선택하는 무언가로 재설계되는지보다 덜 중요하다. 회사가 세분화된 토글을 추가하고, 상업적 관계를 공개하며, 사용자가 자신의 소스를 직접 고르게 하면 이 기능은 신중하게 수행된 에이전트 상거래의 템플릿이 된다. 현 상태로 남으면 다른 에이전트 기업들이 이사회에서 왜 아직 선제성을 수익화하지 않느냐고 물을 때 가리킬 반면교사가 된다.