Instinct ha raccolto 1 miliardo di dollari, poi ha iniziato a spingere cose che nessuno aveva chiesto

Pochi giorni dopo aver confermato un round di Serie C da 1 miliardo di dollari con una valutazione di 10 miliardi, la startup di agenti AI Instinct ha lanciato una funzionalità che ha trasformato il suo assistente in un bancone di negozio. Gli utenti non l'hanno presa bene.

La funzionalità si chiama Instinct Selections. Spinge raccomandazioni personalizzate su ristorazione, viaggi e shopping direttamente agli utenti, senza aspettare una richiesta. Il fondatore Noah Shinn l'ha annunciata su X, presentandola come un tentativo di portare il gusto umano sulla piattaforma attraverso collaborazioni con chef locali, interior designer, architetti e guide outdoor. Una ricerca di ristoranti potrebbe attingere a liste selezionate da chef che conoscono la zona. Un suggerimento per un sentiero potrebbe arrivare da una guida regionale. L'arredamento potrebbe venire da designer indipendenti, abbinati alle preferenze e al budget dell'utente.

Il concetto è coerente. Se devi costruire un agente che consiglia cose, curare gli input invece di fare scraping del web è un modo difendibile per differenziarsi da un chatbot generico.

Che cosa ha fatto davvero il lancio

L'idea era buona. Il lancio è stato il problema.

Le raccomandazioni hanno iniziato ad apparire dall'oggi al domani, senza che nessuno le chiedesse. Shruti Gandhi, general partner di Array VC, ha raccontato che l'assistente le ha proposto cappelli a tesa larga, occhiali da sole e bagagli da cabina di cui non aveva chiesto nulla. Ha descritto questo cambiamento come la trasformazione dell'assistente in un motore commerciale anziché in un utile assistente personale, e ha chiesto all'azienda di costruire almeno una lista di acquisti personalizzata con le cose di cui le persone hanno davvero bisogno.

Chat Joglekar, fondatore di un marketplace per l'acquisto di aziende, ha descritto il suo primo momento di «bleah» con un assistente AI. Instinct gli ha suggerito una borraccia da caffè portatile dopo aver letto nella sua email un abbonamento al caffè Blue Bottle, e accessori da viaggio legati a viaggi imminenti, ricavati dalla stessa casella di posta. L'imprenditore Andrew Yeung e l'investitore Ash Thaker hanno segnalato raccomandazioni non richieste simili. La soluzione proposta da Thaker era semplice: lasciare che gli utenti aderiscano volontariamente e scelgano le proprie fonti di preferenze.

Quest'ultimo punto è il nodo centrale. Le lamentele riguardano il tempismo: le raccomandazioni sono arrivate al di fuori del contesto di una richiesta attiva. Selections interrompeva gli utenti invece di rispondere a loro.

Il tempismo è la parte scomoda

Shinn aveva esposto una filosofia chiara un giorno prima del lancio. In un episodio del podcast Invest Like the Best, ha detto che Instinct non dovrebbe influenzare il comportamento di un utente in modo non allineato con ciò che l'utente vuole. È andato oltre, criticando Google, TikTok, Instagram e Snapchat per trattare gli utenti come prodotti, spingendo pubblicità progettate per far comprare alle persone cose che potrebbero non volere. Ha detto che sarebbe un mondo pericoloso se Instinct usasse la sua intelligenza per convincere gli utenti ad acquistare o abbonarsi a qualcosa che non volevano.

Quel messaggio stride con una funzionalità che i primi utenti hanno percepito come pubblicità non richiesta. Il divario è meno ipocrisia e più la distanza tra un principio e una decisione di prodotto, la stessa distanza che ogni assistente che vuole monetizzare dovrà prima o poi colmare.

Perché è difficile monetizzare gli agenti proattivi senza rompere la fiducia

Il problema di design qui è specifico e vale la pena capirlo, perché ogni azienda di agenti ci si imbatterà.

Un assistente proattivo ha bisogno di contesto per essere utile. Instinct si collega a email, messaggistica, schermi, audio e posizione, e può organizzare trasporti, contattare aziende ed effettuare prenotazioni. Più contesto ha, più può essere proattivo e utile. Shinn ha condiviso dati che mostrano quanto sia forte questo volano: se un utente condivide il numero della carta di credito nelle prime tre settimane, la retention sale a circa l'80%, e c'è circa il 40% di probabilità che un utente condivida una carta in quella finestra. L'ha descritto come un problema del tipo «uovo e gallina», in cui più dati rendono l'agente più empatico verso la situazione dell'utente, e servono diverse settimane per costruire fiducia.

Proprio quello stesso contesto è ciò che rende invadente una raccomandazione di prodotto non richiesta. Quando l'agente legge la tua casella di posta, nota un abbonamento al caffè e poi ti propone una borraccia da viaggio, sta dimostrando sia la sua capacità sia la volontà di convertire i tuoi segnali privati in un invito all'acquisto. L'utente vede prima la seconda parte.

Il confine tra assistenza e pubblicità è tracciato dal consenso e dal tempismo, non dal fatto che del denaro cambi mano. Una raccomandazione che arriva quando l'utente sta cercando qualcosa è un servizio. La stessa raccomandazione che arriva perché il sistema ha notato un segnale è un'interruzione, anche se il suggerimento di fondo è buono. Instinct non ha detto se Selections genera ricavi tramite commissioni di affiliazione, partnership commerciali o un altro accordo, né ha dettagliato quali controlli avranno gli utenti su di essa.

Il contrasto con le piattaforme più grandi è rivelatore

OpenAI e Meta non hanno spinto suggerimenti commerciali non richiesti nelle loro interfacce agente, il che offre agli utenti meno interruzioni commerciali anche mentre i loro agenti diventano più capaci. Questa è una posizione competitiva oltre che una scelta di design. Le più grandi piattaforme di assistenti stanno ancora ottimizzando per la fiducia e l'abitudine, e hanno abbastanza altri modi per monetizzare da poterselo permettere.

Una startup con una valutazione di 10 miliardi di dollari non ha quel cuscinetto. Secondo Shinn, Instinct si avvicina a 1 miliardo di dollari di transazioni annuali attraverso la piattaforma, con più della metà nel comparto delle prenotazioni di viaggio. Quella base transazionale sembra un luogo ovvio a cui agganciare ricavi commerciali, e la geografia dei dati delle raccomandazioni, per lo più voli, attrezzatura e destinazioni, coincide esattamente con il punto in cui sono comparsi i suggerimenti.

Che cosa insegna questo episodio a ogni azienda di agenti

Emergono due lezioni. La prima è che la proattività è un problema di permessi prima che di pertinenza. Anche un suggerimento perfettamente pertinente può fallire se arriva senza il consenso dell'utente a essere interrotto. Controlli di opt-in e fonti di preferenze trasparenti sono condizioni perché le raccomandazioni proattive funzionino, non funzionalità che un'azienda aggiunge dopo le proteste.

La seconda è che la fiducia deve sopravvivere alla fase di monetizzazione. I dati stessi di Instinct suggeriscono che la retention dipende dalla condivisione precoce di informazioni sensibili da parte degli utenti, il che significa che la relazione è fragile proprio nel momento in cui un'azienda è sotto pressione per mostrare ricavi. Una funzionalità che legge email private per suggerire acquisti consuma la fiducia più in fretta di quanto faccia un abbonamento.

La pressione alla monetizzazione dietro l'errore

Aiuta vedere Selections come sintomo di un problema strutturale nel business degli agenti, non come un passo falso isolato.

Gestire un assistente autonomo è costoso. Consuma inferenza dei modelli, si connette a molti servizi e mantiene sessioni lunghe. I ricavi devono arrivare da qualche parte, e i candidati ovvi sono gli abbonamenti, le commissioni sulle transazioni o una qualche forma di commercio. Instinct gestisce già quasi 1 miliardo di dollari di transazioni annuali, più della metà nel settore viaggi, il che rende il commercio la strada di minor resistenza per un'azienda che ha appena raccolto capitali con una valutazione di 10 miliardi di dollari e deve mostrare un modello di ricavi.

La tensione sta nel fatto che gli stessi dati che rendono utile l'agente sono ciò che fa sembrare il commercio una sorveglianza. Un agente di viaggio che conosce il tuo itinerario è d'aiuto. Un agente di viaggio che usa il tuo itinerario per spingerti accessori ti sta vendendo qualcosa. Il confine tra i due è tracciato dal consenso e dal contesto, e il lancio iniziale di Selections l'ha oltrepassato nel modo più visibile possibile: una notifica push, non richiesta, basata su una casella di posta privata.

Ogni assistente con così tanto contesto dovrà affrontare lo stesso bivio. Le aziende che lo gestiranno bene tratteranno le raccomandazioni come una modalità opt-in con confini chiari, e accetteranno una monetizzazione più lenta in cambio del mantenimento di un flusso di dati aperto. Quelle che non lo faranno continueranno a scoprire che la via più rapida verso i ricavi è anche la via più rapida per perdere gli utenti che hanno reso il prodotto meritevole di essere costruito.

Cosa tenere d'occhio

Se Instinct farà marcia indietro conta meno del fatto che Selections venga riprogettata in qualcosa che gli utenti scelgono di ricevere. Se l'azienda aggiungerà interruttori granulari, rivelerà le sue relazioni commerciali e lascerà che gli utenti scelgano le proprie fonti, la funzionalità diventerà un modello per un commercio tramite agenti fatto con attenzione. Se resterà com'è, diventerà l'esempio da manuale che altre aziende di agenti citeranno quando i loro consigli di amministrazione chiederanno perché non stanno ancora monetizzando la proattività.