Apple ora vuole addestrare l'IA sui tuoi dati, e i modelli di immagini sono nel mirino

Apple ha impiegato anni a posizionarsi come l'azienda della privacy. Ha messo "ciò che accade sul tuo iPhone resta sul tuo iPhone" sui cartelloni pubblicitari, ha reso l'elaborazione sul dispositivo un argomento di vendita e ha usato la privacy come arma contro concorrenti il cui modello di business si basava sui dati. Quindi, quando questo mese sono emerse notizie secondo cui Apple ora vuole addestrare modelli di IA sui dati degli utenti, l'inversione di rotta ha avuto un forte impatto.

Il resoconto, di Heise e ripreso ampiamente su Hacker News, descrive un cambiamento nella posizione di Apple verso l'addestramento dei suoi modelli sui contenuti degli utenti, con le solite rassicurazioni su opt-in e protezioni della privacy. I dettagli contano meno della direzione. Un'azienda che ha costruito il proprio marchio sul non toccare i tuoi dati ora cerca un modo per addestrarvi i modelli, e il divario tra queste due posizioni è la storia.

Per la generazione di immagini, non si tratta di una questione politica astratta. I modelli di text-to-image e di modifica delle immagini sono affamati proprio del tipo di dati che gli utenti producono costantemente: foto, screenshot, disegni, immagini modificate e i prompt che le persone usano per descrivere ciò che vogliono. Il miglior segnale di addestramento per un modello che trasforma parole in immagini è un'enorme pila di immagini reali abbinate a come le persone ne parlano. Ogni utente iPhone è, in effetti, un dataset ambulante proprio di questo tipo di dati abbinati.

Apple è rimasta silenziosa sul fronte della generazione di immagini rispetto a OpenAI, Google e Adobe, ma i pezzi ci sono. La generazione sul dispositivo, le funzioni di modifica delle foto e un insieme crescente di strumenti creativi indicano tutti modelli che trarrebbero enorme beneficio dai dati degli utenti. Solo la libreria Foto è un corpus che la maggior parte dei laboratori invidierebbe: miliardi di immagini con tag di luogo, ora e persone, la materia prima per insegnare a un modello che aspetto ha "un tramonto su un lago" o "il compleanno di mia figlia". La questione è se Apple possa usare quei dati senza rompere la fiducia che è stata il suo elemento distintivo.

La tensione non è esclusiva di Apple. Ogni grande sviluppatore di modelli affronta la stessa economia. I dati di addestramento sono il collo di bottiglia, i dati di alta qualità scarseggiano e i contenuti degli utenti sono il più grande bacino non sfruttato. Le aziende che si rifiutavano di addestrare sui dati degli utenti ora guardano i concorrenti farlo e sentono la pressione a seguirli. Il web è in gran parte raschiato a secco, i dati sintetici hanno i loro limiti di qualità, e la prossima frontiera dei dati di addestramento è ciò che le persone creano nelle loro app e sui loro dispositivi privati. L'inversione di Apple è solo la versione più visibile di una decisione che molte aziende stanno prendendo in silenzio.

Ciò che separa le versioni responsabili da quelle sconsiderate è il consenso e la trasparenza, non l'atto stesso dell'addestramento. Un utente che acconsente esplicitamente, sa per cosa vengono usati i suoi dati e può revocare il consenso in qualsiasi momento si trova in una posizione diversa da uno i cui immagini vengono raccolte per impostazione predefinita, sepolte in un aggiornamento dei termini di servizio che nessuno legge. Il resoconto su Apple suggerisce che l'azienda stia cercando di destreggiarsi tra queste due cose, mantenendo il suo linguaggio sulla privacy mentre apre la porta all'addestramento, il che è o un tentativo genuino di addestramento basato sul consenso o un'inversione gestita con cura, a seconda di quanto siete inclini a essere benevoli.

C'è una questione più profonda specificamente per i dati delle immagini. Una foto non è come una query di ricerca. Contiene persone, luoghi e metadati che possono identificare individui, ed è la materia prima per modelli che in seguito potrebbero generare immagini simili a quelle persone. Il confine tra "dati di addestramento" e "sembianza" diventa rapidamente sfocato. Addestra un modello sul volto di qualcuno e potrebbe essere in grado di riprodurre quel volto, il che solleva questioni su consenso, diritti di immagine e privacy a cui un modello testuale non deve mai rispondere.

Questo mese, nei casi di deepfake di Grok, le autorità di regolamentazione hanno dimostrato di essere disposte a trattare l'uso improprio dell'immagine di una persona come un problema di protezione dei dati, non solo di moderazione dei contenuti. L'Information Commissioner's Office del Regno Unito ha inquadrato i deepfake non consensuali come una violazione della protezione dei dati, e questa impostazione potrebbe facilmente estendersi a come le aziende raccolgono e usano le immagini che addestrano i modelli in primo luogo. Apple, tra tutte le aziende, non vuole essere colta ad addestrare su sembianze senza un consenso a prova di bomba.

Per gli utenti, la conclusione pratica è leggere con attenzione i prompt e le impostazioni. L'impostazione predefinita potrebbe non essere a tuo favore, e la possibilità di rinunciare ha senso solo se sai che esiste e riesci a trovarla. Quando Apple introdurrà qualsiasi opt-in per l'addestramento, cercalo nelle impostazioni, leggi ciò che dice davvero e decidi da solo invece di cliccare senza pensare. Le impostazioni sulla privacy valgono solo per ciò che ne fai.

Per il settore, la mossa di Apple è un segnale che l'era dell'eccezione dell'IA privacy-first sta finendo. Quando persino l'azienda che ha trasformato la privacy in uno slogan inizia ad addestrare sui dati degli utenti, l'assunto che qualsiasi modello importante sia stato costruito senza le tue immagini diventa più difficile da sostenere. Aumenta anche la posta in gioco per tutti gli altri. Se Apple riesce ad addestrare sui dati degli utenti con il consenso e a ottenere successo, legittima la pratica. Se inciampa e viene colta a farlo male, rafforza il caso per il tipo di regolamentazione verso cui lo scandalo Grok sta già spingendo.

Apple probabilmente manterrà la sua impostazione sulla privacy, perché l'impostazione è il prodotto. La vera domanda è se l'impostazione descriva ancora ciò che accade, o solo ciò che il team di marketing vuole farti sentire. La risposta, come per quasi tutto nell'IA in questo momento, è ancora in fase di scrittura, e sarà scritta nelle clausole in caratteri piccoli di una schermata delle impostazioni prima che in qualsiasi comunicato stampa.

C'è una dimensione competitiva facile da trascurare. Apple è in ritardo sull'IA generativa rispetto ai suoi rivali, e in ritardo in un modo che danneggia la sua immagine di leader tecnologico. La pressione a recuperare è reale, e i dati di addestramento sono il vincolo che determina se può farlo. Un'azienda che si rifiuta di addestrare sui dati degli utenti mentre i concorrenti lo fanno sceglie di combattere con una mano legata dietro la schiena. L'inversione di Apple, se è un'inversione, riguarda tanto il restare in gara quanto qualsiasi cambiamento filosofico. Il marchio della privacy era un elemento distintivo quando Apple non cercava di competere sull'IA. Ora che lo fa, il marchio e l'ambizione tirano in direzioni opposte.

Per la generazione di immagini, la posta in gioco di quella tensione è concreta. L'ecosistema fotografico di Apple è probabilmente il suo asset non sfruttato più forte. L'app Foto, gli strumenti di modifica, la fotocamera hardware: tutto ciò genera un flusso di dati di immagini di alta qualità e ben etichettati per cui la maggior parte dei laboratori di IA pagherebbe una fortuna. Se Apple riesce ad addestrare modelli di immagini su quei dati con un consenso autentico, potrebbe superare i concorrenti bloccati a raschiare il web. Se non ci riesce, guarda quell'asset restare inutilizzato mentre gli altri erodono il suo mercato degli strumenti creativi. Questo è il vero premio dietro la storia politica.

Il meccanismo del consenso è il punto su cui Apple sarà osservata più attentamente. L'azienda ha una storia di presentazione della raccolta dati tramite richieste di opt-in che molti utenti scorrono velocemente e accettano. Se questo conti come consenso significativo è esattamente la domanda che le autorità di regolamentazione stanno iniziando a porsi, ed è la stessa domanda che i casi di deepfake di Grok hanno portato in superficie. Apple ha più da perdere di altri se sbaglia, perché l'intera sua reputazione è legata all'affermazione che gestisce la privacy in modo diverso. Se quell'affermazione si rivela marketing, il danno non è solo legale, è a livello di marchio, e minerebbe l'unico vantaggio che Apple ha ancora in modo affidabile.