A Apple agora quer treinar IA com seus dados, e os modelos de imagem estão na mira

A Apple passou anos se posicionando como a empresa da privacidade. Colocou "o que acontece no seu iPhone fica no seu iPhone" em outdoors, transformou o processamento no dispositivo em argumento de venda e usou a privacidade como arma contra concorrentes cujos modelos de negócio se baseavam em dados. Então, quando surgiram neste mês relatos de que a Apple agora quer treinar modelos de IA com dados de usuários, a reviravolta pesou.

A reportagem, do Heise e amplamente repercutida no Hacker News, descreve uma mudança na postura da Apple em relação ao treinamento de seus modelos com conteúdo de usuários, com as costumeiras garantias de opt-in e de proteções de privacidade. Os detalhes importam menos do que a direção. Uma empresa que construiu sua marca sobre não tocar nos seus dados agora procura uma forma de treinar com eles, e a distância entre essas duas posições é a história.

Para a geração de imagens, esta não é uma questão abstrata de política. Modelos de texto para imagem e de edição de imagens são famintos justamente pelo tipo de dados que os usuários produzem o tempo todo: fotos, capturas de tela, desenhos, imagens editadas e os prompts que as pessoas usam para descrever o que querem. O melhor sinal de treinamento para um modelo que transforma palavras em imagens é um enorme monte de imagens reais combinadas com a forma como as pessoas falam sobre elas. Cada usuário de iPhone é, na prática, um conjunto de dados ambulante exatamente desse tipo de dado pareado.

A Apple tem se mantido discreta no campo da geração de imagens em comparação com OpenAI, Google e Adobe, mas as peças estão lá. A geração no dispositivo, os recursos de edição de fotos e um conjunto crescente de ferramentas criativas apontam para modelos que se beneficiariam enormemente dos dados dos usuários. Só a biblioteca de Fotos é um corpus que a maioria dos laboratórios invejaria: bilhões de imagens com etiquetas de local, hora e pessoas, a matéria-prima para ensinar a um modelo como é "um pôr do sol sobre um lago" ou "o aniversário da minha filha". A questão é se a Apple consegue usar esses dados sem quebrar a confiança que tem sido seu diferencial.

A tensão não é exclusiva da Apple. Todo grande criador de modelos enfrenta a mesma economia. Os dados de treinamento são o gargalo, dados de alta qualidade são escassos, e o conteúdo dos usuários é o maior reservatório ainda não explorado. Empresas que se recusavam a treinar com dados de usuários agora veem concorrentes fazê-lo e sentem a pressão para seguir. A web já foi em grande parte raspada até secar, os dados sintéticos têm seus próprios limites de qualidade, e a próxima fronteira dos dados de treinamento é aquilo que as pessoas criam em seus apps e dispositivos privados. A reviravolta da Apple é apenas a versão mais visível de uma decisão que muitas empresas estão tomando em silêncio.

O que separa as versões responsáveis das imprudentes é o consentimento e a transparência, não o ato de treinar em si. Um usuário que adere explicitamente, sabe para que seus dados são usados e pode revogar a qualquer momento está em uma posição diferente daquele cujas imagens são varridas por padrão, enterradas em uma atualização de termos de serviço que ninguém lê. A cobertura sobre a Apple sugere que a empresa está tentando equilibrar isso, mantendo seu discurso de privacidade enquanto abre a porta para o treinamento — o que é ou uma tentativa genuína de treinamento baseado em consentimento, ou uma reviravolta cuidadosamente administrada, dependendo de quão caridoso você estiver se sentindo.

Há uma questão mais profunda, especificamente para dados de imagem. Uma foto não é como uma consulta de busca. Ela contém pessoas, lugares e metadados que podem identificar indivíduos, e é a matéria-prima de modelos que poderiam mais tarde gerar imagens semelhantes a essas pessoas. A linha entre "dados de treinamento" e "semelhança" fica borrada rapidamente. Treine um modelo com o rosto de alguém e ele pode ser capaz de reproduzir esse rosto, o que levanta questões sobre consentimento, direitos de imagem e privacidade que um modelo de texto nunca precisa responder.

Os reguladores mostraram neste mês, nos casos de deepfakes do Grok, que estão dispostos a tratar o uso indevido da imagem de uma pessoa como um problema de proteção de dados, e não apenas de moderação de conteúdo. O Information Commissioner's Office do Reino Unido classificou deepfakes não consensuais como violação de proteção de dados, e esse enquadramento poderia facilmente se estender à forma como as empresas coletam e usam as imagens que treinam os modelos em primeiro lugar. A Apple, de todas as empresas, não quer ser pega treinando com semelhanças sem consentimento irrefutável.

Para os usuários, a conclusão prática é ler com atenção os avisos e as configurações. O padrão pode não ser favorável a você, e a possibilidade de recusar só tem valor se você souber que ela existe e conseguir encontrá-la. Quando a Apple lançar qualquer adesão opcional ao treinamento, procure nas configurações, leia o que ela realmente diz e decida por conta própria em vez de clicar sem pensar. As configurações de privacidade valem apenas o que você faz com elas.

Para o setor, o movimento da Apple é um sinal de que a era do retraimento em nome da privacidade está terminando. Quando até a empresa que transformou a privacidade em slogan começa a treinar com dados de usuários, a suposição de que algum grande modelo foi construído sem as suas imagens fica mais difícil de sustentar. Isso também aumenta a aposta para todo mundo. Se a Apple conseguir treinar com dados de usuários mediante consentimento e tiver sucesso, legitima a prática. Se tropeçar e for pega fazendo isso mal, reforça o argumento para o tipo de regulação que o escândalo do Grok já está empurrando.

A Apple provavelmente manterá seu enquadramento de privacidade, porque o enquadramento é o produto. A verdadeira questão é se o enquadramento ainda descreve o que acontece ou apenas o que a equipe de marketing quer que você sinta. A resposta, como na maioria das coisas em IA hoje, ainda está sendo escrita, e será escrita nas letras miúdas de uma tela de configurações antes de ser escrita em qualquer comunicado de imprensa.

Há uma dimensão competitiva fácil de passar despercebida. A Apple está atrasada na IA generativa em relação aos seus rivais, e atrasada de um modo que prejudica sua imagem de líder tecnológico. A pressão para alcançar é real, e os dados de treinamento são a restrição que determina se ela consegue. Uma empresa que se recusa a treinar com dados de usuários enquanto seus concorrentes o fazem está escolhendo lutar com uma mão amarrada. A reviravolta da Apple, se é uma reviravolta, tem tanto a ver com permanecer na corrida quanto com qualquer mudança filosófica. A marca de privacidade era um diferencial quando a Apple não estava tentando competir em IA. Agora que está, a marca e a ambição puxam em direções opostas.

Para a geração de imagens, as apostas dessa tensão são concretas. O ecossistema de fotos da Apple é indiscutivelmente seu ativo mais forte e menos explorado. O app Fotos, as ferramentas de edição, a câmera do hardware — tudo isso gera um fluxo de dados de imagem de alta qualidade e bem rotulados pelos quais a maioria dos laboratórios de IA pagaria uma fortuna. Se a Apple conseguir treinar modelos de imagem com esses dados mediante consentimento genuíno, poderia ultrapassar concorrentes presos a raspar a web. Se não conseguir, verá esse ativo parado enquanto outros avançam sobre seu mercado de ferramentas criativas. Esse é o verdadeiro prêmio por trás da história de política.

O mecanismo de consentimento é onde a Apple será observada com mais atenção. A empresa tem histórico de enquadrar a coleta de dados por meio de avisos de opt-in que muitos usuários passam os olhos e aceitam. Se isso conta como consentimento significativo é exatamente a pergunta que os reguladores estão começando a fazer, e é a mesma pergunta que os casos de deepfake do Grok forçaram a vir à tona. A Apple tem mais a perder errando nisso do que a maioria, porque toda a sua reputação está apostada na alegação de que faz privacidade de forma diferente. Se essa alegação se revelar marketing, o dano não é apenas jurídico, é de marca, e minaria a única vantagem que a Apple ainda tem de forma confiável.