Apple veut désormais entraîner l’IA sur vos données, et les modèles d’images sont dans le collimateur

Apple a passé des années à se positionner comme l’entreprise de la vie privée. Elle a placardé « ce qui se passe sur votre iPhone reste sur votre iPhone » sur des panneaux d’affichage, a fait du traitement sur l’appareil un argument de vente et a utilisé la vie privée comme une arme contre des concurrents dont le modèle économique reposait sur les données. Aussi, quand des informations ont émergé ce mois-ci selon lesquelles Apple veut désormais entraîner des modèles d’IA sur les données des utilisateurs, le revirement a fait mal.

L’article, publié par Heise et largement relayé sur Hacker News, décrit un changement de position d’Apple quant à l’entraînement de ses modèles sur le contenu des utilisateurs, avec les assurances habituelles sur le consentement explicite et les protections de la vie privée. Les détails importent moins que la direction. Une entreprise qui a bâti sa marque sur le fait de ne pas toucher à vos données cherche désormais un moyen de s’en servir pour entraîner ses modèles, et l’écart entre ces deux positions, voilà l’histoire.

Pour la génération d’images, ce n’est pas une question de politique abstraite. Les modèles texte-image et d’édition d’images sont friands précisément du type de données que les utilisateurs produisent en permanence : photos, captures d’écran, dessins, images retouchées et les prompts que les gens utilisent pour décrire ce qu’ils veulent. Le meilleur signal d’entraînement pour un modèle qui transforme les mots en images est un énorme tas d’images réelles associées à la façon dont les gens en parlent. Chaque utilisateur d’iPhone est, en pratique, un jeu de données ambulant composé exactement de ce type de données appariées.

Apple est restée discrète sur le front de la génération d’images par rapport à OpenAI, Google et Adobe, mais les éléments sont là. La génération sur l’appareil, les fonctions de retouche photo et un ensemble croissant d’outils créatifs pointent tous vers des modèles qui profiteraient énormément des données utilisateur. La photothèque à elle seule est un corpus que la plupart des laboratoires envieraient : des milliards d’images avec des métadonnées de lieu et d’heure et des étiquettes de personnes, la matière première pour apprendre à un modèle à quoi ressemblent « un coucher de soleil sur un lac » ou « l’anniversaire de ma fille ». La question est de savoir si Apple peut utiliser ces données sans briser la confiance qui a été son facteur de différenciation.

Cette tension n’est pas propre à Apple. Tous les grands constructeurs de modèles font face à la même équation économique. Les données d’entraînement sont le goulot d’étranglement, les données de haute qualité sont rares, et le contenu des utilisateurs est le plus grand gisement inexploité. Les entreprises qui refusaient d’entraîner leurs modèles sur les données utilisateur voient désormais leurs concurrents le faire et subissent la pression de leur emboîter le pas. Le web est largement épuisé par le scraping, les données synthétiques ont leurs propres limites de qualité, et la prochaine frontière des données d’entraînement, ce sont les contenus que les gens créent dans leurs applications et appareils privés. Le revirement d’Apple n’est que la version la plus visible d’une décision que beaucoup d’entreprises prennent discrètement.

Ce qui sépare les versions responsables des versions irresponsables, c’est le consentement et la transparence, pas l’acte d’entraînement en lui-même. Un utilisateur qui donne explicitement son consentement, sait à quoi servent ses données et peut le retirer à tout moment n’est pas dans la même situation qu’un utilisateur dont les images sont aspirées par défaut, enfouies dans une mise à jour des conditions d’utilisation que personne ne lit. Les informations sur Apple suggèrent que l’entreprise tente de concilier les deux : conserver son discours sur la vie privée tout en ouvrant la porte à l’entraînement. Soit une véritable tentative d’entraînement fondé sur le consentement, soit un revirement soigneusement géré, selon votre degré de bienveillance.

Il y a un problème plus profond, spécifique aux données d’images. Une photo ne ressemble pas à une requête de recherche. Elle contient des personnes, des lieux et des métadonnées qui peuvent identifier des individus, et elle constitue la matière première de modèles qui pourraient ensuite générer des images ressemblant à ces personnes. La frontière entre « données d’entraînement » et « ressemblance » devient vite floue. Entraînez un modèle sur le visage de quelqu’un et il pourra peut-être reproduire ce visage, ce qui soulève des questions de consentement, de droits à l’image et de vie privée auxquelles un modèle de texte n’a jamais à répondre.

Les régulateurs ont montré ce mois-ci, dans les affaires de deepfakes de Grok, qu’ils sont prêts à traiter l’utilisation abusive de l’image d’une personne comme un problème de protection des données, et non simplement comme un problème de modération de contenu. Le Bureau du commissaire à l’information du Royaume-Uni (ICO) a qualifié les deepfakes non consentis de violation de la protection des données, et ce cadre pourrait facilement s’étendre à la manière dont les entreprises collectent et utilisent les images qui entraînent les modèles à l’origine. Apple, entre toutes les entreprises, ne veut pas être prise à entraîner des modèles sur des ressemblances sans un consentement irréprochable.

Pour les utilisateurs, la leçon pratique est de lire attentivement les prompts et les réglages. Le réglage par défaut n’est peut-être pas à votre avantage, et la possibilité de refuser n’a de sens que si vous savez qu’elle existe et pouvez la trouver. Quand Apple déploiera un consentement à l’entraînement, cherchez-le dans les réglages, lisez ce qu’il dit vraiment et décidez par vous-même plutôt que de cliquer machinalement. Les réglages de confidentialité ne valent que ce que vous en faites.

Pour l’industrie, le geste d’Apple est le signal que l’ère du refus de l’IA au nom de la vie privée touche à sa fin. Quand même l’entreprise qui a fait de la vie privée un slogan commence à entraîner ses modèles sur les données utilisateur, l’hypothèse selon laquelle un grand modèle aurait été construit sans vos images devient plus difficile à soutenir. Cela fait aussi monter les enjeux pour tous les autres. Si Apple peut entraîner ses modèles sur les données utilisateur avec consentement et réussir, cela légitime la pratique. Si elle trébuche et se fait prendre à mal faire les choses, cela renforce l’argument en faveur du type de réglementation vers laquelle le scandale Grok pousse déjà.

Apple continuera probablement à mettre en avant son discours sur la vie privée, car ce positionnement est le produit. La vraie question est de savoir si ce positionnement décrit encore ce qui se passe, ou seulement ce que l’équipe marketing veut vous faire ressentir. La réponse, comme pour la plupart des choses en IA aujourd’hui, est encore en train de s’écrire, et elle s’écrira dans les petits caractères d’un écran de réglages avant d’apparaître dans le moindre communiqué de presse.

Il y a une dimension concurrentielle facile à négliger. Apple est en retard sur l’IA générative par rapport à ses rivaux, et ce retard nuit à son image de leader technologique. La pression pour rattraper son retard est réelle, et les données d’entraînement sont la contrainte qui déterminera si elle le peut. Une entreprise qui refuse d’entraîner ses modèles sur les données utilisateur alors que ses concurrents le font choisit de se battre avec une main attachée dans le dos. Le revirement d’Apple, s’il s’agit bien d’un revirement, relève autant de la volonté de rester dans la course que d’un quelconque changement philosophique. La marque de la vie privée était un facteur de différenciation quand Apple ne cherchait pas à concurrencer sur l’IA. Maintenant qu’elle le fait, la marque et l’ambition tirent dans des directions opposées.

Pour la génération d’images, les enjeux de cette tension sont concrets. L’écosystème photo d’Apple est sans doute son atout inexploité le plus fort. L’app Photos, les outils de retouche, la caméra matérielle, tout cela génère un flux de données d’images de haute qualité et bien étiquetées pour lequel la plupart des laboratoires d’IA paieraient une fortune. Si Apple peut entraîner des modèles d’images sur ces données avec un consentement réel, elle pourrait prendre une longueur d’avance sur des concurrents bloqués à scraper le web. Si elle ne le peut pas, elle regardera cet atout rester inutilisé pendant que d’autres grignotent son marché des outils créatifs. Voilà le véritable enjeu derrière l’histoire de politique publique.

C’est le mécanisme de consentement qui sera le plus scruté chez Apple. L’entreprise a l’habitude de présenter la collecte de données via des demandes de consentement que beaucoup d’utilisateurs parcourent rapidement et acceptent. Savoir si cela compte comme un consentement éclairé est précisément la question que les régulateurs commencent à poser, et c’est la même question que les affaires de deepfakes de Grok ont fait remonter à la surface. Apple a plus à perdre que la plupart si elle se trompe, car toute sa réputation repose sur l’affirmation qu’elle traite la vie privée différemment. Si cette affirmation s’avère être du marketing, les dégâts ne seront pas seulement juridiques, ils seront au niveau de la marque, et cela saperait le seul avantage qu’Apple possède encore de manière fiable.