Meta AI : Facebook demande l'accès aux photos privées de votre galerie pour vous faire des « suggestions pertinentes »

Pourquoi la collecte des photos non publiées est plus grave qu'elle n'y paraît

Meta AI : Facebook demande l'accès aux photos privées de votre galerie pour vous faire des « suggestions pertinentes »,
pourquoi la collecte des photos non publiées est plus grave qu’elle n’y paraît

Alors que les intelligences artificielles génératives ont besoin de toujours plus de données pour progresser, Meta (maison mère de Facebook, Instagram et WhatsApp) franchit un nouveau cap qui interroge : l’analyse automatique de vos photos privées non publiées, directement depuis la galerie de votre appareil photo, après avoir avoué utiliser les photos disponibles publiquement sur ses plateformes pour le faire. Derrière l’annonce d’un assistant IA plus « personnel », se profile une nouvelle frontière dans la collecte de données privées.

De quoi s’agit-il exactement ?

Meta teste actuellement une fonction qui permet à ses applications, notamment Facebook, de scanner automatiquement les photos de votre galerie. Le but affiché est simple : proposer des suggestions plus pertinentes à travers son assistant Meta AI intégré à Facebook, comme des montages photo, des souvenirs, des effets artistiques ou des rappels personnalisés.

Mais cette nouvelle fonction va bien plus loin qu’un simple album partagé : elle exploite des photos que vous n’avez jamais publiées, parfois même jamais ouvertes dans Facebook.

L'exploitation des données publiques

Meta, l’entreprise autrefois connue sous le nom de Facebook, a présenté la bêta de Meta AI, un assistant conversationnel avancé disponible sur WhatsApp, Messenger et Instagram. Meta AI est capable de générer des images comme Midjourney ou DALL-E d’OpenAI via l’invite « /imagine » grâce à Emu (qui signifie Expressive Media Universe). Emu est directement intégré à Meta AI, de sorte que les utilisateurs peuvent lui envoyer un message avec la balise «imagine» et il générera gratuitement ce que la société a qualifié d'images photoréalistes de haute qualité dans le chat.

Emu peut générer des images de haute qualité à partir d'invites textuelles. Le modèle a été pré-entraîné sur 1,1 milliard de paires image-texte, puis affiné sur des images de haute qualité soigneusement sélectionnées. Le modèle résultant produit des images haute fidélité et visuellement attrayantes. Meta a vanté la vitesse d’Emu, Mark Zuckerberg soulignant que le modèle génère des images « rapidement » par rapport à ses concurrents – affirmant qu’il peut créer du contenu en seulement cinq secondes.

Meta a lancé un site web autonome et gratuit de génération d'images d'IA, « Imagine with Meta AI », basé sur son modèle de synthèse d'images Emu. Auparavant, la version de Meta de cette technologie - utilisant les mêmes données - n'était disponible que dans les applications de messagerie et de réseaux sociaux telles qu'Instagram.

Chris Cox, chef de produit chez Meta, a déclaré au Tech Summit de Bloomberg qu'il utilisait des photos et des textes accessibles au public sur les plateformes pour entraîner son modèle de générateur de texte à image appelé Emu. « Nous ne nous entraînons pas sur des éléments privés, nous ne nous entraînons pas sur des éléments que les gens partagent avec leurs amis, nous nous entraînons sur des éléments publics », a-t-il déclaré.

Le modèle texte-image de Meta peut produire « des images d'une qualité vraiment étonnante » car Instagram contient de nombreuses photos « d'art, de mode, de culture et aussi simplement des images de personnes et de nous », a ajouté Cox.

Meta a récemment reconnu avoir récupéré les données de tous les contenus publiés sur Facebook et Instagram depuis 2007 pour entraîner ses modèles d'IA générative. Bien que l'entreprise ait déclaré qu'elle n'utilisait que des posts publics téléchargés par des utilisateurs adultes âgés de plus de 18 ans, elle est longtemps restée vague sur la définition exacte du terme « public », ainsi que sur ce qui était considéré comme un « utilisateur adulte » en 2007.


... semble ne plus satisfaire Meta

Vendredi, des utilisateurs ont indiqué que Facebook leur a demandé d'accéder à la galerie photo de leur téléphone pour suggérer automatiquement des versions modifiées par l'IA de leurs photos, y compris celles qui n'ont pas encore été téléchargées sur Facebook. Cette fonctionnalité a été proposée aux utilisateurs de Facebook lorsqu'ils ont créé une nouvelle Story (un format de publication éphémère qui permet de partager des photos, vidéos, et textes qui disparaissent après 24 heures) sur l'application de réseau social. Un écran s'affiche et demande à l'utilisateur s'il accepte le « traitement dans le cloud » pour permettre des suggestions créatives.

Comme l'explique le message contextuel, en cliquant sur « Autoriser », vous permettrez à Facebook de générer de nouvelles idées à partir de votre galerie photo, comme des collages, des récapitulatifs, des remodelages AI ou des thèmes de photos. Pour ce faire, Facebook indique qu'il téléchargera les médias de votre galerie photo vers son cloud (c'est-à-dire ses serveurs) de manière continue, en fonction d'informations telles que l'heure, l'emplacement ou les thèmes.

Le message précise également que vous êtes le seul à pouvoir voir les suggestions et que les médias ne sont pas utilisés pour le ciblage publicitaire.

Toutefois, en cliquant sur « Autoriser », vous acceptez les conditions d'utilisation de l'IA de Meta. Cela permet à l'IA d'analyser vos médias et les traits de votre visage. L'entreprise utilisera en outre la date et la présence de personnes ou d'objets sur vos photos pour élaborer ses idées créatives.

Comment cela fonctionne-t-il ?

La fonctionnalité, encore en test, se présente à l’utilisateur lorsqu’il interagit avec Meta AI sur son téléphone :

• Meta vous invite à activer l’analyse automatique de votre galerie.
• L’application télécharge alors des miniatures de vos photos non publiées (snapshots de la galerie locale).
• Meta AI traite les images pour détecter visages, lieux, dates et objets, afin de vous proposer des actions.
• Ces photos sont stockées temporairement sur le cloud Meta, pendant 30 jours (officiellement).

L’objectif, selon Meta, est d’aider l’utilisateur à interagir avec son IA de façon « plus intuitive et contextuelle » : par exemple, demander « montre-moi les meilleures photos de mon voyage à Rome » ou « crée une vidéo de l’anniversaire de mamie ».


L’IA s’entraîne-t-elle avec vos données ?

Officiellement, non… pour l’instant. Meta affirme que les photos privées téléchargées depuis votre appareil ne sont pas utilisées pour entraîner ses modèles d’IA généraux. Cette clause est mise en avant dans leur communication.

Mais plusieurs éléments sèment le doute :

• Les conditions d’utilisation autorisent Meta à « traiter, analyser et exploiter » ces images dans le cadre de ses services IA, sans exclure l’entraînement futur.
• Meta a déjà confirmé en 2024 qu’il utilise les contenus publics de Facebook et Instagram (images, textes) pour entraîner Llama 3, son modèle d’IA.
• En l’absence d’engagement formel sur l’usage limité des photos privées, la frontière entre assistant personnel et collecte massive reste floue.

Surtout que Meta a indiqué aux médias qu'elle n'entraînait pas actuellement ses modèles d'IA sur ces photos, mais elle n'a pas voulu répondre aux questions sur la possibilité de le faire à l'avenir ou sur les droits qu'elle détiendra sur les images de votre galerie photo.

Meta explique que, pour l'instant, cette nouvelle fonctionnalité ne permet pas de s'entraîner sur vos photos non publiées. « Les gros titres laissent entendre que nous entraînons actuellement nos modèles d'intelligence artificielle avec ces photos, ce qui n'est pas le cas. Ce test n'utilise pas les photos des gens pour améliorer ou entraîner nos modèles d'IA », explique Ryan Daniels, responsable des affaires publiques de Meta.

La position publique de Meta est que la fonctionnalité est « très précoce », inoffensive et entièrement facultative : « Nous explorons des moyens de faciliter le partage de contenu sur Facebook en testant des suggestions de contenu prêt à être partagé et conservé sur la galerie photo d'une personne. Ces suggestions sont uniquement facultatives et ne vous sont présentées que si vous décidez de les partager, et peuvent être désactivées à tout moment. Les médias de la galerie de l'appareil photo peuvent être utilisés pour améliorer ces suggestions, mais ne sont pas utilisés pour améliorer les modèles d'intelligence artificielle dans ce test », déclare Maria Cubeta, responsable des communications chez Meta.

Des risques importants pour la vie privée

Cette nouvelle initiative s’inscrit dans une tendance plus large de normalisation de la collecte intime, sous couvert d’innovation technologique. Or, plusieurs problèmes majeurs émergent :

• Consentement biaisé : les utilisateurs acceptent souvent des options sans comprendre pleinement les implications. L’interface de Meta pousse subtilement à activer l’option, en promettant une expérience améliorée. Peu de gens lisent les CGU, et encore moins les implications techniques.
• Photos privées ≠ données anodines : certaines photos contiennent des éléments extrêmement sensibles : enfants, documents personnels, moments intimes. Leur simple analyse algorithmique peut révéler plus que ce que l’on imagine.
• Usage futur incertain : Meta ne garantit pas que ces données resteront exclues des phases d’entraînement IA. Un simple changement dans les conditions générales suffirait à ouvrir les vannes.
• Fiabilité de la suppression : Meta promet une suppression sous 30 jours des données cloud. Mais il n’existe aucune preuve transparente ou auditable que ces données sont effacées ou qu’elles ne sont pas recopiées à d’autres fins. Et bien que Daniels et Cubeta expliquent que le fait d'opter pour cette option n'autorise Meta qu'à récupérer 30 jours de votre galerie de photos non publié sur Facebook à la fois, il semble que Meta conserve certaines données plus longtemps que cela. « Les suggestions de galerie d'appareils photo basées sur des thèmes, tels que les animaux de compagnie, les mariages et les remises de diplômes, peuvent inclure des médias datant de plus de 30 jours », écrit Meta.

Une tendance déjà amorcée avec d’autres produits Meta

Cette collecte de données privées par les capteurs personnels n’est pas une première pour Meta. Ses lunettes Ray-Ban Meta Glasses, par exemple, peuvent capter des photos, vidéos et sons en continu, et les transmettre à ses serveurs IA pour analyse ou annotation — à moins de désactiver manuellement certaines options. Dans cette logique, la pellicule privée devient une extension de votre profil numérique, et un terrain d’entraînement pour des assistants IA toujours plus contextualisés, mais aussi potentiellement plus intrusifs.

L'outil créatif est un autre exemple de la pente glissante que représente le partage de nos médias personnels avec des fournisseurs d'IA. Comme d'autres géants de la technologie, Meta a de grandes ambitions en matière d'IA. La possibilité d'exploiter les photos personnelles que les utilisateurs n'ont pas encore partagées sur le réseau social Facebook pourrait donner à l'entreprise un avantage dans la course à l'IA.

Malheureusement pour les utilisateurs finaux, dans la course à l'innovation des entreprises technologiques, il n'est pas toujours évident de savoir ce qu'ils acceptent lorsque des fonctionnalités de ce type apparaissent.

Conclusion

À première vue, cela ne semble pas très différent de Google Photos, qui peut également suggérer des ajustements d'IA à vos images après que vous ayez choisi Google Gemini. Mais contrairement à Google, qui déclare explicitement qu'il n'entraîne pas les modèles d'IA générative avec des données personnelles glanées dans Google Photos, les conditions actuelles d'utilisation de l'IA de Meta, qui sont en place depuis le 23 juin 2024, ne précisent pas si les photos non publiées accessibles par « traitement dans le cloud » sont exemptes d'être utilisées comme données d'entraînement... et Meta n'a pas voulu éclaircir ce point malgré les demandes de plusieurs journalistes.

Sources : Guide sur la confidentialité pour les fonctionnalités de Gemini dans Photos, Facebook (1, 2, 3), captures d'écran des utilisateurs (1, 2)

Et vous ?

Peut-on vraiment parler de « consentement éclairé » lorsque des millions d’utilisateurs acceptent sans lire les conditions d’utilisation ?

Une IA plus « personnelle » justifie-t-elle l’exploitation de contenus intimes et privés ?

La collecte de données privées peut-elle être acceptable si elle est encadrée par des mécanismes d’opt-in clairs ?

Où se situe la limite entre service personnalisé et surveillance déguisée ?

Accepteriez-vous que vos photos non publiées soient analysées par une entreprise, même temporairement ? Pourquoi ?

Peut-on encore faire confiance à Meta pour respecter la confidentialité des données personnelles, au vu de son historique ?

Meta devrait-il publier un rapport indépendant sur l’usage exact des photos analysées par ses IA ?

Le simple fait que Meta puisse accéder à des photos non publiées devrait-il être interdit par principe ?