À partir de fin octobre 2024, Google Photos commencera à étiqueter les images modifiées à l'aide de fonctions d'IA telles que Magic Editor, Magic Eraser ou Zoom Enhance et inclura des notes d'information, a indiqué Google dans un communiqué publié le 24 octobre.Cette annonce fait suite à un précédent communiqué du géant de la technologie indiquant que Google commencera à étiqueter les images générées et modifiées par l'IA dans ses résultats de recherche. L'entreprise a précisé qu'il signalera ces contenus via la fonction « À propos de cette image », qui apparaîtra dans Google Search, Google Lens et Circle to Search d'Android en s'appuyant sur les métadonnées de la Coalition for Content Provenance and Authenticity (C2PA). Google prévoit également d'étendre cette technologie aux services publicitaires et éventuellement aux vidéos YouTube.
Google Photos est un service de partage et de stockage de photos développé par Google. Il a été annoncé en mai 2015 et est issu de Google+, l'ancien réseau social de l'entreprise. Le service analyse automatiquement les photos, en identifiant les différentes caractéristiques visuelles et les sujets. Différentes formes d'apprentissage automatique dans le service Google Photos permettent de reconnaître le contenu des photos, de générer automatiquement des albums, d'animer des photos similaires en vidéos rapides et d'améliorer la qualité des photos et des vidéos.
As we bring AI-powered editing tools to more users, we recognize the importance of doing so responsibly. Starting next week, you’ll be able to see when a photo has been edited with Google AI right in the Google Photos app. Learn more → https://t.co/gGlC332oz5 pic.twitter.com/PwysdmGkLz
— Google Photos (@googlephotos) October 24, 2024
Selon le communiqué de Google, les photos modifiées à l'aide d'outils tels que Magic Editor, Magic Eraser ou Zoom Enhance comportent déjà des métadonnées conformes à la norme International Press Telecommunications Council (IPTC) qui indiquent qu'elles ont été modifiées à l'aide de l'IA générative. Désormais, l'entreprise affichera les données d'édition par l'IA aux côtés de détails tels que l'emplacement, le nom du fichier et les informations de sauvegarde dans Google Photos. Lorsque les utilisateurs ouvrent une photo et font défiler la section « Détails » jusqu'en bas, une nouvelle note indiquera si l'image a été « éditée à l'aide de Google AI ».
La section « Info IA » sera disponible dans la vue détaillée de l'image, à la fois sur le web et dans l'application. Ces étiquettes indiqueront également lorsqu'une photo comprend des éléments provenant de plusieurs images, par exemple lors de l'utilisation des fonctionnalités « Best Take » et « Add Me », exclusives aux appareils Pixel.
Google fournit des précisions sur les images modifiées par l'IA, mais les filigranes font toujours défaut
Google affirme que cette nouvelle information vise à « améliorer davantage la transparence ». Toutefois, comme la plupart des gens jettent un coup d'œil rapide aux photos en ligne et passent à autre chose, l'absence de filigrane visible peut empêcher les utilisateurs d'identifier rapidement les images modifiées par l'IA.
Le géant de la technologie reconnaît que son travail est en cours et qu'il continuera à recueillir des commentaires tout en explorant des solutions pour améliorer la transparence des modifications par l'IA. Google n'a toutefois pas exclu la possibilité d'ajouter des filigranes visuels à ses photos.
Cette annonce fait suite au lancement du Pixel 9, qui intègre les derniers algorithmes d'IA de Google pour améliorer le traitement et la manipulation des images. Ses outils avancés de retouche photo permettent aux utilisateurs de créer des images hyperréalistes, ce qui soulève des préoccupations éthiques quant à l'utilisation abusive potentielle à des fins de désinformation et de manipulation de preuves. Les critiques soutiennent que les garanties essentielles de Google, telles que le marquage des métadonnées, sont insuffisantes, ce qui conduit à des appels à des réglementations plus strictes et à des algorithmes de détection améliorés pour faire face à ces risques.
Le communiqué de Google est présenté ci-dessous :
Nous apportons souvent des modifications à nos photos pour les rendre plus attrayantes. Parfois, il s'agit d'apporter une simple modification à une photo, comme la recadrer. D'autres fois, il s'agit de modifications plus complexes, comme la suppression de distractions ou d'objets indésirables, l'amélioration de l'éclairage ou même la création d'une nouvelle composition. Auparavant, ces tâches complexes prenaient beaucoup de temps, mais l'IA a changé la donne : elle alimente des outils de retouche tels que Magic Editor et Magic Eraser dans Google Photos.
Alors que nous mettons ces outils à la disposition d'un plus grand nombre de personnes, nous reconnaissons l'importance de le faire de manière responsable, en nous appuyant sur nos principes en matière d'IA. Afin d'améliorer la transparence, il est désormais plus facile de savoir si des modifications ont été apportées par l'IA dans Google Photos. À partir de la semaine prochaine, Google Photos indiquera si une photo a été modifiée à l'aide de Google AI directement dans l'application Photos.
Les photos modifiées à l'aide d'outils tels que Magic Editor, Magic Eraser et Zoom Enhance comportent déjà des métadonnées basées sur les normes techniques du Conseil international des télécommunications de la presse (IPTC) pour indiquer qu'elles ont été modifiées à l'aide de l'IA générative. Aujourd'hui, nous allons plus loin en rendant ces informations visibles aux côtés d'informations telles que le nom du fichier, l'emplacement et l'état de la sauvegarde dans l'application Photos.
En plus d'indiquer quand une image a été éditée à l'aide de l'IA générative, nous utiliserons également les métadonnées IPTC pour indiquer quand une image est composée d'éléments provenant de différentes photos à l'aide de fonctions non génératives. Par exemple, Best Take sur Pixel 8 et Pixel 9, et Add Me sur Pixel 9 utilisent des images capturées à proximité les unes des autres dans le temps pour créer une image combinée afin de vous aider à prendre de superbes photos de groupe.
Ce travail n'est pas terminé, et nous continuerons à recueillir des commentaires et à évaluer d'autres solutions afin d'accroître la transparence des modifications apportées par l'IA.
Alors que nous mettons ces outils à la disposition d'un plus grand nombre de personnes, nous reconnaissons l'importance de le faire de manière responsable, en nous appuyant sur nos principes en matière d'IA. Afin d'améliorer la transparence, il est désormais plus facile de savoir si des modifications ont été apportées par l'IA dans Google Photos. À partir de la semaine prochaine, Google Photos indiquera si une photo a été modifiée à l'aide de Google AI directement dans l'application Photos.
Les photos modifiées à l'aide d'outils tels que Magic Editor, Magic Eraser et Zoom Enhance comportent déjà des métadonnées basées sur les normes techniques du Conseil international des télécommunications de la presse (IPTC) pour indiquer qu'elles ont été modifiées à l'aide de l'IA générative. Aujourd'hui, nous allons plus loin en rendant ces informations visibles aux côtés d'informations telles que le nom du fichier, l'emplacement et l'état de la sauvegarde dans l'application Photos.
En plus d'indiquer quand une image a été éditée à l'aide de l'IA générative, nous utiliserons également les métadonnées IPTC pour indiquer quand une image est composée d'éléments provenant de différentes photos à l'aide de fonctions non génératives. Par exemple, Best Take sur Pixel 8 et Pixel 9, et Add Me sur Pixel 9 utilisent des images capturées à proximité les unes des autres dans le temps pour créer une image combinée afin de vous aider à prendre de superbes photos de groupe.
Ce travail n'est pas terminé, et nous continuerons à recueillir des commentaires et à évaluer d'autres solutions afin d'accroître la transparence des modifications apportées par l'IA.
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous cette initiative de Google crédible ou pertinente ?Voir aussi :
Google va commencer à étiqueter les images générées par l'IA dans ses résultats de recherche, car plus de 70 % des consommateurs craignent d'être dupés par des IA Le filigrane invisible SynthID de Google permettra désormais d'identifier les textes et les vidéos générés par l'IA, mais il est moins détectable lorsque le texte a été entièrement réécrit ou traduit Google intègre des filigranes inaudibles appelés SynthID dans sa musique générée par l'IA, la protection contre les contrefaçons ne devrait pas compromettre la vie privée des utilisateurs