Dans une annonce publiée le 2 novembre par Jerome Pesenti, vice-président de l'intelligence artificielle chez Facebook, le réseau social a annoncé qu’il allait mettre un terme à son système de reconnaissance faciale :« Dans les semaines à venir, Meta fermera le système de reconnaissance faciale sur Facebook dans le cadre d'une initiative à l'échelle de l'entreprise visant à limiter l'utilisation de la reconnaissance faciale dans nos produits. Dans le cadre de ce changement, les personnes qui ont opté pour notre paramètre de reconnaissance faciale ne seront plus automatiquement reconnues dans les photos et les vidéos, et nous supprimerons le modèle de reconnaissance faciale utilisé pour les identifier. »
« Ce changement représentera l'un des changements les plus importants dans l'utilisation de la reconnaissance faciale dans l'histoire de la technologie. Plus d'un tiers des utilisateurs actifs quotidiens de Facebook ont opté pour notre paramètre de reconnaissance faciale et peuvent être reconnus, et sa suppression entraînera la suppression de plus d'un milliard de modèles de reconnaissance faciale individuels. »
« Faire ce changement a nécessité un examen attentif, car nous avons vu un certain nombre d'endroits où la reconnaissance faciale peut être très appréciée par les personnes utilisant des plateformes(...) Pendant de nombreuses années, Facebook a également donné aux gens la possibilité d'être automatiquement avertis lorsqu'ils apparaissent sur des photos ou des vidéos publiées par d'autres, et a fourni des recommandations à identifiant sur les photos. Ces fonctionnalités sont également alimentées par le système de reconnaissance faciale que nous arrêtons ».
Le réseau social a indiqué qu'il allait conserver la technologie pour certaines problématiques touchant à la sécurité : « Pour l'avenir, nous considérons toujours la technologie de reconnaissance faciale comme un outil puissant, par exemple, pour les personnes ayant besoin de vérifier leur identité, ou pour prévenir la fraude et l'usurpation d'identité. Nous pensons que la reconnaissance faciale peut aider pour des produits comme ceux-ci avec la confidentialité, la transparence et le contrôle en place, vous décidez donc si et comment votre visage est utilisé. Nous continuerons à travailler sur ces technologies et à engager des experts externes ».
Mais Meta, la maison-mère de Facebook, compte bien s'en servir dans d'autres produits
L'annonce de Meta est accompagnée de quelques mises en garde importantes. Alors que Meta dit que la reconnaissance faciale n'est pas une fonctionnalité sur Instagram et ses appareils Portal, le nouvel engagement de l'entreprise ne s'applique pas à ses produits métavers, selon le porte-parole de Meta Jason Grosse.
En fait, Meta explore déjà des moyens d'intégrer la biométrie dans son entreprise émergente de métavers, qui vise à créer une simulation virtuelle basée sur Internet où les gens peuvent interagir en tant qu'avatars. Meta conserve également DeepFace, l'algorithme sophistiqué qui alimente sa fonction de reconnaissance faciale par marquage photo.
« Nous pensons que cette technologie a le potentiel de permettre des cas d'utilisation positifs à l'avenir qui maintiennent la confidentialité, le contrôle et la transparence, et c'est une approche que nous continuerons d'explorer alors que nous examinons comment nos futures plateformes et appareils informatiques peuvent mieux répondre aux besoins des gens », a déclaré Grosse. « Pour toutes les applications futures potentielles de technologies comme celle-ci, nous continuerons à indiquer au public l'utilisation prévue, la manière dont les gens peuvent contrôler ces systèmes et leurs données personnelles, et la manière dont nous respectons notre cadre d'innovation responsable. »
Le fait que le marquage de photos quitte Facebook est considéré comme important par des experts et des activistes. Facebook a lancé cet outil en 2010 pour rendre sa fonction de marquage de photos plus populaire. L'idée était que laisser un algorithme suggérer automatiquement de taguer une personne en particulier sur une photo faciliterait la tâche au lieu de taguer manuellement la personne et, peut-être, encouragerait plus de personnes à taguer leurs amis. Le logiciel tire ses informations des photos que les gens publient d'eux-mêmes, informations qui permettent à Facebook de créer des modèles de visage uniques liés à leurs profils. L'algorithme qui alimente ce système s'appelle DeepFace. Il a été entraîné à partir d'images téléchargées par les utilisateurs de Facebook et permet alors de faire correspondre les modèles de visage des personnes aux visages de différentes photos.
Les experts en confidentialité ont fait part de leurs préoccupations immédiatement après le lancement de la fonctionnalité. Depuis lors, des études pivots de chercheurs comme Joy Buolamwini, Timnit Gebru et Deb Raji ont également montré que la reconnaissance faciale peut avoir des préjugés raciaux et sexistes ancrés, et est particulièrement moins précise pour les femmes à la peau plus foncée. En réponse à l'opposition croissante à la technologie, Facebook a proposé en opt-in la fonction de reconnaissance faciale en 2019 pour les utilisateurs hors de l'UE et du Canada. Le réseau de médias sociaux a également accepté de payer un règlement de 650 millions de dollars l'année dernière après qu'un procès a prétendu que l'outil de marquage violait la loi de l'Illinois sur la confidentialité des informations biométriques.
DeepFace utilise des techniques d’apprentissage profond (deep learning), un domaine d’intelligence artificielle spécialisé dans le décodage des types de données irrégulières. Un article de recherche estimait que DeepFace peut déterminer si deux visages photographiés appartiennent à la même personne avec une précision de 97,25 %. Après avoir peaufiné son algorithme au fil des années, hors de question pour Méta de se séparer de cette mine d'or.
Il est possible que défendre cette utilisation particulière de la technologie de reconnaissance faciale soit devenu trop coûteux pour Facebook et que le réseau social ait déjà obtenu ce dont il avait besoin de l'outil. Meta n'a pas exclu d'utiliser DeepFace à l'avenir, et des entreprises comme Google ont déjà intégré la reconnaissance faciale dans les caméras de sécurité. Le futur matériel de réalité virtuelle pourrait également collecter de nombreuses données biométriques.
Dans une vidéo postée le 28 octobre 2021, l’entreprise explique vouloir permettre aux internautes « de créer des avatars très ressemblants avec quelques photos prises depuis un téléphone ». Pour ce faire, il est possible que DeepFace travaille en coulisses afin de rendre votre double virtuel crédible.
Plusieurs des projets actuels de Meta montrent que l'entreprise n'a pas l'intention d'arrêter de collecter des données sur le corps des personnes. Meta développe des avatars hyperréalistes que les gens utiliseront lorsqu'ils voyageront dans le métavers, ce qui nécessite de suivre les mouvements du visage de quelqu'un en temps réel afin qu'ils puissent être recréés par leur avatar. Un nouveau casque de réalité virtuelle que Meta prévoit de lancer l'année prochaine comprendra des capteurs qui suivent les mouvements oculaires et faciaux des utilisateurs. La société a également réfléchi à l'intégration de la reconnaissance faciale dans ses nouvelles lunettes intelligentes Ray-Ban, qui permettent au porteur d'enregistrer son environnement pendant qu'il se promène, et Reality Labs, la plaque tournante de Meta pour l'étude de la réalité virtuelle et augmentée, mène des recherches en cours sur la biométrie, selon des publications sur le site Web des carrières de Facebook.
Ces usages aussi pourraient présenter des risques pour la vie privée. Si Meta conserve un scan du visage, analyse la façon dont vos yeux ou votre visage bougent, c’est autant de données biométriques qui seront partagées avec l’entreprise.
« Chaque fois qu'une personne interagit avec un environnement de réalité virtuelle comme le métavers de Facebook, elle est exposée à la collecte de ses données biométriques », a déclaré à Recode John Davisson, avocat à l'Electronic Privacy Information Center. « Selon la façon dont le système est construit, ces données peuvent inclure les mouvements oculaires, le suivi du corps, les scans du visage, les empreintes vocales, la pression artérielle, la fréquence cardiaque, des détails sur l'environnement de l'utilisateur et bien plus encore. C’est une quantité stupéfiante d’informations sensibles entre les mains d’une entreprise qui montre à maintes reprises qu’on ne peut pas faire confiance quant à nos données personnelles. »
Meta n'a pas révélé ce qu'il envisage exactement de faire avec DeepFace, mais la société promet de tenir les utilisateurs informés des changements à venir.
Source : porte-parole de Meta Jason Grosse
Voir :
Facebook va payer 650 millions de dollars à des utilisateurs de sa plateforme pour avoir utilisé une fonction de reconnaissance faciale, sans leur accord Facebook va payer 550 millions $ pour régler le procès de reconnaissance faciale, après avoir été accusé d'avoir transgressé la loi sur la confidentialité des informations biométriques de l'Illinois Des recherches révèlent que les applications de médias sociaux en savent beaucoup trop sur vous, Facebook s'avère être le pire contrevenant à cet égard, suivi de près par sa filiale Instagram Facebook a développé une app mobile de reconnaissance faciale qui permettait d'identifier ses employés et leurs amis, en pointant le téléphone dans leur direction