Google utilisera l'apprentissage automatique pour estimer l'âge d'un utilisateur à partir de son historique de navigation et d'autres données,

Mais ces informations peuvent ne pas refléter son âge réel

Google a annoncé qu'il commencera bientôt à utiliser l'IA pour faire respecter les restrictions d'âge sur ses produits. L'entreprise estime que l'IA pourrait l'aider à déterminer si un utilisateur a plus ou moins de 18 ans pour proposer des contenus plus adaptés. Le modèle d'estimation de l'âge utilisera les données existantes sur l'utilisateur, notamment les sites qu'il visite, les types de vidéos qu'il regarde sur YouTube et l'ancienneté de son compte, afin de déterminer son âge. Mais ces informations peuvent ne pas refléter fidèlement son âge réel, surtout si plusieurs personnes partagent le même appareil ou compte. Ce qui remet en cause la fiabilité de cette approche.

Google déploie l'IA pour l'aider à estimer l'âge des utilisateurs de ses services

Google a publié une mise à jour le 12 février 2024 dans lequel il a indiqué qu'il teste un modèle d'apprentissage automatique aux États-Unis pour déterminer si une personne est âgée de moins de 18 ans, ce qui lui permettra de « proposer des expériences plus adaptées à l'âge » sur ses plateformes. Avant la publication de ce billet de blogue, le responsable de YouTube, Neal Mohan, a annoncé ce changement dans une lettre annuelle publiée le 11 février 2024.

Jenn Fitzpatrick, vice-présidente de l'équipe « Core » de Google, a déclaré que l'initiative marque une étape importante dans la protection des enfants en ligne. L'unité Core est responsable de l'élaboration des bases techniques des produits phares de Google et de la protection de la sécurité en ligne des utilisateurs.

Cette initiative s'inscrit dans le cadre de la volonté de Google d'utiliser l'IA pour un plus grand nombre de tâches et de faire face à la pression exercée par les législateurs en ce qui concerne la sécurité des enfants. Google compte des milliards d'utilisateurs à travers ses propriétés et les utilisateurs désignés comme étant âgés de moins de 18 ans ont des restrictions d'accès à certains services Google. Toutefois, ces restrictions ne sont pas toujours respectées.

Parallèlement à ce modèle, Google explore d'autres solutions visant à protéger les enfants en ligne. « Nous continuerons à explorer d'autres possibilités d'améliorer la transparence pour les utilisateurs en ce qui concerne l'estimation de l'âge au niveau du compte », a déclaré Matt Bryant, porte-parole de Google.

Comment fonctionnera ce nouveau modèle d'estimation de l'âge

Selon Google, le modèle d'estimation de l'âge fera ses prédictions en s'appuyant sur les données existantes sur les utilisateurs, notamment les types d'informations recherchées par la personne (l'historique de navigation), les catégories de vidéos qu'elle regarde et l'ancienneté de son compte. Bien qu'il s'agisse de données que Google collecte déjà, certains craignent que Google utilise ce système comme prétexte pour élargir davantage sa collecte de données.


Dans la pratique, la définition du modèle de Google suggère que si une personne recherche fréquemment des informations sur les prêts hypothécaires ou les impôts, cela indique probablement qu'elle est âgée de 18 ans ou plus. Il en va de même pour un compte utilisateur qui date de plus de 20 ans.

Si le modèle d'apprentissage automatique de Google prédit qu'un utilisateur a moins de 18 ans, l'entreprise l'informera qu'elle a modifié certains de ses paramètres et lui indiquera par la suite comment il peut vérifier son âge à l'aide d'un selfie, d'une carte de crédit ou d'une pièce d'identité officielle.

Google appliquera ses fonctions de sécurité existantes aux comptes de mineurs, notamment le filtre SafeSearch qui permet de supprimer les contenus explicites des résultats de recherche. Il limitera également le contenu de YouTube qui pourrait ne pas être approprié pour les utilisateurs de moins de 18 ans.

Les limites potentielles de la nouvelle fonctionnalité de Google

YouTube a déclaré qu'il commencerait à tester l'outil de filtrage d'ici la fin de l'année. La plateforme prévoit de le déployer à l'échelle mondiale en 2026. Bien que le directeur de YouTube ait été le premier à annoncer cette fonctionnalité, Google la testera également dans d'autres domaines. Mais bien que l'utilisation de l'apprentissage automatique pour estimer l'âge des utilisateurs semble être une approche innovante, elle comporte de nombreuses limites.

Certains critiques sont sceptiques quant à l'efficacité de cette méthode et pensent notamment qu'elle pourrait permettre à Google de collecter davantage de données sur les utilisateurs. L'approche de Google comporte des limites en matière de précision, de respect de la vie privée et de conformité légale.

• précision des estimations : le nouveau modèle d'estimation de l'âge développé par Google s'appuie sur des données comportementales (historique de navigation, visionnage, etc.) qui peuvent être imprécises ou ne pas refléter fidèlement l'âge réel d'un utilisateur. (Par exemple, un adulte qui regarde de façon continue les animes et de manga) ;
  
• problèmes de confidentialité : l'analyse de données personnelles pour estimer l'âge soulevé des inquiétudes quant à la protection de la vie privée et au respect des réglementations comme le règlement général de protection des données (RGPD) de l'Union européenne ;
  
• possibilités de contournement : les utilisateurs pourraient manipuler ou falsifier certaines informations pour contourner les restrictions basées sur l'âge, rendant le système moins fiable ;
  
• biais et erreurs algorithmiques : comme pour tout système basé sur l'apprentissage automatique, il existe un risque que l’algorithme reproduise des biais ou commette des erreurs, affectant l’équité et l’efficacité de l’estimation.
  

L'on ignore où la nouvelle fonction d'apprentissage automatique apparaîtra. En outre, Google n'est pas le seul à tester une telle fonctionnalité. L'année dernière, Meta a déclaré qu'il utiliserait un outil de « classification des adultes » pour identifier les utilisateurs mineurs d'Instagram qui se font passer pour des adultes.

Une fonctionnalité motivée par l'adoption des lois sur la protection des enfants

Ce changement intervient probablement en réponse à l'attention accrue portée à la sécurité des enfants en ligne en Europe et aux États-Unis. Aux États-Unis, les géants de la technologie sont confrontés à des législations telles que Kids Online Safety Act (KOSA), COPPA (Children's Online Privacy Protection Act) 2.0 et Kids Off Social Media Act (KOSMA). La nouvelle loi KOSMA vise à empêcher les enfants de moins de 13 ans d'accéder aux médias sociaux.

La loi KOSMA exige que les plateformes en ligne devinent l'âge des utilisateurs, bien que cette forme de vérification de l'âge ne soit pas toujours exacte. Bientôt, Google permettra aux parents de limiter les appels et les notifications de messages sur le téléphone et la tablette de leur enfant pendant les cours.

Mais ce n'est pas tout ; Google prévoit également d'introduire prochainement plusieurs autres changements. À partir du mois prochain, les parents pourront ajouter des contacts au téléphone de leur enfant via l'application Family Link, ce qui limitera les appels téléphoniques et les SMS à ces seuls numéros.

En outre, Google permettra bientôt aux parents d'ajouter et de gérer des cartes de paiement dans le Google Wallet de leur enfant. L'entreprise prévoit de donner aux adolescents l'accès à de nouveaux outils éducatifs basés sur l'IA, notamment les applications NotebookLM et Learn About.

Sources : Google, YouTube

Et vous ?

Quel est votre avis sur le sujet ?
Que pensez-vous des modèles d'estimation de l'âge basés sur l'apprentissage automatique ?
Selon vous, s'agit-il d'une approche efficace ? Que pensez-vous de limites potentielles de cette méthode ?
Que pensez-vous des préoccupations liées aux modèles d'estimation de l'âge basés sur l'apprentissage automatique ?

Voir aussi

Les scanners de visage par IA, non éprouvés, pourraient permettre d'estimer l'âge d'accès à la pornographie au Royaume-Uni, des doutes persistent quant à leur efficacité

Porno : la Cnil n'est pas fermée à l'utilisation de la reconnaissance faciale pour vérifier l'âge des internautes, le gouvernement va lancer un premier test du système du double anonymat en mars

Protection des enfants des sites pornographiques : l'Irlande envisage une validation d'âge rigoureuse sur Internet et propose un code de sécurité en ligne