De la surveillance biométrique de masse à la reconnaissance faciale en passant les empreintes digitales, les applications de l'IA jugées seraient risquées pour certains observateurs. C’est dans ce contexte de doute, de peur et de rejet face à l’IA que Audrey Azoulay, Directrice générale de l'UNESCO a présenté jeudi la toute première norme mondiale sur l'éthique de l'intelligence artificielle adoptée par les Etats membres de l'UNESCO lors de la Conférence générale.« Le monde a besoin de règles pour que l'intelligence artificielle profite à l'humanité. La recommandation sur l'éthique de l'IA est une réponse majeure. Elle fixe le premier cadre normatif mondial tout en donnant aux États la responsabilité de l'appliquer à leur niveau. L'UNESCO soutiendra ses 193 États membres dans sa mise en œuvre et leur demandera de rendre compte régulièrement de leurs progrès et de leurs pratiques », a déclaré Audrey Azoulay, Directrice générale de l'UNESCO.
Ce texte historique définit les valeurs et principes communs qui guideront la construction de l'infrastructure juridique nécessaire pour assurer le développement sain de l'IA. L'IA est omniprésente et permet un grand nombre des routines quotidiennes, réserver des vols, conduire des voitures autonomes et personnaliser les fils d'actualité du matin. L'IA soutient également la prise de décision des gouvernements et du secteur privé.
Cependant, « nous n'avons aucune information sur les motivations réelles de l'utilisation de l’IA dans les espaces publics par les entreprises et nos gouvernements », soutient le collectif Reclaim your Face, une coalition composée de plusieurs associations de défense des libertés. Pour le groupe de défense des droits et des libertés, l'introduction de ces technologies se fait dans le secret, sans preuve claire de sa nécessité.
Par exemple, la surveillance de masse est interdite par la législation européenne. De plus, les données biométriques sont particulièrement sensibles au regard des lois européennes sur les données personnelles. La combinaison des données biométriques et de la surveillance de masse pourrait donner lieu à une pratique illégale qui traite injustement tout le monde comme un suspect. Elle violerait les droits à la liberté d’expression, à se réunir, à dénoncer les injustices et à vivre sans discrimination.
« Nos qualités, nos comportements, nos émotions, nos caractéristiques sont utilisés contre nous. Notre dignité est menacée ! Les gens sont objectivés, chosifiés, déshumanisés. De plus, l'utilisation de technologies comme la reconnaissance faciale est manipulatrice, par exemple en forçant les gens à éviter certains lieux ou certains événements », déclare Reclaim your Face.
Jennifer Baker, militante des droits numériques et correspondante de l'IAPP pour la politique européenne de protection de la vie privée, a déclaré que pour elle, les droits civils et la protection des données sont bien plus importants que les profits des entreprises. Elle a déclaré qu'il y a des questions majeures qui ne sont pas abordées, qui affectent déjà les citoyens à leur insu, comme qui possède les données et comment les systèmes d'IA les traitent, et comment les préjugés et la discrimination sont intégrés dans ces systèmes. « Nous ne savons même pas combien de ces choses sont déjà là parce qu'il y a eu une ruée vers les profits », a-t-elle noté. Voici, ci-dessous quelques applications de l’IA :
La Biométrie
Les données biométriques comprennent les données relatives à notre corps ou à notre comportement : empreinte digitale, empreinte palmaire, veines de la paume, reconnaissance du visage, ADN, géométrie de la main, reconnaissance de l'iris, reconnaissance de la rétine, rythme de frappe, façon de marcher, voix et bien d'autres choses encore.
En Europe et dans le monde, des entreprises "innovent" pour tenter de trouver de nouveaux moyens de capturer l’identité des citoyens : la structure des veines, la façon dont les poids sont repartis sur une chaise, le visage lorsqu’un masque est porté. Pourtant, en vertu de la législation européenne sur la protection des données, les données biométriques sont particulièrement sensibles. Ces données sont liées à nos identités individuelles et peuvent être utilisées pour déduire des informations protégées et intimes sur l’identité, la santé et plus encore.
Biométrie de masse
La surveillance biométrique de masse désigne toute surveillance, tout suivi et tout autre traitement des données biométriques d'individus ou de groupes de manière indiscriminée ou arbitrairement ciblée. Lorsqu'il est utilisé pour scanner tout le monde dans des espaces publics ou accessibles au public (une forme de surveillance de masse) ou dans des situations de grands déséquilibres de pouvoir, le traitement biométrique viole un large éventail de droits fondamentaux. Il peut avoir un « effet paralysant » sur des libertés fondamentales telles que l'expression et le rassemblement. Le profilage fondé sur le traitement de ces données peut entraîner de graves violations du droit à la non-discrimination.
La reconnaissance faciale
La reconnaissance faciale est un processus qui permet de capturer et d'analyser les données du visage d'une personne, et de les utiliser pour prédire qui est cette personne, ou si elle correspond à une certaine image (comme sur un passeport ou une liste de surveillance de la police). La reconnaissance faciale est de plus en plus courante dans les espaces publics. De nombreuses raisons expliquent ce phénomène, notamment l'augmentation de la capacité de traitement des données au cours des dernières années, les progrès technologiques permettant...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
