Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

De plus en plus de pays imitent l'exemple chinois en déployant des IA pour pister les citoyens
Selon un rapport

Le , par Stéphane le calme

27PARTAGES

16  0 
La technologie d'intelligence artificielle était autrefois reléguée au monde de la science-fiction, mais elle nous entoure aujourd'hui. Elle alimente nos smartphones, détermine nos préférences en matière de musique et guide nos flux de médias sociaux. L'aspect le plus notable de l'IA est peut-être sa soudaine ubiquité.

En termes généraux, l'objectif de l'intelligence artificielle est de « rendre les machines intelligentes » en automatisant ou en reproduisant un comportement qui « permet à une entité de fonctionner correctement et avec prévoyance dans son environnement », selon l'informaticien Nils Nilsson. L'intelligence artificielle n'est pas une technologie spécifique. Au lieu de cela, il est plus juste de penser à l'intelligence artificielle comme à un système intégré incorporant des objectifs d'acquisition d'informations, des principes de raisonnement logique et des capacités d'autocorrection.

Sans surprise, l'impact de l'IA va bien au-delà des choix des consommateurs. Cette technologie commence à transformer les modèles de gouvernance de base, non seulement en fournissant aux gouvernements des capacités sans précédent pour contrôler leurs citoyens et leurs choix, mais également en leur donnant une nouvelle capacité à perturber les élections, à élever de fausses informations et à délégitimer le discours démocratique transfrontalier.

Un nombre croissant de pays suivent la Chine en déployant l'intelligence artificielle pour suivre les citoyens, selon un rapport d'un groupe de recherche publié mardi. Selon la Fondation Carnegie pour la paix internationale (une organisation non gouvernementale ainsi qu'un cercle de réflexion et d'influence global dédiée au développement de la coopération interétatique et à la promotion des intérêts des États-Unis sur la scène internationale), au moins 75 pays utilisent activement des outils d'IA tels que la reconnaissance faciale pour la surveillance. L'indice des pays où une forme de surveillance de l'IA est utilisée inclut les démocraties libérales telles que les États-Unis et la France, ainsi que des régimes plus autocratiques.


« La technologie de l'intelligence artificielle (IA) prolifère rapidement dans le monde entier. Des développements surprenants continuent d’émerger, du début des vidéos deepfake qui brouillent la frontière entre vérité et mensonge, aux algorithmes avancés qui peuvent battre les meilleurs joueurs du monde. Les entreprises exploitent les capacités de l'intelligence artificielle pour améliorer le traitement analytique. Les responsables municipaux font appel à l'IA pour surveiller les embouteillages et surveiller les compteurs d'énergie intelligents. Pourtant, un nombre croissant d'États déploient des outils avancés de surveillance s'appuyant sur l'IA pour contrôler, surveiller et pister les citoyens afin de réaliser divers objectifs politiques (dont certains sont légaux, d'autres violent les droits de l'homme et beaucoup d'entre eux se situant dans un terrain glissant).

« Afin de traiter de manière appropriée les effets de cette technologie, il est important de comprendre d’abord où ces outils sont déployés et comment ils sont utilisés. Malheureusement, ces informations sont rares. Pour plus de clarté, le présent document présente un indice AI Global Surveillance (AIGS), qui constitue l'un des premiers efforts de recherche de ce type. L'indice compile des données empiriques sur l'utilisation de la surveillance se basant sur l'IA pour 176 pays dans le monde. Il ne fait pas la distinction entre les utilisations légitimes et illégales de la surveillance par une IA. Le but de la recherche est plutôt de montrer comment les nouvelles capacités de surveillance transforment la capacité des gouvernements à surveiller et suivre les individus ou les systèmes. Il demande spécifiquement:
  • Quels pays adoptent la technologie de surveillance par une IA?
  • Quels types spécifiques de surveillance par une IA les gouvernements déploient-ils?
  • Quels pays et entreprises fournissent cette technologie ?

S'appuyant sur une enquête sur les archives publiques et les médias, le rapport indique que les entreprises de technologie chinoises dirigées par Huawei et Hikvision fournissent une grande partie de la technologie de surveillance par une IA aux pays du monde entier. D’autres sociétés telles que IBM, Palantir et Cisco au Japon, basées sur NEC et aux États-Unis, sont également d’importants fournisseurs internationaux d’outils de surveillance par une IA.


Ville intelligente

Une ville intelligente est une zone urbaine qui utilise différents capteurs de collecte de données électroniques pour fournir des informations permettant de gérer efficacement les ressources et les actifs. Cela comprend les données collectées auprès des citoyens, des dispositifs mécaniques, des actifs, traitées et analysées pour surveiller et gérer les systèmes de circulation et de transport, les centrales électriques, les réseaux d'approvisionnement en eau, la gestion des déchets, les systèmes d'information, les écoles, les bibliothèques et les hôpitaux.

Le concept de ville intelligente intègre les technologies de l'information et de la communication et divers dispositifs physiques connectés au réseau (l'Internet des objets) pour optimiser l'efficacité des opérations et des services urbains et se connecter aux citoyens.

La technologie des villes intelligentes permet aux représentants municipaux d'interagir directement avec les infrastructures communautaires et urbaines et de surveiller la ville et son évolution. Les technologies de l'information et de la communication sont utilisées pour améliorer la qualité, la performance et l'interactivité des services urbains, réduire les coûts et la consommation de ressources et accroître les contacts entre les citoyens et le gouvernement.

Les fonctions des villes intelligentes sont développées pour gérer les flux urbains et permettre des réponses en temps réel. Une ville intelligente est donc plus préparée à répondre aux défis qu’une ville qui entretient une relation seulement « transactionnelle » avec ses citoyens. Pourtant, le terme lui-même reste peu clair et est ouvert à de nombreuses interprétations.

Principales conclusions
  • La technologie de surveillance par une IA se propage à un rythme plus rapide dans un plus grand nombre de pays que ce que les experts ont compris. Au moins soixante-quinze pays sur 176 dans le monde utilisent activement les technologies s'appuyant sur une IA à des fins de surveillance. Cela inclut : les plateformes de ville intelligente / ville sûre (56 pays), les systèmes de reconnaissance faciale (64 pays) et la police intelligente (52 pays).
  • La Chine est l’un des principaux moteurs de la surveillance de l’IA dans le monde. Des technologies liées à des sociétés chinoises - en particulier Huawei, Hikvision, Dahua et ZTE - fournissent une technologie de surveillance par une IA dans soixante-trois pays, dont trente-six ont adhéré à la nouvelle route de la soie chinoise (un ensemble de liaisons maritimes et de voies ferroviaires entre la Chine et l'Europe passant par le Kazakhstan, la Russie, la Biélorussie, la Pologne, l'Allemagne, la France et le Royaume-Uni). Huawei seule est responsable de la fourniture d'une technologie de surveillance boostée à l'IA à au moins cinquante pays dans le monde. Aucune autre entreprise ne s'en approche. NEC Corporation (quatorze pays) est le deuxième plus grand fournisseur de technologies de surveillance de l’intelligence artificielle non chinois.
  • Les produits chinois sont souvent accompagnés de prêts à taux réduit pour encourager les gouvernements à acheter leur matériel. Ces tactiques sont particulièrement pertinentes dans des pays comme le Kenya, le Laos, la Mongolie, l’Ouganda et l’Ouzbékistan, qui n’auraient pas pu avoir accès à cette technologie autrement. Cela soulève des questions troublantes quant à la mesure dans laquelle le gouvernement chinois subventionne l'achat de technologies répressives avancées.
  • Mais la Chine n'est pas le seul pays fournissant des technologies de surveillance avancées dans le monde. Les entreprises américaines sont également actives dans ce domaine. La technologie de surveillance de l’IA fournie par les entreprises américaines est présente dans trente-deux pays. Les sociétés américaines les plus importantes sont IBM (onze pays), Palantir (neuf pays) et Cisco (six pays). D'autres sociétés basées dans des démocraties libérales - France, Allemagne, Israël, Japon - jouent également un rôle important dans la prolifération de cette technologie. Les démocraties ne prennent pas les mesures adéquates pour surveiller et contrôler la diffusion de technologies sophistiquées liées à diverses violations.
  • Les démocraties libérales sont d'importants utilisateurs des outils de surveillance s'appuyant sur l'IA. L'indice montre que 51% des démocraties avancées utilisent des systèmes de surveillance s'appuyant sur l'IA. En revanche, 37% des États autocratiques fermés, 41% des États électoraux autocratiques / autocratiques compétitifs et 41% des démocraties électorales / démocraties non libérales utilisent une technologie de surveillance s'appuyant sur l'IA. Les gouvernements des démocraties complètes déploient toute une gamme de technologies de surveillance, des plateformes de ville sûre aux caméras de reconnaissance faciale. Cela ne signifie pas forcément que les démocraties abusent de ces systèmes. Selon l'auteur, le facteur le plus important pour déterminer si les gouvernements vont déployer cette technologie à des fins répressives est la qualité de leur gouvernance.
  • Les gouvernements des pays autocratiques et semi-autocratiques sont plus enclins à abuser de la surveillance de l'IA que les gouvernements des démocraties libérales. Certains gouvernements autocratiques - la Chine, la Russie, l'Arabie saoudite, par exemple - exploitent la technologie de l'IA à des fins de surveillance de masse. D'autres gouvernements aux prises avec des problèmes de droits de l'homme exploitent la surveillance de l'IA de manière plus limitée pour renforcer la répression. Cependant, tous les contextes politiques risquent d'exploiter illégalement la technologie de surveillance de l'IA pour atteindre certains objectifs politiques.
  • Il existe un lien étroit entre les dépenses militaires d’un pays et l’utilisation des systèmes de surveillance s'appuyant sur l’intelligence artificielle par un gouvernement : quarante des cinquante plus grands pays du monde en termes de dépenses militaires (sur la base des dépenses militaires cumulatives) utilisent également une technologie de surveillance boostée à l’IA.
  • Le rapport « Freedom on the Net 2018 » a identifié 18 pays sur les 65 ayant accédé à une technologie de surveillance s'appuyant sur l'IA développée par des sociétés chinoises.



« J'espère que les citoyens poseront des questions plus difficiles sur l'utilisation de ce type de technologie et sur son impact », a déclaré l'auteur du rapport, Steven Feldstein, de Carnegie Endowment et professeur agrégé à la Boise State University.

Parmi les projets cités dans le rapport Feldstein, il existe des systèmes de « ville intelligente » dans lesquels un gouvernement municipal installe une série de capteurs, de caméras et d’autres appareils connectés à Internet pour collecter des informations et communiquer les uns avec les autres. Huawei est l'un des principaux fournisseurs de telles plateformes, qui peuvent être utilisées pour gérer le trafic ou économiser de l'énergie, mais qui sont de plus en plus utilisées pour la surveillance et la sécurité du public, a déclaré Feldstein.

Feldstein s'est dit surpris par le nombre de gouvernements démocratiques d'Europe et du monde entier qui s'empressent d'installer une surveillance s'appuyant sur l'IA, telle que la reconnaissance faciale, des contrôles automatisés aux frontières et des outils algorithmiques permettant de prédire quand des crimes pourraient se produire. L’indice montre qu’un peu plus de la moitié des démocraties avancées du monde utilisent des systèmes de surveillance qui s'appuient sur l’IA, aux niveaux national et local.

« Je pensais que ce serait plus centré sur les pays du Golfe ou les pays dans l'orbite chinoise », a déclaré Feldstein.

Source : Fondation Carnegie pour la paix internationale

Et vous ?

Cette prolifération de la surveillance des citoyens par une IA vous semble-t-elle surprenante ? Pourquoi ?
Êtes-vous surpris de voir que certains Etats démocratiques y ont recours ?
Comment expliquez-vous que les produits chinois soient les plus sollicités / utilisés d'après le rapport ?
Êtes-vous pour ou contre des systèmes comme ceux des villes intelligentes ?
Que pensez-vous de l'idée de collecter des données, parmi lesquelles des données relatives aux citoyens, pour améliorer des éléments comme les flux urbains, la sécurité, etc. ?

Voir aussi :

L'intelligence artificielle, la nouvelle arme de la gendarmerie contre les Gilets jaunes
« On peut voir l'humanité comme une sorte de chargeur d'amorçage biologique pour l'intelligence artificielle », d'après Elon Musk
Intelligence artificielle : Amazon, Microsoft ou Intel seraient en bonne place pour la création potentielle de "Skynet", d'après une étude
Gartner : la montée en puissance de l'IA créera 2,9 mille milliards USD de valeur commerciale en 2021 en valorisant l'intelligence augmentée

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Cpt Anderson
Membre expérimenté https://www.developpez.com
Le 18/09/2019 à 15:34
J'adore cette phrase :
Feldstein s'est dit surpris par le nombre de gouvernements démocratiques d'Europe et du monde entier qui s'empressent d'installer une surveillance s'appuyant sur l'IA, telle que la reconnaissance faciale, des contrôles automatisés aux frontières et des outils algorithmiques permettant de prédire quand des crimes pourraient se produire.
Soit Feldstein n'a pas compris, soit il faisait semblant de ne pas savoir que les gouvernements des pays dont il parle n'ont rien de démocratique. A la limite on peut parler de "démocratie représentative" mais en aucun cas de démocratie au sens premier du terme. D’où l’intérêt de ces gouvernements de garder la main mise sur les citoyens; et l'IA est pour eux un formidable outil.
8  0 
Avatar de vxlan.is.top
Membre éprouvé https://www.developpez.com
Le 23/09/2019 à 15:34
Citation Envoyé par tanaka59 Voir le message
Bonjour,

La machine n'apprend rien du tout. Elle capte de la donnée et génère des combinaisons. Au fur et à mesure que le nombre de combinaison grandit elle garde en mémoire certaines combinaisons plutôt que d'autre.

Pour rappel "artificiel" = https://www.google.com/search?client...tion+artificil > créée de la main de l'homme .

Simplement les machines sont programmées pour corréler et agréger de la donnée . Un programme reste un programme , pas un cerveau humain ...
Alors renseignes-toi sur les rapports de certaines boîtes d'experts qui ont réussi à faire du reverse engineering sur la très fameuse appli IJOP, en voici un publié par hrw:

https://www.hrw.org/report/2019/05/0...s-surveillance

Notamment, la startup chinoise Megvii (il y en a d'autres comme SenseTime, CloudWalk, et Yitu) est devenue leader en reconnaissance faciale/"social behavior" (c'est en grande partie la paranoïa envers les Uighur qui a stimulé cette recherche).
Ça ne date que du 26 Août dernier, on n'en a pas trop entendu parler mais Megvii a annoncé une levée de fonds sur le marché de Hong-Kong qui devrait atteindre 500 Millions de dollars au plus bas. C'est pas en pissant des lignes de code avec un "simple" programme qui fait des in/out sur des bases qu'ils sont en train d'attirer les regards (il y a des rumeurs que certains pays européens seraient intéressés par la solution).

J'ai malheureusement très peu de temps en ce moment pour écrire un billet sur le sujet...
Parce que je pense que beaucoup ont une vision extrêmement simpliste de l'état de l'art de l'IA et du Machine Learning...
J'ai beaucoup d'échanges avec des spé qui sont dans ce domaine et sans être anxiogène, je trouve ça flippant

-VX
3  0 
Avatar de pmithrandir
Expert confirmé https://www.developpez.com
Le 18/09/2019 à 15:42
Article intéressant.
Est-ce que quelqu’un à la liste des programmes de ce type fait en France ?
Je ne me rappelle pas que la loi ai autorisé la reconnaissance faciale(et le stockage des données faciales) des citoyens.
2  0 
Avatar de marsupial
Membre expert https://www.developpez.com
Le 18/09/2019 à 17:24
Je n'ai pas la liste des programmes mais Gemalto, récemment racheté par Thalès, équipe les douanes de reconnaissance faciale : fiable à 99% d'après eux.
De même la loi sur les nouvelles cartes d'identité impose une photo sans lunette et une expression sobre et sera stockée à des fins évidentes d'usage de reconnaissance faciale. La CNIL est contre.
2  0 
Avatar de vxlan.is.top
Membre éprouvé https://www.developpez.com
Le 23/09/2019 à 14:01
Citation Envoyé par tanaka59 Voir le message

J'ajouterai par commencer > artificiel = "créé de toute pièce" , donc l'intelligence artificiel n'est en rien une intelligence ... elle n'a d'intelligence que le nom ... dans les faits c'est un vulgaire programme informatique que l'on peut qualifier de "big data" ou même "big brother"
Alors détrompes-toi...
L'arsenal logiciel qui tourne autour de la surveillance de masse est bien basé sur la combinaison d'IA et de Machine Learning, on est très très loin de la "programmation classique"...

-VX
2  0 
Avatar de Cpt Anderson
Membre expérimenté https://www.developpez.com
Le 18/09/2019 à 17:36
Citation Envoyé par marsupial Voir le message
Je n'ai pas la liste des programmes mais Gemalto, récemment racheté par Thalès, équipe les douanes de reconnaissance faciale : fiable à 99% d'après eux.
De même la loi sur les nouvelles cartes d'identité impose une photo sans lunette et une expression sobre et sera stockée à des fins évidentes d'usage de reconnaissance faciale. La CNIL est contre.
Depuis plusieurs années, le gouvernent fait le forcing pour fusionner la CNIL avec le CSA ou le CADA.
1  0 
Avatar de pmithrandir
Expert confirmé https://www.developpez.com
Le 19/09/2019 à 8:58
Citation Envoyé par marsupial Voir le message
Je n'ai pas la liste des programmes mais Gemalto, récemment racheté par Thalès, équipe les douanes de reconnaissance faciale : fiable à 99% d'après eux.
De même la loi sur les nouvelles cartes d'identité impose une photo sans lunette et une expression sobre et sera stockée à des fins évidentes d'usage de reconnaissance faciale. La CNIL est contre.
C'est la ou ca m'étonne, parce que je ne pense pas que le cadre légal existe pour cela.
Aucun consentement de l'utilisateur pour ces 2 utilisations de leurs données personnelles. bonjour la GDPR, et surtout aucune information au public.
1  0 
Avatar de tanaka59
Membre chevronné https://www.developpez.com
Le 22/09/2019 à 23:34
Bonsoir,

J'ajouterai par commencer > artificiel = "créé de toute pièce" , donc l'intelligence artificiel n'est en rien une intelligence ... elle n'a d'intelligence que le nom ... dans les faits c'est un vulgaire programme informatique que l'on peut qualifier de "big data" ou même "big brother"

Cette prolifération de la surveillance des citoyens par une IA vous semble-t-elle surprenante ? Pourquoi ?
Pas du tout ... Quand c'est du libéral les sociétés se chargent de collecter la donnée, quand c'est du communisme c'est l'état qui le fait

Êtes-vous surpris de voir que certains Etats démocratiques y ont recours ?
Non , je ne suis par surpris. Ceux ci essayent simplement de refourguer le bébé à des sociétés privées pour monetiser la chose ... voila tout.

Comment expliquez-vous que les produits chinois soient les plus sollicités / utilisés d'après le rapport ?
Les capitaux chinois rachètent toutes les sociétés à tous les niveaux . Biens comme services. Donc quand on maitrise toute l'échelle de la production au consommateur, c'est bien plus simple de faire passer ces produits. Sinon c'est très facile de faire couler une boite ... Pas quartier dans un monde capitaliste

Êtes-vous pour ou contre des systèmes comme ceux des villes intelligentes ?
Je suis pour dans certains contexte. Dans les faits dans d'autres contextes je suis contre . Malheureusement l'état et les sociétés privées ont une longueur d'avance ... Le citoyen sera toujours la vache à lait, mouton et j'en passe. En cas d'opposition il est très facile d'écraser un récalcitrant et de l'ejecter du système pour que celui ci soit off course ...

Que pensez-vous de l'idée de collecter des données, parmi lesquelles des données relatives aux citoyens, pour améliorer des éléments comme les flux urbains, la sécurité, etc. ?
On est dans une société ou les média,consommation,culture,débat,information,loisir,détente,échange bref tout ce qui relève du "non" essentiel et de la surconsommation à outrance sont roi ... On en veut encore et toujours plus, tout se monnaye ... donc on collecte encore et toujours plus de données . Vous ne voulez pas être "espionné" ? Abstenez vous de consommez un bien ou un service inutile alors ...
1  0 
Avatar de phil995511
Membre actif https://www.developpez.com
Le 18/09/2019 à 19:34
Vive la liberté individuelle... ces états à tendance dictatoriale réalisant de telles ingérences dans les affaire et la vie privée de leurs concitoyens devraient être mis à banc, ils devraient êtres placés sur liste noire pour violation des droits humains fondamentaux...
0  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 19/09/2019 à 11:33
Citation Envoyé par Stéphane le calme Voir le message
Cette prolifération de la surveillance des citoyens par une IA vous semble-t-elle surprenante ? Pourquoi ?
Ce n'est pas surprenant, les gouvernements aiment bien pouvoir surveiller leur peuple.
Les USA sont les meilleurs dans le domaine depuis longtemps, la NSA a accès à tout.
Les chinois essaient de rattraper leur retard.

Des caméras de surveillance y'en a en Angleterre depuis longtemps, les vieilles pouvaient même être payé pour faire de la délation.
United Kingdom and CCTV are watching you
Un manque d’efficacité du système de surveillance public et une absence de régulation sur l’équipement privé qui suscitent un véritable problème de société de la surveillance, et semblent instaurer une « psychose du voisinage ». Un système qui encourage la délation et déresponsabilise quelque part les services de police. Ce samedi 21 septembre 2013, l’enregistrement d’un homme ayant volé une soixantaine de stylos plume dans un supermarché de Loughton (Essex, Sud-Est de l’Angleterre)a été rendu public. Chaque citoyen reconnaissant l’homme sur la vidéo étant invité à contacter anonymement la police dans les plus brefs délais.
Citation Envoyé par Stéphane le calme Voir le message
Êtes-vous surpris de voir que certains Etats démocratiques y ont recours ?
Qu'est-ce que ça veut dire "démocratique" ?
Dans quel pays est-ce que le peuple a un minimum de pouvoir ? En Suisse peut-être...
Sinon ce sont des représentants qui élisent d'autres représentants et ce sont eux qui ont le pouvoir.
Juncker est hyper puissant, aucun peuple n'a voté pour lui.
Un candidat peut faire n'importe quoi comme promesse et n'en tenir aucune, rien n'oblige un élu à tenir ses promesses.

La dictature c'est "ferme la" la démocratie c'est "cause toujours".
On nous fait croire qu'on est libre, mais c'est un mensonge.

Citation Envoyé par Stéphane le calme Voir le message
Comment expliquez-vous que les produits chinois soient les plus sollicités / utilisés d'après le rapport ?
Quand t'achètes des produits US t'as la certitude qu'il y a des backdoors pour te surveiller.
Les produits chinois sont peut-être moins cher.
C'est dommage qu'on ne fabrique plus rien en Europe...

Citation Envoyé par Stéphane le calme Voir le message
Que pensez-vous de l'idée de collecter des données, parmi lesquelles des données relatives aux citoyens, pour améliorer des éléments comme les flux urbains, la sécurité, etc. ?
Il ne faut jamais accepter de perdre de la liberté pour gagner de la sécurité.

De toute façon l'effondrement approche il y aura moins de flux urbains, il n'y aura plus besoin de se rendre au boulot...
0  0