IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social,
Les amendes pouvant atteindre 4 % du chiffre d'affaires

Le , par Stan Adkens

81PARTAGES

15  0 
La surveillance de masse par les systèmes d’intelligence artificielle et le scoring continuent de faire l’objet de débat à travers le monde entier. Ce qui était l’objet d’une fiction dans l’épisode Nosedive de la série Black Mirror est en train de devenir une réalité dans certaines parties du monde, tandis que certains gouvernements cherchent à limiter les dégâts. Bruxelles s'apprête à imposer des limites strictes aux systèmes d'intelligence artificielle utilisés pour la surveillance de masse ou le classement du comportement social afin d'éviter des abus de la surveillance publique des citoyens européens. Les entreprises qui développent l'IA pourraient se voir infliger des amendes pouvant atteindre 4 % de leur chiffre d'affaires mondial si elles ne se conforment pas aux nouvelles règles régissant les applications logicielles.

Dans le domaine du marketing, le scoring est une technique qui permet d'affecter un score à un client ou prospect. Le score obtenu traduit généralement la probabilité qu'un individu réponde à une sollicitation marketing ou appartienne à la cible recherchée. Mais le scoring dont l’Union européenne veut faire face est une tout autre chose. L’idée ici est de collecter des centaines de données sur les individus et les entreprises à partir des réseaux sociaux et via les systèmes d’intelligence artificielle. Ces données seront ensuite passées au crible scrutant la légalité et la moralité d’un individu dans les domaines économiques, sociaux et politiques, avec pour but un score dont découleront des récompenses ou des sanctions.


Depuis 2018, la Chine a commencé à tester son projet de « système de crédit social » qui vise à mettre en place un système national pour noter ses citoyens. En effet, ce projet consiste à attribuer une note à chaque citoyen, fondée sur les données dont dispose le gouvernement sur les Chinois. Le système repose sur un outil de surveillance de masse et utilise les technologies d'analyse Big Data. Il permet aussi de noter les entreprises opérant sur le marché chinois.

Dès 2018, la liste noire du système de notation sociale chinois s'élargissait et impliquait plusieurs domaines. Alors que le système était prévu pour être pleinement opérationnel jusqu'en 2020, des millions de ressortissants chinois ont été empêchés de réserver des vols ou des trains depuis que ce système controversé a commencé à être testé dans certaines villes du pays. « Cela permettra aux personnes de confiance de circuler librement sous le ciel tout en entravant les personnes qui ne sont pas dignes de confiance dans leurs déplacements », expliquait le Parti communiste chinois. L’un des mauvais comportements pouvant faire baisser la note du crédit social des individus, c’est celui de passer d’un emploi à l’autre trop fréquemment. Des citoyens répertoriés pour ce comportement se voient infliger des sanctions.

L’UE veut éviter cela aux citoyens européens en interdisant les systèmes d'intelligence artificielle utilisés pour la surveillance de masse ou le classement des comportements sociaux. Les mesures à venir font partie de la législation qui doit être proposée par la Commission européenne, l'organe exécutif de l'Union européenne, selon un document de projet de nouvelles règles. Les nouvelles règles pourraient être dévoilées dès la semaine prochaine, et d’ici là, la Commission pourrait changer certains détails.

Les nouvelles règles sur l’intelligence artificielle

La proposition de la Commission européenne devrait inclure les règles suivantes :

  • Les systèmes d'IA utilisés pour manipuler le comportement humain, exploiter des informations sur des individus ou des groupes d'individus, utilisés pour effectuer du scoring social ou pour une surveillance systématique seraient tous interdits dans l'UE. Certaines exceptions liées à la sécurité publique s'appliqueraient.
  • Les systèmes d'identification biométrique à distance utilisés dans les lieux publics, comme la reconnaissance faciale, nécessiteraient une autorisation spéciale des autorités.
  • Les applications d'IA considérées comme "à haut risque" devront être soumises à des inspections avant d'être déployées, afin de garantir que les systèmes sont formés sur des ensembles de données impartiaux, de manière traçable et avec une supervision humaine.
  • L'IA à haut risque concernerait les systèmes susceptibles de mettre en danger la sécurité, la vie ou les droits fondamentaux des personnes, ainsi que les processus démocratiques de l'UE – comme les voitures à conduite autonome et la chirurgie à distance, entre autres.
  • Certaines entreprises seront autorisées à procéder elles-mêmes à des évaluations, tandis que d'autres seront soumises à des contrôles effectués par des tiers. Les certificats de conformité délivrés par les organismes d'évaluation seront valables pour une durée de cinq ans.
  • Les règles s'appliqueront de la même manière aux entreprises établies dans l'UE ou à l'étranger.

Les États membres de l'UE devront désigner des organismes d'évaluation chargés de tester, de certifier et d'inspecter les systèmes, d’après le projet de nouvelles règles. Les entreprises qui développent des services d'IA interdits, fournissent des informations incorrectes ou ne coopèrent pas avec les autorités nationales pourraient se voir infliger une amende pouvant atteindre 4 % de leur chiffre d'affaires mondial. Il y aura toutefois des exceptions. Les mesures ne s'appliqueront pas aux systèmes d'IA utilisés exclusivement à des fins militaires.

Des inquiétudes concernant l’utilisation des systèmes d’IA à des fins de classement des comportements sociaux ne datent pas de maintenant. Un groupe d'experts de haut niveau sur l'IA, réunis par l'Union européenne, a recommandé en 2018 l'interdiction d'utiliser l'IA pour le scoring des citoyens et la surveillance de masse. Le groupe, qui était composé d'un mélange d'experts de l'industrie de l'IA, de représentants de la société civile, de conseillers politiques, d'universitaires et d'experts juridiques, craint que les gouvernements, dans leur désir d'accroître la sécurité, poussent cette surveillance à des niveaux qu'ils qualifient de dangereux.


« Les gouvernements pourraient être tentés de sécuriser la société en construisant un système de surveillance généralisé basé sur des systèmes d'IA, mais cela serait extrêmement dangereux si on le poussait à des niveaux extrêmes. Les gouvernements devraient s’engager à ne pas participer à une surveillance massive des individus et à déployer et acquérir uniquement des systèmes d’IA fiables, conçus pour respecter la loi et les droits fondamentaux, alignés sur des principes éthiques et solides du point de vue sociotechnique », pouvait-on lire dans leur rapport.

Alors que l'intelligence artificielle a commencé à pénétrer dans chaque partie de la société, des suggestions d'achat et des assistants vocaux aux décisions concernant l'embauche, les assurances et l'application de la loi, l'UE veut s'assurer que la technologie déployée en Europe est transparente, bénéficie d'une supervision humaine et répond à ses normes élevées en matière de confidentialité des utilisateurs.

Les règles proposées interviennent alors que l'Union européenne tente de rattraper les États-Unis et la Chine dans le déploiement de l'intelligence artificielle et d'autres technologies avancées. Les nouvelles exigences pourraient empêcher les entreprises technologiques de la région de concurrencer leurs rivaux étrangers si elles tardent à dévoiler leurs produits parce qu'ils doivent d'abord être testés.

En janvier 2020, Bruxelles s’apprêtait également imposer des limites strictes à l'utilisation de la technologie de reconnaissance faciale dans les espaces publics afin d'éviter des abus de la surveillance publique des citoyens européens. L'objectif serait de limiter « l'utilisation aveugle de la technologie de reconnaissance faciale » par les entreprises et les pouvoirs publics. Selon le plan, les citoyens européens auraient le droit de « savoir quand les données [de reconnaissance faciale] sont utilisées », avec toutes les exceptions « strictement circonscrites » pour garantir une utilisation appropriée.

Mais au cours du même mois, la proposition de l'Union européenne a évolué, le groupe abandonnant la possibilité d’interdire l’utilisation dans l’espace public de technologies de reconnaissance faciale. À cette époque, les consultations sur le plan étaient en cours, la proposition pouvant être modifiée à nouveau.

Et vous ?

Quel est votre avis sur ces futures règles sur l’IA de l’UE ?
Que pensez-vous du classement des comportements sociaux par les gouvernements ?

Voir aussi :

Pourquoi les systèmes de crédit social de la Chine sont étonnamment populaires ? Ils combleraient la « méfiance mutuelle entre les citoyens »
Chine : les personnes qui changent d'emploi trop souvent pourraient être sanctionnées, par le système de crédit social
Bruxelles pourrait interdire l'utilisation des technologies de reconnaissance faciale dans les espaces publics sur cinq ans, le temps de légiférer sur des moyens permettant de prévenir des abus
L'UE devrait interdire le scoring des citoyens et la surveillance de masse à l'aide de l'IA, selon un groupe d'experts de haut niveau

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de kain_tn
Membre expert https://www.developpez.com
Le 23/04/2021 à 23:05
Citation Envoyé par tanaka59 Voir le message
Le projet de loi d'interdiction , c'est du flan . Vu qu'on l'utilise déjà et que des lois liberticides peuvent toujours passées. On l'a vu avec le covid.
Ouais, les lois Européennes sont utiles quand un gouvernement veut faire passer une mesure impopulaire. Il leur suffit de dire "C'est pas nous, c'est l'Europe".

Par contre quand ça ne va pas dans leur sens, ils s'en foutent complètement...
2  0 
Avatar de tanaka59
Expert confirmé https://www.developpez.com
Le 23/04/2021 à 22:22
Bonsoir,

Quel est votre avis sur le sujet ?
L'essayé c'est l'adoptée comme dit l'adage ... A savoir que la reconnaissance étant déjà utilisée, chaque pays et / ou juridiction trouvera un moyen de contournement pour continuer de l'utiliser.

C'est déjà en service en Chine, USA et plein d'autres pays.

Que pensez-vous du projet de règles de la Commission européenne ?
Le projet de loi d'interdiction , c'est du flan . Vu qu'on l'utilise déjà et que des lois liberticides peuvent toujours passées. On l'a vu avec le covid.
2  2 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 24/04/2021 à 0:09
On voie bien qu'une fois de plus l'Europe est victime des lobbies, ici clairement le lobby des trafiquants de drogues et autres criminels, les mêmes mêmes lobby qui ont réussi à faire maintenir la prohibition sur le cannabis pour continuer à faire leur petits business illégal sur une simple plante médicinale aux nombreuses vertus millénaires.

En vrai pour bien faire il faudrait encourager la reconnaissance faciale et en installer à chaque coin de rue, et surtout faire fermer la CNIL qui ne sert à rien pour pouvoir enfin interconnecter entre eux tous les fichiers pour pouvoir comme il se doit suivre tout citoyen à la trace, et recouper toutes les informations. Par exemple pouvoir être interconnecté aux fichiers de santé et pouvoir coincer un covïdique qui a rompu sa quarantaine et pouvoir le faire incarcérer séance tenante dans un Covidorium dument habilité.

En sus il faut compléter avec des IA, comme par exemple une IA qui pourrait via la reconnaissance faciale constater que deux personnes non mariées ont des contacts inappropriés, et si ces personnes sont mariées par ailleurs déclencher un processus IA pour les faire divorcer automatiquement ce qui ferais de grosses économies de détectives privé, d'avocats et de frais de justice.

Chaque entreprise devrait être munie de reconnaissance faciale couplée avec le système de détection de température, pour renvoyer chez lui tout malade d'une part, et d'autre part c'est un moyen de détecter les tire-aux-flancs pour défalquer de leurs salaires les absences des feignasses. Même chose pour le télétravail, une étude à montré que la majorité des travailleurs ne foutent rien, il faut donc installer la reconnaissance faciale sur le lieu de télétravail et ne comptabiliser que les heures vraiment travaillées, soit le plus souvent 1 ou 2 h par jour, et ne pas payer le reste (Netflix, jeux vidéos, sites porno, drague en ligne, shopping ...) , ce qui fera faire de grosses économies aux entreprises.

Les Chinois ont pris de l'avance dans ce domaine, et l'Europe est totalement à la ramasse, aussi bien techniquement que juridiquement, il faudrait installer en Europe sous licence l'excellent système de crédit social mis en place en Chine et qui a fait ses preuves

3  3 
Avatar de schlebe
Membre régulier https://www.developpez.com
Le 01/05/2021 à 7:36
Bonjour,

plutôt que de focaliser sur la protection des données, ils feraient mieux de focaliser sur la légitimité des associations de consommateurs

En Belgique, il y a que Test-Achats ... les syndicats et les mutuelles.

Pour Test-Achats, il faut être abonné. Le forum est complètement pourri et les modérateurs ne permettent pas de s'exprimer librement car on est bloqué si l'on dit ce qu'on pense.

C'est véridique. Je suis moi-même bloqué en lecture; je peux lire mes messages mais mes messages sont écartés du moteur de recherche ainsi que de l'arborescence des communautés. Mes réponses sont toutes cachées pour les autres utilisateurs. C'est vraiment machiavélique.

En bref, ils ne défendent ni le consommateur, ni la démocratie, ni la liberté d'expression.

Quand on voit que les autres associations reprises dans le conseil consultatif spécial de la consommation sont les syndicats et les mutuelles, il y a vraiment de quoi se poser des questions !

En Belgique, ces associations ne représentent pas les consommateurs car aucune d'elles n'est à l'écoute des consommateurs.

Comment dans ces conditions peuvent-elles défendre pertinemment les intérêts des consommateurs que nous sommes.

Cordialement
1  1 
Avatar de tanaka59
Expert confirmé https://www.developpez.com
Le 01/05/2021 à 14:54
Bonjour,

Citation Envoyé par schlebe Voir le message
Bonjour,

plutôt que de focaliser sur la protection des données, ils feraient mieux de focaliser sur la légitimité des associations de consommateurs

En Belgique, il y a que Test-Achats ... les syndicats et les mutuelles.

Pour Test-Achats, il faut être abonné. Le forum est complètement pourri et les modérateurs ne permettent pas de s'exprimer librement car on est bloqué si l'on dit ce qu'on pense.

C'est véridique. Je suis moi-même bloqué en lecture; je peux lire mes messages mais mes messages sont écartés du moteur de recherche ainsi que de l'arborescence des communautés. Mes réponses sont toutes cachées pour les autres utilisateurs. C'est vraiment machiavélique.

En bref, ils ne défendent ni le consommateur, ni la démocratie, ni la liberté d'expression.

Quand on voit que les autres associations reprises dans le conseil consultatif spécial de la consommation sont les syndicats et les mutuelles, il y a vraiment de quoi se poser des questions !

En Belgique, ces associations ne représentent pas les consommateurs car aucune d'elles n'est à l'écoute des consommateurs.

Comment dans ces conditions peuvent-elles défendre pertinemment les intérêts des consommateurs que nous sommes.

Cordialement
Ce que je trouves , de différents entre France et Belgique, qui peut expliquer une partie du problème.

Belgique = beaucoup de petites et moyennes entreprises tournées vers le commerce et l'artisanat. Chose que l'on trouve de moins en moins en France. Cette position veut donc être tenue par un certain lobby commercial et du commerce en magasin. Une image à tenir, donc l'avis client est en quelques sorte "muselé" . Le commerce Belge est énormément tributaire de la conso des belges eux même et des pays frontaliers (Allemagne, France, Pays Bas, Luxembourg ... ). Un certains standing ou image qu'ils veulent conserver.

Je le vois comme cela . Je peux me tromper.
1  1 
Avatar de tanaka59
Expert confirmé https://www.developpez.com
Le 04/09/2021 à 12:39
Bonjour,

Une réglementation contre ce type d'histoire : https://www.francetvinfo.fr/internet...s_4759781.html ?

C'est plus qu’embarrassant ...
0  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/04/2021 à 11:29
Citation Envoyé par Anselme45 Voir le message
L'UE qui est incapable d'imposer des règles à l'ensemble de ses 27 pays membres se propose...
Il y a plein de lois de l'UE que les nations membres sont obligées de respecter.
Là il y a des exemples de condamnations :
Procédures d’infractions contre les Etats membres pour non-respect du droit de l’UE
C'est souvent lié à des histoires d'écologie, par exemple :
CJUE : la France condamnée pour non respect de la directive "qualité de l’air"

En revanche on peut dire que les 27 ont du mal à se mettre d'accord quand il y a un vote à l'unanimité, mais ça c'est complétement normal, c'est impossible de trouver 27 personnes d'accord sur un sujet.
Toutes les décisions ne sont pas votées à l'unanimité (c'est un gros bordel l'UE, il y a des tonnes de règles).

Citation Envoyé par Stan Adkens Voir le message
Les règles proposées interviennent alors que l'Union européenne tente de rattraper les États-Unis et la Chine dans le déploiement de l'intelligence artificielle et d'autres technologies avancées.
Bon courage.
Au niveau de l'IA l'UE ne joue pas dans la même cour que les USA et la Chine.
La FED créer de la monnaie à l'infini, le budget militaire US est pharaonique, une grosse partie part dans le développement de l'IA.

Citation Envoyé par Stan Adkens Voir le message
En introduisant ce projet de règles, cependant, l'Union européenne tente de s'imposer comme l'organisme de surveillance de l'industrie technologique le plus agressif au monde. L'Union a déjà adopté les réglementations les plus strictes au monde en matière de protection des données personnelles et débat actuellement de nouvelles lois antitrust et de modération des contenus.
Il faut faire attention "modération des contenus" ça peut rapidement tourner en ministère de la vérité.
Il peut y avoir une manipulation des réseaux sociaux et des moteurs de recherche.
0  1 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 22/04/2021 à 11:09
L'UE cherche à établir des normes mondiales pour l'utilisation de l’IA


C'est digne des meilleurs humoristes du monde...

L'UE qui est incapable d'imposer des règles à l'ensemble de ses 27 pays membres se propose... d'établir des normes mondiales???

C'est une vraie farce!

Que l'UE commence par établir qui a le droit à une chaise quand l'UE va visiter le sultan de Turquie Erdogan...
1  3 
Avatar de Cpt Anderson
Membre chevronné https://www.developpez.com
Le 26/04/2021 à 9:01
L'Union Européenne ne représente rien sur l'échiquier politique mondial : c'est une organisation non démocratique et qui n'a strictement aucun poids. Son avis, les géants des technologies s'en foutent royalement.
Personne ne pourra arrêter la machine que nous avons lancé nous-même sous couver de progrès. Je répète ici ce que j'ai déjà dit plusieurs fois : toutes les "avancées" technologiques sont orientées pour le militaire et payés par eux (ce que l'on appelle le complexe militaro-industriel) et ensuite on en fait des applications pour les gens pour leur faire voir le "bon côté".
3  5