IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA,
Mais des groupes de défense des droits civils s'inquiètent

Le , par Stan Adkens

83PARTAGES

13  0 
L’intelligence artificielle est une technologie considérée comme l'une des percées scientifiques les plus importantes, mais aussi les plus lourdes sur le plan éthique, de mémoire récente. « Pour l'excellence et la confiance dans l'intelligence artificielle », la Commission européenne a dévoilé mercredi une réglementation stricte pour régir l'utilisation de l’IA, une politique inédite qui décrit comment les entreprises et les gouvernements peuvent utiliser cette technologie. Les nouvelles règles comprennent l'interdiction de la plupart des formes de surveillance, et visent à établir des normes mondiales pour une technologie clé dominée par la Chine et les États-Unis. Les groupes de défense des droits civils mettent toutefois en garde contre les éventuelles lacunes de la proposition.

Présenté lors d'un point de presse à Bruxelles, le projet de règles fixerait des limites à l'utilisation de l'intelligence artificielle dans toute une série d'activités, des voitures autonomes aux décisions d'embauche, en passant par les sélections d'inscriptions dans les écoles et la notation des examens. Il couvrirait également l'utilisation de l'intelligence artificielle par les forces de l'ordre et les systèmes judiciaires – des domaines considérés comme "à haut risque", car ils pourraient menacer la sécurité des personnes ou leurs droits fondamentaux.


Toutefois, les groupes de défense des droits civils ont prévenu que les lacunes de la proposition, qui prévoit de lourdes amendes en cas de violation et fixe des garanties strictes pour les applications à haut risque, pourraient laisser place à des abus de la technologie par des gouvernements répressifs.

La Chine a pris de l’avance dans la course à l'IA, tandis que la pandémie de covid-19 a souligné l'importance des algorithmes et des gadgets connectés à Internet dans la vie quotidienne. Les technologues, les chefs d'entreprise et les responsables gouvernementaux considèrent l'intelligence artificielle, qui consiste à apprendre à des machines à effectuer des tâches par elles-mêmes en étudiant d'énormes volumes de données (Machine Learning), comme l'une des technologies les plus transformatrices au monde.

Mais à mesure que les systèmes deviennent plus sophistiqués, il peut être plus difficile de déterminer pourquoi la technologie prend une décision, un problème qui pourrait s'aggraver avec la puissance croissante des ordinateurs. Les chercheurs ont soulevé des questions éthiques concernant son utilisation, suggérant qu'elle pourrait perpétuer les préjugés existants dans la société, porter atteinte à la vie privée ou entraîner l'automatisation de davantage d'emplois.

« En matière d'intelligence artificielle, la confiance est un impératif, pas un luxe à avoir. Avec ces règles emblématiques, l'UE est le fer-de-lance de l'élaboration de nouvelles normes mondiales visant à garantir la fiabilité de l'IA », a déclaré Margrethe Vestager, la responsable européenne de la technologie dans un communiqué publié mercredi. « En fixant des normes, nous pouvons ouvrir la voie à une technologie éthique dans le monde entier et veiller à ce que l'UE reste compétitive en cours de route. À l'épreuve du futur et favorables à l'innovation, nos règles interviendront là où cela est strictement nécessaire : lorsque la sécurité et les droits fondamentaux des citoyens de l'UE sont en jeu ».

Certaines utilisations seraient totalement interdites, notamment la reconnaissance faciale en direct dans les espaces publics, bien que certaines exemptions soient prévues pour des raisons de sécurité nationale et autres. La Commission a également déclaré que les applications d'IA qui permettent aux gouvernements de faire du scoring social ou d'exploiter des enfants seront interdites. Les applications d'IA à haut risque utilisées dans le recrutement, les infrastructures critiques, l'évaluation du crédit, la migration et l'application de la loi seront soumises à des garanties strictes.

Les entreprises qui enfreignent les règles s'exposent à des amendes pouvant atteindre 6 % de leur chiffre d'affaires mondial ou 30 millions d'euros (36 millions de dollars), le chiffre le plus élevé étant retenu. Le chef de l'industrie européenne, Thierry Breton, a déclaré que les règles visent à dissiper les mythes et les idées fausses sur l'IA.

« Derrière le terme d'intelligence artificielle, il y a des croyances populaires et des peurs qui ont longtemps été véhiculées par l'industrie cinématographique », a déclaré Thierry Breton lors d'une conférence de presse. « Il est vrai que le petit robot (personnage du film d'animation de Walt Disney) WALL-E n'a malheureusement pas pu nous faire oublier le T-800 (robot) de Terminator. Il faut donc naviguer entre tout cela et ne pas stigmatiser la technologie », a-t-il ajouté lors de la présentation du projet.

« La réglementation seule ne fera pas de l'UE un leader de l'IA », d’après un groupe de pression

Ces règles ont des conséquences considérables pour les grandes entreprises technologiques, dont Amazon, Google, Facebook et Microsoft, qui ont consacré des ressources énormes au développement de l'intelligence artificielle, mais aussi pour de nombreuses autres entreprises qui utilisent cette technologie dans les domaines de la santé, des assurances et de la finance. Les gouvernements ont utilisé des versions de cette technologie dans le domaine de la justice pénale et de la répartition des services publics.

« L'IA est un moyen, pas une fin. Elle existe depuis des décennies, mais a atteint de nouvelles capacités alimentées par la puissance de calcul. Cela offre un immense potentiel dans des domaines aussi divers que la santé, les transports, l'énergie, l'agriculture, le tourisme ou la cybersécurité. Elle présente également un certain nombre de risques. Les propositions présentées aujourd'hui visent à renforcer la position de l'Europe en tant que pôle d'excellence mondial en matière d'IA, du laboratoire au marché, à faire en sorte que l'IA en Europe respecte nos valeurs et nos règles, et à exploiter le potentiel de l'IA à des fins industrielles ».


Cependant, le groupe de pression technologique CCIA a déclaré que les règles ne devraient pas créer plus de paperasserie pour les entreprises et les utilisateurs. L'IA sera essentielle pour la reprise économique et la compétitivité future de l'Europe. Toutefois, la réglementation seule ne fera pas de l'UE un leader de l'IA », a déclaré Christian Borggreen, vice-président de la CCIA.

European Digital Rights a souligné des lacunes inquiétantes dans la proposition. « Le projet de loi n'interdit pas toute l'étendue des utilisations inacceptables de l'IA et en particulier toutes les formes de surveillance biométrique de masse. Cela laisse un vide inquiétant pour les technologies de discrimination et de surveillance utilisées par les gouvernements et les entreprises », a déclaré Sarah Chander du groupe de lobbying.

Patrick Breyer, législateur du parti des Verts au Parlement européen, s'est également montré cinglant à l'égard de la proposition. « Les technologies de surveillance biométrique et de masse, de profilage et de prédiction comportementale dans nos espaces publics portent atteinte à nos libertés et menacent nos sociétés ouvertes. Les exigences procédurales proposées ne sont qu'un simple écran de fumée », a-t-il déclaré.

Alors que l'intelligence artificielle a commencé à pénétrer dans chaque partie de la société, des suggestions d'achat et des assistants vocaux aux décisions concernant l'embauche, les assurances et l'application de la loi, l'UE veut s'assurer que la technologie déployée en Europe est transparente, bénéficie d'une supervision humaine et répond à ses normes élevées en matière de confidentialité des utilisateurs.

Les règles proposées interviennent alors que l'Union européenne tente de rattraper les États-Unis et la Chine dans le déploiement de l'intelligence artificielle et d'autres technologies avancées. Les nouvelles exigences pourraient empêcher les entreprises technologiques de la région de concurrencer leurs rivaux étrangers si elles tardent à dévoiler leurs produits parce qu'ils doivent d'abord passer au scanner de la nouvelle législation.

En introduisant ce projet de règles, cependant, l'Union européenne tente de s'imposer comme l'organisme de surveillance de l'industrie technologique le plus agressif au monde. L'Union a déjà adopté les réglementations les plus strictes au monde en matière de protection des données personnelles et débat actuellement de nouvelles lois antitrust et de modération des contenus.

La Commission devra néanmoins régler les détails avec les gouvernements nationaux de l'UE et le Parlement européen avant que les règles puissent entrer en vigueur. Cela pourrait prendre des années, marquées par un lobbying intense de la part des entreprises et même des gouvernements étrangers, a déclaré Patrick Van Eecke, associé et responsable de la cyberpratique européenne du cabinet d'avocats Cooley.

L’Europe n’est pas la seule région à vouloir réglementer l’utilisation de l’IA. À Washington aux États-Unis, les risques de l'intelligence artificielle sont également pris en compte. Cette semaine, la Federal Trade Commission a mis en garde contre la vente de systèmes d'intelligence artificielle qui utilisent des algorithmes à caractère raciste ou qui pourraient « refuser à des personnes un emploi, un logement, un crédit, une assurance ou d'autres avantages ».

Source : Communiqué de presse

Et vous ?

Quel est votre avis sur le nouveau projet de règles sur l’utilisation de l’IA ?
Partagez-vous les préoccupations des groupes de défense des droits civils qui ont prévenu que les lacunes de la proposition pourraient laisser place à des abus de la technologie ?

Voir aussi :

L'UE s'apprête à établir des règles en matière d'IA qui interdisent la surveillance et le classement du comportement social, les amendes pouvant atteindre 4 % du chiffre d'affaires
Bruxelles revoit sa position et décide d'abandonner l'idée d'interdire l'utilisation de la reconnaissance faciale dans les lieux publics
Bruxelles pourrait interdire l'utilisation des technologies de reconnaissance faciale dans les espaces publics sur cinq ans, le temps de légiférer sur des moyens permettant de prévenir des abus
L'UE devrait interdire le scoring des citoyens et la surveillance de masse à l'aide de l'IA, selon un groupe d'experts de haut niveau

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de marsupial
Expert confirmé https://www.developpez.com
Le 07/10/2021 à 8:13
Espérons que ce règlement soit suivi d'effets en France.
5  0 
Avatar de kain_tn
Expert confirmé https://www.developpez.com
Le 23/04/2021 à 23:05
Citation Envoyé par tanaka59 Voir le message
Le projet de loi d'interdiction , c'est du flan . Vu qu'on l'utilise déjà et que des lois liberticides peuvent toujours passées. On l'a vu avec le covid.
Ouais, les lois Européennes sont utiles quand un gouvernement veut faire passer une mesure impopulaire. Il leur suffit de dire "C'est pas nous, c'est l'Europe".

Par contre quand ça ne va pas dans leur sens, ils s'en foutent complètement...
2  0 
Avatar de Cpt Anderson
Membre émérite https://www.developpez.com
Le 11/05/2022 à 16:02
Il n'y a rien de bien clair dans ce rapport : ni les buts, ni la façon de se donner les moyens de créer des pôles d'excellences. C'est flou.
Je le dis et je le répète encore, mais ailleurs, c'est le complexe militaro-industriel qui donne le tempo sur le développement de l'IA. Est les buts sont avant tout militaires.

Au niveau européen, on a pas de complexe militaro-industriel, donc ça ne marchera pas : les industriels privés veulent un retour sur investissent, il faut du concret.
3  1 
Avatar de tanaka59
Inactif https://www.developpez.com
Le 23/04/2021 à 22:22
Bonsoir,

Quel est votre avis sur le sujet ?
L'essayé c'est l'adoptée comme dit l'adage ... A savoir que la reconnaissance étant déjà utilisée, chaque pays et / ou juridiction trouvera un moyen de contournement pour continuer de l'utiliser.

C'est déjà en service en Chine, USA et plein d'autres pays.

Que pensez-vous du projet de règles de la Commission européenne ?
Le projet de loi d'interdiction , c'est du flan . Vu qu'on l'utilise déjà et que des lois liberticides peuvent toujours passées. On l'a vu avec le covid.
3  2 
Avatar de Gétoufaux
Candidat au Club https://www.developpez.com
Le 07/10/2021 à 12:49
cf. https://www.laquadrature.net/2021/10...-securitaires/
1  0 
Avatar de tanaka59
Inactif https://www.developpez.com
Le 08/10/2021 à 21:07
Bonsoir,

Le Parlement européen a voté en faveur d'une interdiction totale de la surveillance biométrique de masse par les forces de l'ordre

Que pensez-vous de cette décision du Parlement ?
En Europe et en Amerique du Nord c'est les entreprises privées qui se charge de la "surveillance" de masse ... En Chine l'état ne s'en cache pas ... L'UE essaye d'interdire un truc qui est déjà pratiqué de manière plus ou moins boiteuse ...

Ce que j'en pense ? Cela ne changera rien et n'arrêtera rien non plus.
1  0 
Avatar de Mingolito
Membre extrêmement actif https://www.developpez.com
Le 24/04/2021 à 0:09
On voie bien qu'une fois de plus l'Europe est victime des lobbies, ici clairement le lobby des trafiquants de drogues et autres criminels, les mêmes mêmes lobby qui ont réussi à faire maintenir la prohibition sur le cannabis pour continuer à faire leur petits business illégal sur une simple plante médicinale aux nombreuses vertus millénaires.

En vrai pour bien faire il faudrait encourager la reconnaissance faciale et en installer à chaque coin de rue, et surtout faire fermer la CNIL qui ne sert à rien pour pouvoir enfin interconnecter entre eux tous les fichiers pour pouvoir comme il se doit suivre tout citoyen à la trace, et recouper toutes les informations. Par exemple pouvoir être interconnecté aux fichiers de santé et pouvoir coincer un covïdique qui a rompu sa quarantaine et pouvoir le faire incarcérer séance tenante dans un Covidorium dument habilité.

En sus il faut compléter avec des IA, comme par exemple une IA qui pourrait via la reconnaissance faciale constater que deux personnes non mariées ont des contacts inappropriés, et si ces personnes sont mariées par ailleurs déclencher un processus IA pour les faire divorcer automatiquement ce qui ferais de grosses économies de détectives privé, d'avocats et de frais de justice.

Chaque entreprise devrait être munie de reconnaissance faciale couplée avec le système de détection de température, pour renvoyer chez lui tout malade d'une part, et d'autre part c'est un moyen de détecter les tire-aux-flancs pour défalquer de leurs salaires les absences des feignasses. Même chose pour le télétravail, une étude à montré que la majorité des travailleurs ne foutent rien, il faut donc installer la reconnaissance faciale sur le lieu de télétravail et ne comptabiliser que les heures vraiment travaillées, soit le plus souvent 1 ou 2 h par jour, et ne pas payer le reste (Netflix, jeux vidéos, sites porno, drague en ligne, shopping ...) , ce qui fera faire de grosses économies aux entreprises.

Les Chinois ont pris de l'avance dans ce domaine, et l'Europe est totalement à la ramasse, aussi bien techniquement que juridiquement, il faudrait installer en Europe sous licence l'excellent système de crédit social mis en place en Chine et qui a fait ses preuves

3  3 
Avatar de schlebe
Membre habitué https://www.developpez.com
Le 01/05/2021 à 7:36
Bonjour,

plutôt que de focaliser sur la protection des données, ils feraient mieux de focaliser sur la légitimité des associations de consommateurs

En Belgique, il y a que Test-Achats ... les syndicats et les mutuelles.

Pour Test-Achats, il faut être abonné. Le forum est complètement pourri et les modérateurs ne permettent pas de s'exprimer librement car on est bloqué si l'on dit ce qu'on pense.

C'est véridique. Je suis moi-même bloqué en lecture; je peux lire mes messages mais mes messages sont écartés du moteur de recherche ainsi que de l'arborescence des communautés. Mes réponses sont toutes cachées pour les autres utilisateurs. C'est vraiment machiavélique.

En bref, ils ne défendent ni le consommateur, ni la démocratie, ni la liberté d'expression.

Quand on voit que les autres associations reprises dans le conseil consultatif spécial de la consommation sont les syndicats et les mutuelles, il y a vraiment de quoi se poser des questions !

En Belgique, ces associations ne représentent pas les consommateurs car aucune d'elles n'est à l'écoute des consommateurs.

Comment dans ces conditions peuvent-elles défendre pertinemment les intérêts des consommateurs que nous sommes.

Cordialement
1  1 
Avatar de tanaka59
Inactif https://www.developpez.com
Le 01/05/2021 à 14:54
Bonjour,

Citation Envoyé par schlebe Voir le message
Bonjour,

plutôt que de focaliser sur la protection des données, ils feraient mieux de focaliser sur la légitimité des associations de consommateurs

En Belgique, il y a que Test-Achats ... les syndicats et les mutuelles.

Pour Test-Achats, il faut être abonné. Le forum est complètement pourri et les modérateurs ne permettent pas de s'exprimer librement car on est bloqué si l'on dit ce qu'on pense.

C'est véridique. Je suis moi-même bloqué en lecture; je peux lire mes messages mais mes messages sont écartés du moteur de recherche ainsi que de l'arborescence des communautés. Mes réponses sont toutes cachées pour les autres utilisateurs. C'est vraiment machiavélique.

En bref, ils ne défendent ni le consommateur, ni la démocratie, ni la liberté d'expression.

Quand on voit que les autres associations reprises dans le conseil consultatif spécial de la consommation sont les syndicats et les mutuelles, il y a vraiment de quoi se poser des questions !

En Belgique, ces associations ne représentent pas les consommateurs car aucune d'elles n'est à l'écoute des consommateurs.

Comment dans ces conditions peuvent-elles défendre pertinemment les intérêts des consommateurs que nous sommes.

Cordialement
Ce que je trouves , de différents entre France et Belgique, qui peut expliquer une partie du problème.

Belgique = beaucoup de petites et moyennes entreprises tournées vers le commerce et l'artisanat. Chose que l'on trouve de moins en moins en France. Cette position veut donc être tenue par un certain lobby commercial et du commerce en magasin. Une image à tenir, donc l'avis client est en quelques sorte "muselé" . Le commerce Belge est énormément tributaire de la conso des belges eux même et des pays frontaliers (Allemagne, France, Pays Bas, Luxembourg ... ). Un certains standing ou image qu'ils veulent conserver.

Je le vois comme cela . Je peux me tromper.
1  1 
Avatar de tanaka59
Inactif https://www.developpez.com
Le 04/09/2021 à 12:39
Bonjour,

Une réglementation contre ce type d'histoire : https://www.francetvinfo.fr/internet...s_4759781.html ?

C'est plus qu’embarrassant ...
0  0