IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

La Chine introduit la proposition de loi la plus restrictive au monde sur l'intelligence artificielle générative
Et ravive les craintes sur le virage à un Internet global piloté sur le modèle chinois

Le , par Patrick Ruiz

8PARTAGES

12  0 
L’Italie a interdit l’utilisation du chatbot ChatGPT pour des raisons en lien avec la sécurité des informations personnelles. L’Allemagne envisage de lui emboîter le pas. C’est dire que les gouvernements réfléchissent à la manière d’atténuer les dangers de cette technologie émergente qu’est l’intelligence artificielle. Dans une sortie qu’on pourrait qualifier d’avant-gardiste, la Chine vient de publier une série de mesures allant dans le même sens. L’objectif : imposer des interdictions strictes sur les productions de l’IA générative non conformes aux idéaux socialistes. La manœuvre est de nature à entraîner un virage à l’échelle global vers un Internet piloté sur le modèle chinois.

Les points saillants de la série de mesures

Les contenus issus de l’IA générative devront s’aligner avec les valeurs fondamentales du socialisme, ne pas inciter à la division du pays ou au renversement du système socialiste.

Les concepteurs d’IA et les fournisseurs desdits services sont interdits de toute promotion du terrorisme, de l'extrémisme, de la haine ethnique et de la discrimination. La violence, les informations obscènes et pornographiques, les fausses informations et les contenus susceptibles de perturber l'ordre économique et social sont également interdits.

Les concepteurs d’IA et les fournisseurs desdits services ont la charge de prévenir la discrimination fondée sur la race, l'appartenance ethnique, les croyances, le pays, la région, le sexe, l'âge et la profession, en sélectionnant avec soin les données d'entraînement, en concevant des algorithmes et en procédant à d'autres optimisations.

Les utilisateurs desdits services devront s'inscrire avec leur vrai nom et ceux qui fournissent des services d'IA générative, ou qui aident d'autres à le faire, seront considérés comme les producteurs de contenus. Ces derniers assumeront la responsabilité de toutes les mesures de protection de la vie privée qui s'y rapportent, y compris celles qui concernent les informations personnelles.

Les fournisseurs de services au public seront tenus de procéder à une évaluation de la sécurité avant que leurs offres ne soient mises en ligne. Ces fournisseurs deviennent alors responsables du résultat, de toute fuite d'informations personnelles ou de toute violation de la propriété intellectuelle. Ils doivent également indiquer clairement que le contenu est généré par l'IA et traiter toute plainte, et veiller à ce que les utilisateurs ne deviennent pas accros ou dépendants de l'outil.



L’IA générative : raison supplémentaire pour le virage à un Internet global piloté sur le modèle chinois ?

C’est le tableau qui se dessine si les pays de l’espace européen adoptent des règles similaires pour encadrer l’utilisation de l’intelligence artificielle générative. Ce ne serait pas une posture nouvelle si l’on s’en tient à la tendance de généralisation de la levée d’anonymat sur Internet. Les tentatives dans le genre se multiplient à l’échelle mondiale comme l’illustrent des exemples tirés de pays d’Europe comme la France ou l’Allemagne. Les États justifient leur positionnement par la nécessité de la protection des citoyens (lutte contre la pédophilie en ligne, positionnement contre le terrorisme, etc.).

Le gouvernement australien par exemple a annoncé son intention de lever l’anonymat sur Internet en requérant des internautes de fournir une pièce d’identité (passeport, permis de conduire, etc.) pour l’accès à leurs comptes de réseaux sociaux. La nouvelle disposition s’inscrivait en droite ligne avec l’adoption d’une loi qui autorise les forces de l'ordre à prendre le contrôle de comptes de médias sociaux lorsque des tiers sont soupçonnés dans le cadre d'une enquête.

La manœuvre est destinée à protéger les citoyens contre les abus en ligne (pédophilie, discours haineux, propagande terroriste, etc.). Elle n’est pas sans faire penser à une sortie d’Emmanuel Macron à propos de l’anonymat en ligne : « Nos gouvernements, nos populations ne vont pas pouvoir tolérer encore longtemps les torrents de haine que déversent en ligne des auteurs protégés par un anonymat devenu problématique. » Beaucoup s'accordent sur le fait qu'en rendant les utilisateurs responsables de leurs propos – en supprimant la possibilité de poster des messages dans l’anonymat –, il est moins probable qu’ils s'engagent dans des discussions ou publications inciviles. C’est la raison pour laquelle des élus français ont proposé que les réseaux sociaux et autres hébergeurs soient obligés à vérifier l’identité réelle des internautes lors de leur inscription.

L’Allemagne s’est penchée sur la question depuis un moment dans le cadre de discussions sur les amendements à apporter au Code pénal en vigueur dans le pays. Un extrait de la proposition de loi mise sur la table par le ministre de la justice de Rhénanie-du-Nord-Westphalie :

« Le projet de loi vise à introduire de nouvelles infractions pénales via un nouvel article 126a au Code pénal. Une peine privative de liberté ou une amende est prévue à l'encontre de quiconque offre un service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites.

Les criminels utilisent de plus en plus les possibilités d'anonymisation que leur offre Internet. Le chiffrement des données de l'utilisateur et la sélection aléatoire d'itinéraires contrôlée par programme via des serveurs répartis dans le monde entier rendent considérablement plus difficile la détermination des points de départ et d'arrivée d'un transfert de données. En particulier, le réseau Tor, qui sert cet anonymat, permet également l'accès au Darknet.


L'accès au Darknet et l'accessibilité à ses services sont limités par des programmes spéciaux. En plus desdits services à accès restreint, le Darknet donne également l'accès à d'autres qui sont à caractère criminel tels que les plateformes de trafic de stupéfiants, de pédopornographie, de vente d'armes, de logiciels malveillants, etc. Ces offres constituent une menace considérable pour la sécurité publique. »

Si le texte fait directement référence au réseau Tor, il faut souligner qu’il est susceptible de s’appliquer à une panoplie d’autres situations. En effet, une relecture plus globale de « service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites » peut, par exemple, permettre de classer un service de courriel avec chiffrement dans le lot des plateformes qui tombent sous le coup dudit projet de loi.

Ces développements laissent penser que l’on s’achemine vers un Internet piloté sur le modèle chinois. Pour parvenir à une telle maîtrise de son cyberespace, la Chine s’appuie sur un levier de taille : le contrôle de l’anonymat en ligne. Il n’ y a qu’à jeter un œil à l’article 6 de la réglementation chinoise en la matière. À la réalité, la question revient de plus en plus en Europe ; le cas autrichien l’illustre puisque le pays a lui aussi annoncé son intention de mettre fin à l’anonymat en ligne. On anticipe à 2020 la période à laquelle il ne sera plus possible dans ce pays de rédiger un commentaire en ligne sans fournir son nom, prénom et adresse exacts. La raison, souligne le ministère en charge des médias dans ce pays, est très simple ; en cas d’enquête, les opérateurs de plateformes seraient tenus de fournir des informations aux agences gouvernementales ou, dans certains cas, aux personnes privées en cas d'insulte ou de diffamation. En France, le processus est lancé pour la mise en place d’une loi en vue d’en finir avec l’anonymat sur Internet.

Le train est en marche ; lentement certes, mais il semble que la destination finale soit, à l’échelle globale, un Internet régulé, modéré et censuré par les États. L’intelligence artificielle générative est susceptible de constituer un motif supplémentaire pour l’atteinte de cet objectif par les Etats.

Source : CAC

Et vous ?

Que pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ?
La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ?
Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ?
Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?

Voir aussi :

L'organisme italien de surveillance de la vie privée a déclaré vendredi qu'il avait bloqué le Chatbot controversé ChatGPT, car il ne respectait pas les données des utilisateurs
Un ministre italien, Matteo Salvini, a critiqué dimanche la décision de l'autorité de protection des données du gouvernement d'interdire temporairement le chatbot ChatGPT, l'estimant excessive
Les régulateurs européens de la vie privée surveillent de près la suspension de ChatGPT en Italie. Plusieurs envisageraient de lui emboîter le pas, évoquant des problèmes de confidentialité

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Refuznik
Membre éclairé https://www.developpez.com
Le 13/04/2023 à 21:32
Que pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ?
On parle de quelle proposition de loi ici ? Le brouillon donné par la Chine n'est pas des plus restrictives par rapport aux obligations de fournisseurs de service sur les services existant en France ou en Europe. C'est un brouillon pour un fournisseur qui va fournir une IA générative comme service et elle regroupe grosso modo tout ce que l'on reproche actuellement à l'IA à travers le monde. D'ailleurs ils ne sont pas trop forcé là-dessus.

La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ?
Perso. je ne vois pas le rapport.

Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ?
Déja il aurait fallut le passer en entier avec tous les articles (bon google translate est votre ami) et comme j'ai dit ils ont repompé sur tous ce que l'on raconte et discute actuellement en occident et couvrant les dérives de l'IA.

Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?
Ici on a pas mal de contradictions sur la compréhension d'internet. ce n'est pas seulement un nom, c'est aussi un terme technique.

Pour le reste, je ne vois pas le rapport avec l'IA et la levée d'anonymat pour répondre à la question posée dans l'article.
Déja l'anonymat n'existe pas sur internet, on parlera plutôt de pseudonymat. Après il est devenu malheureusement courant de voir les politiques faire des amalgames de termes (darknet, tor, blackmarket) et des prétendu menaces ou atteintes (pédo, terrorisme, tueur de chatons, etc...) pour justifier de plus en plus de controle sur une société qu'ils ne connaissent/maitrisent pas. Il suffit de voir la militarisation de notre police et tout les rajouts au code pénales pour tout et n'importe quoi depuis vingt ans.
4  0 
Avatar de
https://www.developpez.com
Le 13/04/2023 à 23:25
Bon c'est dit, comme pour Stable Diffusion, attendons un concurrent totalement self-hosted et donc plus sûre !
Je n'ai pas confiance en ChatGPT, mais de là à l'interdire, c'est de la folie.
1  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 14/04/2023 à 13:10
Citation Envoyé par Refuznik Voir le message
Déja l'anonymat n'existe pas sur internet, on parlera plutôt de pseudonymat. Après il est devenu malheureusement courant de voir les politiques faire des amalgames de termes (darknet, tor, blackmarket) et des prétendu menaces ou atteintes (pédo, terrorisme, tueur de chatons, etc...) pour justifier de plus en plus de controle sur une société qu'ils ne connaissent/maitrisent pas. Il suffit de voir la militarisation de notre police et tout les rajouts au code pénales pour tout et n'importe quoi depuis vingt ans.
+1000

C'est exactement ça, tout est dit
1  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 13/04/2023 à 12:13
Je suis plus inquiété par ce que ferait n'importe qui s'il peut retrouver absolument tout ce que j'ai écris sur le net, que le gouvernement en soit.

Si on me demandait l'anonymat contre le gouvernement vs l'anonymat contre les personnes qui feraient des recherches sur Internet, c'est le deuxième que j'aime le moins (genre un futur potentiel employeur ou les voisins).

Et n'oublions pas à l'heure ou nous parlons, qu'un Etat motivé arrivera déjà a nous retrouver s'il y met les moyens.
0  4