L’Italie a interdit l’utilisation du chatbot ChatGPT pour des raisons en lien avec la sécurité des informations personnelles. L’Allemagne envisage de lui emboîter le pas. C’est dire que les gouvernements réfléchissent à la manière d’atténuer les dangers de cette technologie émergente qu’est l’intelligence artificielle. Dans une sortie qu’on pourrait qualifier d’avant-gardiste, la Chine vient de publier une série de mesures allant dans le même sens. L’objectif : imposer des interdictions strictes sur les productions de l’IA générative non conformes aux idéaux socialistes. La manœuvre est de nature à entraîner un virage à l’échelle global vers un Internet piloté sur le modèle chinois. Les points saillants de la série de mesures
Les contenus issus de l’IA générative devront s’aligner avec les valeurs fondamentales du socialisme, ne pas inciter à la division du pays ou au renversement du système socialiste.
Les concepteurs d’IA et les fournisseurs desdits services sont interdits de toute promotion du terrorisme, de l'extrémisme, de la haine ethnique et de la discrimination. La violence, les informations obscènes et pornographiques, les fausses informations et les contenus susceptibles de perturber l'ordre économique et social sont également interdits.
Les concepteurs d’IA et les fournisseurs desdits services ont la charge de prévenir la discrimination fondée sur la race, l'appartenance ethnique, les croyances, le pays, la région, le sexe, l'âge et la profession, en sélectionnant avec soin les données d'entraînement, en concevant des algorithmes et en procédant à d'autres optimisations.
Les utilisateurs desdits services devront s'inscrire avec leur vrai nom et ceux qui fournissent des services d'IA générative, ou qui aident d'autres à le faire, seront considérés comme les producteurs de contenus. Ces derniers assumeront la responsabilité de toutes les mesures de protection de la vie privée qui s'y rapportent, y compris celles qui concernent les informations personnelles.
Les fournisseurs de services au public seront tenus de procéder à une évaluation de la sécurité avant que leurs offres ne soient mises en ligne. Ces fournisseurs deviennent alors responsables du résultat, de toute fuite d'informations personnelles ou de toute violation de la propriété intellectuelle. Ils doivent également indiquer clairement que le contenu est généré par l'IA et traiter toute plainte, et veiller à ce que les utilisateurs ne deviennent pas accros ou dépendants de l'outil.
L’IA générative : raison supplémentaire pour le virage à un Internet global piloté sur le modèle chinois ?
C’est le tableau qui se dessine si les pays de l’espace européen adoptent des règles similaires pour encadrer l’utilisation de l’intelligence artificielle générative. Ce ne serait pas une posture nouvelle si l’on s’en tient à la tendance de généralisation de la levée d’anonymat sur Internet. Les tentatives dans le genre se multiplient à l’échelle mondiale comme l’illustrent des exemples tirés de pays d’Europe comme la France ou l’Allemagne. Les États justifient leur positionnement par la nécessité de la protection des citoyens (lutte contre la pédophilie en ligne, positionnement contre le terrorisme, etc.).
Le gouvernement australien par exemple a annoncé son intention de lever l’anonymat sur Internet en requérant des internautes de fournir une pièce d’identité (passeport, permis de conduire, etc.) pour l’accès à leurs comptes de réseaux sociaux. La nouvelle disposition s’inscrivait en droite ligne avec l’adoption d’une loi qui autorise les forces de l'ordre à prendre le contrôle de comptes de médias sociaux lorsque des tiers sont soupçonnés dans le cadre d'une enquête.
La manœuvre est destinée à protéger les citoyens contre les abus en ligne (pédophilie, discours haineux, propagande terroriste, etc.). Elle n’est pas sans faire penser à une sortie d’Emmanuel Macron à propos de l’anonymat en ligne : « Nos gouvernements, nos populations ne vont pas pouvoir tolérer encore longtemps les torrents de haine que déversent en ligne des auteurs protégés par un anonymat devenu problématique. » Beaucoup s'accordent sur le fait qu'en rendant les utilisateurs responsables de leurs propos – en supprimant la possibilité de poster des messages dans l’anonymat –, il est moins probable qu’ils s'engagent dans des discussions ou publications inciviles. C’est la raison pour laquelle des élus français ont proposé que les réseaux sociaux et autres hébergeurs soient obligés à vérifier l’identité réelle des internautes lors de leur inscription.
L’Allemagne s’est penchée sur la question depuis un moment dans le cadre de discussions sur les amendements à apporter au Code pénal en vigueur dans le pays. Un extrait de la proposition de loi mise sur la table par le ministre de la justice de Rhénanie-du-Nord-Westphalie :
« Le projet de loi vise à introduire de nouvelles infractions pénales via un nouvel article 126a au Code pénal. Une peine privative de liberté ou une amende est prévue à l'encontre de quiconque offre un service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites.
Les criminels utilisent de plus en plus les possibilités d'anonymisation que leur offre Internet. Le chiffrement des données de l'utilisateur et la sélection aléatoire d'itinéraires contrôlée par programme via des serveurs répartis dans le monde entier rendent considérablement plus difficile la détermination des points de départ et d'arrivée d'un transfert de données. En particulier, le réseau Tor, qui sert cet anonymat, permet également l'accès au Darknet.
L'accès au Darknet et l'accessibilité à ses services sont limités par des programmes spéciaux. En plus desdits services à accès restreint, le Darknet donne également l'accès à d'autres qui sont à caractère criminel tels que les plateformes de trafic de stupéfiants, de pédopornographie, de vente d'armes, de logiciels malveillants, etc. Ces offres constituent une menace considérable pour la sécurité publique. »
Si le texte fait directement référence au réseau Tor, il faut souligner qu’il est susceptible de s’appliquer à une panoplie d’autres situations. En effet, une relecture plus globale de « service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites » peut, par exemple, permettre de classer un service de courriel avec chiffrement dans le lot des plateformes qui tombent sous le coup dudit projet de loi.
Ces développements laissent penser que l’on s’achemine vers un Internet piloté sur le modèle chinois. Pour parvenir à une telle maîtrise de son cyberespace, la Chine s’appuie sur un levier de taille : le contrôle de l’anonymat en ligne. Il n’ y a qu’à jeter un œil à l’article 6 de la réglementation chinoise en la matière. À la réalité, la question revient de plus en plus en Europe ; le cas autrichien l’illustre puisque le pays a lui aussi annoncé son intention de mettre fin à l’anonymat en ligne. On anticipe à 2020 la période à laquelle il ne sera plus possible dans ce pays de rédiger un commentaire en ligne sans fournir son nom, prénom et adresse exacts. La raison, souligne le ministère en charge des médias dans ce pays, est très simple ; en cas d’enquête, les opérateurs de plateformes seraient tenus de fournir des informations aux agences gouvernementales ou, dans certains cas, aux personnes privées en cas d'insulte ou de diffamation. En France, le processus est lancé pour la mise en place d’une loi en vue d’en finir avec l’anonymat sur Internet.
Le train est en marche ; lentement certes, mais il semble que la destination finale soit, à l’échelle globale, un Internet régulé, modéré et censuré par les États. L’intelligence artificielle générative est susceptible de constituer un motif supplémentaire pour l’atteinte de cet objectif par les Etats.
Source : CAC
Et vous ?
Que pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ? La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ? Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ? Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?Voir aussi :
L'organisme italien de surveillance de la vie privée a déclaré vendredi qu'il avait bloqué le Chatbot controversé ChatGPT, car il ne respectait pas les données des utilisateurs Un ministre italien, Matteo Salvini, a critiqué dimanche la décision de l'autorité de protection des données du gouvernement d'interdire temporairement le chatbot ChatGPT, l'estimant excessive Les régulateurs européens de la vie privée surveillent de près la suspension de ChatGPT en Italie. Plusieurs envisageraient de lui emboîter le pas, évoquant des problèmes de confidentialité 
Envoyé par Refuznik
