L’Italie a interdit l’utilisation du chatbot ChatGPT pour des raisons en lien avec la sécurité des informations personnelles. L’Allemagne envisage de lui emboîter le pas. C’est dire que les gouvernements réfléchissent à la manière d’atténuer les dangers de cette technologie émergente qu’est l’intelligence artificielle. Dans une sortie qu’on pourrait qualifier d’avant-gardiste, la Chine vient de publier une série de mesures allant dans le même sens. L’objectif : imposer des interdictions strictes sur les productions de l’IA générative non conformes aux idéaux socialistes. La manœuvre est de nature à entraîner un virage à l’échelle global vers un Internet piloté sur le modèle chinois. Les points saillants de la série de mesures
Les contenus issus de l’IA générative devront s’aligner avec les valeurs fondamentales du socialisme, ne pas inciter à la division du pays ou au renversement du système socialiste.
Les concepteurs d’IA et les fournisseurs desdits services sont interdits de toute promotion du terrorisme, de l'extrémisme, de la haine ethnique et de la discrimination. La violence, les informations obscènes et pornographiques, les fausses informations et les contenus susceptibles de perturber l'ordre économique et social sont également interdits.
Les concepteurs d’IA et les fournisseurs desdits services ont la charge de prévenir la discrimination fondée sur la race, l'appartenance ethnique, les croyances, le pays, la région, le sexe, l'âge et la profession, en sélectionnant avec soin les données d'entraînement, en concevant des algorithmes et en procédant à d'autres optimisations.
Les utilisateurs desdits services devront s'inscrire avec leur vrai nom et ceux qui fournissent des services d'IA générative, ou qui aident d'autres à le faire, seront considérés comme les producteurs de contenus. Ces derniers assumeront la responsabilité de toutes les mesures de protection de la vie privée qui s'y rapportent, y compris celles qui concernent les informations personnelles.
Les fournisseurs de services au public seront tenus de procéder à une évaluation de la sécurité avant que leurs offres ne soient mises en ligne. Ces fournisseurs deviennent alors responsables du résultat, de toute fuite d'informations personnelles ou de toute violation de la propriété intellectuelle. Ils doivent également indiquer clairement que le contenu est généré par l'IA et traiter toute plainte, et veiller à ce que les utilisateurs ne deviennent pas accros ou dépendants de l'outil.
L’IA générative : raison supplémentaire pour le virage à un Internet global piloté sur le modèle chinois ?
C’est le tableau qui se dessine si les pays de l’espace européen adoptent des règles similaires pour encadrer l’utilisation de l’intelligence artificielle générative. Ce ne serait pas une posture nouvelle si l’on s’en tient à la tendance de généralisation de la levée d’anonymat sur Internet. Les tentatives dans le genre se multiplient à l’échelle mondiale comme l’illustrent des exemples tirés de pays d’Europe comme la France ou l’Allemagne. Les États justifient leur positionnement par la nécessité de la protection des citoyens (lutte contre la pédophilie en ligne, positionnement contre le terrorisme, etc.).
Le gouvernement australien par exemple a annoncé son intention de lever l’anonymat sur Internet en requérant des internautes de fournir une pièce d’identité (passeport, permis de conduire, etc.) pour l’accès à leurs comptes de réseaux sociaux. La nouvelle disposition s’inscrivait en droite ligne avec l’adoption d’une loi qui autorise les forces de l'ordre à prendre le contrôle de comptes de médias sociaux lorsque des tiers sont soupçonnés dans le cadre d'une enquête.
La manœuvre est destinée à protéger les citoyens contre les abus en ligne (pédophilie, discours haineux, propagande terroriste, etc.). Elle n’est pas sans faire penser à une sortie d’Emmanuel Macron à propos de l’anonymat en ligne : « Nos gouvernements, nos populations ne vont pas pouvoir tolérer encore longtemps les torrents de haine que déversent en ligne des auteurs protégés par un anonymat devenu problématique. » Beaucoup s'accordent sur le fait qu'en rendant les utilisateurs responsables de leurs propos – en supprimant la possibilité de poster des messages dans l’anonymat –, il est moins probable qu’ils s'engagent dans des discussions ou publications inciviles. C’est la raison pour laquelle des élus français ont proposé que les réseaux sociaux et autres hébergeurs soient obligés à vérifier l’identité réelle des internautes lors de leur inscription.
L’Allemagne s’est penchée sur la question depuis un moment dans le cadre de discussions sur les amendements à apporter au Code pénal en vigueur dans le pays. Un extrait de la proposition de loi mise sur la table par le ministre de la justice de Rhénanie-du-Nord-Westphalie :
« Le projet de loi vise à introduire de nouvelles infractions pénales via un nouvel article 126a au Code pénal. Une peine privative de liberté ou une amende est prévue à l'encontre de quiconque offre un service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites.
Les criminels utilisent de plus en plus les possibilités d'anonymisation que leur offre Internet. Le chiffrement des données de l'utilisateur et la sélection aléatoire d'itinéraires contrôlée par programme via des serveurs répartis dans le monde entier rendent considérablement plus difficile la détermination des points de départ et d'arrivée d'un transfert de données. En particulier, le réseau Tor, qui sert cet anonymat, permet également l'accès au Darknet.
L'accès au Darknet et l'accessibilité à ses services sont limités par des programmes spéciaux. En plus desdits services à accès restreint, le Darknet donne également l'accès à d'autres qui sont à caractère criminel tels que les plateformes de trafic de stupéfiants, de pédopornographie, de vente d'armes, de logiciels malveillants, etc. Ces offres constituent une menace considérable pour la sécurité publique. »
Si le texte fait directement référence au réseau Tor, il faut souligner qu’il est susceptible de s’appliquer à une panoplie d’autres situations. En effet, une relecture plus globale de « service sur Internet dont l'accès et l'accessibilité sont limités par des précautions techniques spéciales et dont le but ou l'activité est de commettre ou de promouvoir certains actes illicites » peut, par exemple, permettre de classer un service de courriel avec chiffrement dans le lot des plateformes qui tombent sous le coup dudit projet de loi.
Ces développements laissent penser que l’on s’achemine vers un Internet piloté sur le modèle chinois. Pour parvenir à une telle maîtrise de son cyberespace, la Chine s’appuie sur un levier de taille : le contrôle de l’anonymat en ligne. Il n’ y a qu’à jeter un œil à l’article 6 de la réglementation chinoise en la matière. À la réalité, la question revient de plus en plus...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
Envoyé par Refuznik
