L'autorité chinoise de régulation du cyberespace a proposé une série de mesures pour gérer les services d'IA générative
Afin que les contenus créés soient conformes aux valeurs socialistes du pays
Le 2023-04-12 23:06:47, par Anthony, Chroniqueur Actualités
Le régulateur chinois du cyberespace a dévoilé, ce mardi 11 avril, un projet de mesures pour gérer les services d'intelligence artificielle générative, indiquant qu'il souhaitait que les entreprises soumettent des évaluations de sécurité aux autorités avant de lancer leurs offres au public.
Les règles rédigées par la Cyberspace Administration of China (CAC) interviennent alors que plusieurs gouvernements réfléchissent à la manière d'atténuer les dangers de la technologie émergente, qui a connu un boom des investissements et de la popularité auprès des consommateurs au cours des derniers mois après la publication du ChatGPT d'OpenAI.
Elles interviennent également après qu'une série de géants chinois de la technologie, dont Baidu, SenseTime et Alibaba, ont présenté ces dernières semaines leurs nouveaux modèles d'intelligence artificielle qui peuvent alimenter des applications allant des chatbots aux générateurs d'images.
La CAC a déclaré que la Chine soutenait l'innovation et l'application de l'IA et encourageait l'utilisation de logiciels, d'outils et de ressources de données sûrs et fiables, mais que le contenu généré par l'IA générative devait être conforme aux valeurs socialistes fondamentales du pays.
Les fournisseurs seront responsables de la légitimité des données utilisées pour former les produits d'IA générative et des mesures devraient être prises pour prévenir la discrimination lors de la conception des algorithmes et des données de formation.
L'autorité de régulation a également déclaré que les fournisseurs de services doivent exiger des utilisateurs qu'ils soumettent leur véritable identité et les informations connexes.
Les fournisseurs seront condamnés à des amendes, verront leurs services suspendus ou feront même l'objet d'enquêtes criminelles s'ils ne se conforment pas aux règles.
Si un contenu inapproprié est généré par leurs plateformes, les entreprises doivent mettre à jour la technologie dans un délai de trois mois afin d'empêcher qu'un contenu similaire ne soit à nouveau généré, a déclaré la CAC.
Le public peut commenter les propositions jusqu'au 10 mai, et les mesures devraient entrer en vigueur dans le courant de l'année, selon le projet de règles.
Source : L'autorité chinoise de régulation du cyberespace
Et vous ?
Quel est votre avis sur le sujet ?
Que pensez-vous des différentes tentatives actuelles de réglementation de l'IA générative ? Pensez-vous que ces mesures visent à contrôler le développement de l'IA en général ?
Voir aussi
La société chinoise Baidu dévoile un chatbot d'IA générative basé sur un modèle de langage plus grand que GPT-3, mais l'on ignore encore de quoi le chatbot d'IA de Baidu est réellement capable
Des chercheurs chinois auraient construit un modèle d'IA de 100 000 milliards de paramètres, soit autant de paramètres que le cerveau humain, il serait 571 fois plus puissant que GPT-3
L'IA de génération d'images la plus avancée de la Chine bloque déjà les contenus politiques, des entrées telles que "place Tiananmen" et "Xi Jinping" ne produisent aucun résultat
Les États-Unis commencent à étudier la possibilité de réglementer les systèmes d'IA comme ChatGPT, pour garantir que ces technologies soient légales, efficaces, éthiques, sûres et dignes de confiance
Les règles rédigées par la Cyberspace Administration of China (CAC) interviennent alors que plusieurs gouvernements réfléchissent à la manière d'atténuer les dangers de la technologie émergente, qui a connu un boom des investissements et de la popularité auprès des consommateurs au cours des derniers mois après la publication du ChatGPT d'OpenAI.
Elles interviennent également après qu'une série de géants chinois de la technologie, dont Baidu, SenseTime et Alibaba, ont présenté ces dernières semaines leurs nouveaux modèles d'intelligence artificielle qui peuvent alimenter des applications allant des chatbots aux générateurs d'images.
La CAC a déclaré que la Chine soutenait l'innovation et l'application de l'IA et encourageait l'utilisation de logiciels, d'outils et de ressources de données sûrs et fiables, mais que le contenu généré par l'IA générative devait être conforme aux valeurs socialistes fondamentales du pays.
Les fournisseurs seront responsables de la légitimité des données utilisées pour former les produits d'IA générative et des mesures devraient être prises pour prévenir la discrimination lors de la conception des algorithmes et des données de formation.
L'autorité de régulation a également déclaré que les fournisseurs de services doivent exiger des utilisateurs qu'ils soumettent leur véritable identité et les informations connexes.
Les fournisseurs seront condamnés à des amendes, verront leurs services suspendus ou feront même l'objet d'enquêtes criminelles s'ils ne se conforment pas aux règles.
Si un contenu inapproprié est généré par leurs plateformes, les entreprises doivent mettre à jour la technologie dans un délai de trois mois afin d'empêcher qu'un contenu similaire ne soit à nouveau généré, a déclaré la CAC.
Le public peut commenter les propositions jusqu'au 10 mai, et les mesures devraient entrer en vigueur dans le courant de l'année, selon le projet de règles.
Source : L'autorité chinoise de régulation du cyberespace
Et vous ?
Voir aussi
-
RefuznikMembre éclairéQue pensez-vous de cette proposition de loi ? Avant-gardiste ? Rétrograde ?La Chine ne se tire-t-elle pas une balle dans le pied quand on sait quelles sont ses ambitions dans la filière de l’intelligence artificielle ?Quelles sont les mesures pertinentes au sein de ce projet de loi et dont l’Europe peut s’inspirer ?Partagez-vous l’idée selon laquelle l’IA générative risque de servir de motif aux Etats pour une plongée sur un Internet piloté sur le modèle chinois ?
Pour le reste, je ne vois pas le rapport avec l'IA et la levée d'anonymat pour répondre à la question posée dans l'article.
Déja l'anonymat n'existe pas sur internet, on parlera plutôt de pseudonymat. Après il est devenu malheureusement courant de voir les politiques faire des amalgames de termes (darknet, tor, blackmarket) et des prétendu menaces ou atteintes (pédo, terrorisme, tueur de chatons, etc...) pour justifier de plus en plus de controle sur une société qu'ils ne connaissent/maitrisent pas. Il suffit de voir la militarisation de notre police et tout les rajouts au code pénales pour tout et n'importe quoi depuis vingt ans.le 13/04/2023 à 21:32 -
Bon c'est dit, comme pour Stable Diffusion, attendons un concurrent totalement self-hosted et donc plus sûre !
Je n'ai pas confiance en ChatGPT, mais de là à l'interdire, c'est de la folie.le 13/04/2023 à 23:25 -
OrthodoxWindowsMembre éméritele 14/04/2023 à 13:10
-
walfratMembre émériteJe suis plus inquiété par ce que ferait n'importe qui s'il peut retrouver absolument tout ce que j'ai écris sur le net, que le gouvernement en soit.
Si on me demandait l'anonymat contre le gouvernement vs l'anonymat contre les personnes qui feraient des recherches sur Internet, c'est le deuxième que j'aime le moins (genre un futur potentiel employeur ou les voisins).
Et n'oublions pas à l'heure ou nous parlons, qu'un Etat motivé arrivera déjà a nous retrouver s'il y met les moyens.le 13/04/2023 à 12:13