Un homme de la province chinoise du Gansu a été arrêté pour avoir prétendument utilisé ChatGPT afin de générer une fausse nouvelle sur un accident de train. Il s'agit de la première arrestation en Chine dans le cadre d'une enquête liée à l'IA, alors que Pékin renforce la technologie deepfake.L'article, qui prétendait que l'accident avait tué neuf ouvriers du bâtiment dans une ville du Gansu (nord-ouest de la Chine), a obtenu plus de 15 000 clics après avoir été publié sur les médias sociaux le 25 avril, a rapporté le bureau de la police locale de la ville de Pingliang.
Les nouvelles règles chinoises concernant les "deepfake" interdisent aux fournisseurs de services et aux utilisateurs d'utiliser cette technologie pour produire, diffuser et fabriquer des informations fausses.
Ces règles, qui sont entrées en vigueur le 10 janvier, visent à limiter l'utilisation de la technologie d'IA générative pour modifier le contenu en ligne.
Au total, 25 comptes Baijiahao, une plateforme de type blog appartenant au géant chinois de la technologie Baidu, ont signalé l'"accident" avec des adresses IP provenant de différents endroits, selon le communiqué de la police.
Le suspect, prénommé Hong, a été identifié et arrêté pour avoir concocté de fausses informations après que la police eut retracé tous les comptes et découvert que son entreprise était impliquée.
Hong aurait édité des nouvelles générées par ChatGPT et les aurait téléchargées sur la plateforme appartenant à Baidu, a indiqué la police locale, ajoutant que l'enquête se poursuivait.
Source : La police de la province de Gansu, dans le nord-ouest de la Chine
Et vous ?
Quel est votre avis sur le sujet ? Selon vous, comment ChatGPT et les autres technologies d'IA générative impacteront sur la manière dont nous consommons l'information à l'avenir ?Voir aussi
La Chine introduit la proposition de loi la plus restrictive au monde sur l'intelligence artificielle générative, et ravive les craintes sur le virage à un Internet global piloté sur le modèle chinois Les textes générés par l'IA pourraient accroître l'exposition aux menaces, l'identification des contenus malveillants ou abusifs deviendra plus difficile pour les fournisseurs de plateformes GPT-4 produirait des informations erronées, beaucoup plus que GPT-3.5, selon une étude de NewsGuard, OpenAI avait pourtant déclaré le contraire La génération Z est plus encline à vérifier les informations en ligne, mais elle semble aussi plus encline à croire les fausses informations, selon The News Movement