Chine et États-Unis devraient lutter ensemble contre les risques liés à l'IA malveillante, selon une ancienne diplomate chinoise

Après qu'une étude a montré que des LLM sont capables de s'auto-répliquer

Dans un contexte mondial de plus en plus marqué par les avancées technologiques, notamment dans le domaine de l'intelligence artificielle, la coopération entre les grandes puissances, telles que la Chine et les États-Unis, devient une nécessité. C'est en tout cas ce qu'estime une ancienne diplomate chinoise qui a récemment mis en garde contre les dangers d’une IA malveillante et la nécessité d’une coopération internationale pour éviter des conséquences catastrophiques. Des propos qui interviennent après qu'une étude de l'université de Fudan, en Chine, a révélé que deux grands modèles de langage (LLM) populaires sont parvenus à se répliquer sans intervention humaine, franchissant ainsi une « ligne rouge » critique dans l'évolution de l'intelligence artificielle.

Une ancienne diplomate chinoise a appelé la Chine et les États-Unis à collaborer pour prévenir les risques liés aux progrès rapides de l'intelligence artificielle. Mais les perspectives de coopération sont sombres, car les tensions géopolitiques se répercutent sur le paysage technologique. C'est ce qu'a déclaré Fu Ying, ancienne vice-ministre chinoise des affaires étrangères, lors d'une réunion à huis clos d'un groupe d'experts sur l'intelligence artificielle qui s'est tenue à Paris.

« En réalité, nombreux sont ceux qui ne sont pas optimistes quant à la collaboration entre les États-Unis et la Chine dans le domaine de l'IA, et le monde de la technologie est de plus en plus sujet à des distractions géopolitiques », a déclaré Fu Ying.

« Tant que la Chine et les États-Unis peuvent coopérer et travailler ensemble, ils peuvent toujours trouver un moyen de contrôler la machine. Néanmoins, si les pays sont incompatibles entre eux [...], je crains que la probabilité d'un conflit entre la Chine et les États-Unis ne soit pas très élevée. je crains que la probabilité que la machine gagne soit élevée ».

Cette table ronde s'inscrit dans le cadre d'un sommet mondial de deux jours sur l'IA qui s'est ouvert à Paris.

Parmi les autres membres du panel figuraient Yoshua Bengio, l'informaticien canadien reconnu comme un pionnier dans ce domaine, et Alondra Nelson, conseillère centrale en matière de politique d'IA auprès de l'administration de l'ancien président américain Joe Biden et des Nations unies.

Le vice-premier ministre Zhang Guoqing, chargé des politiques industrielles, a assisté au sommet en tant que représentant spécial du président Xi Jinping et a rencontré le président français Emmanuel Macron. Les détails de cette rencontre n'avaient pas encore été communiqués mardi soir.

Fu, aujourd'hui universitaire à l'université Tsinghua, a déclaré que les États-Unis avaient « empoisonné l'atmosphère de la coopération technologique internationale » en imposant récemment des restrictions technologiques à la Chine. « En cette ère d'explosion scientifique et technologique, où l'humanité a le plus besoin de mobiliser toute son intelligence et son énergie pour coopérer, les principaux pays tentent de fermer les plates-formes de coopération », a-t-elle déclaré.

Fu a toutefois souligné la nécessité d'un partenariat entre les deux pays, ajoutant que le « meilleur moyen » d'assurer un avenir sûr et responsable à l'IA et à l'intelligence artificielle générale (AGI) dans le monde était de combiner les pouvoirs de la Chine et des États-Unis en matière d'IA - la Chine avec son vaste marché et son expertise en matière de fabrication, et les États-Unis avec leur accès au capital.

L'ancienne vice-ministre des Affaires étrangères a également déclaré que Pékin adoptait une « approche relativement calme » de la coopération et de la gouvernance mondiale, ajoutant que lors de leur appel téléphonique du mois dernier, Xi et son homologue américain Donald Trump avaient convenu de pratiquer le respect mutuel.

Deepseek et la grande interrogation du marché occidental

Le sommet a lieu alors que le monde continue d'évaluer l'impact de DeepSeek, un grand modèle de langage (LLM) ouvert et peu coûteux qui a été développé en Chine et qui rivalise avec ChatGPT, de l'entreprise américaine OpenAI. L'essor de DeepSeek a soulevé des questions cruciales sur l'efficacité des tentatives de Washington pour freiner les ambitions technologiques de la Chine, en particulier dans le domaine de l'intelligence artificielle.

Elle a également soulevé des questions sur l'approche à forte intensité de capital et à source fermée de modèles tels que ChatGPT.

Mais Bengio a averti que les modèles à source ouverte pourraient être plus susceptibles d'être exploités.

Fu a déclaré que le choix des entreprises chinoises pour des modèles à source...