Des experts en intelligence artificielle, tant occidentaux que chinois, ont conjointement établi des « lignes rouges » pour circonscrire les dangers potentiels inhérents à l'IA, définissant ainsi les territoires à ne pas franchir pour éviter des risques existentiels. Réunis à Pékin lors d'une rencontre récente, ces scientifiques ont exprimé un avertissement grave, soulignant la nécessité d'une collaboration mondiale similaire à celle observée pendant la guerre froide pour prévenir des scénarios critiques, comparables à ceux des conflits nucléaires. Les experts ont identifié des domaines sensibles tels que la création d'armes biologiques et les cyberattaques comme des points de vigilance essentiels dans le développement de l'IA. Cette déclaration, appuyée par des personnalités éminentes telles que Geoffrey Hinton, Yoshua Bengio, Stuart Russell et Andrew Yao, intervient après un dialogue international sur la sécurité de l'IA, où des représentants du gouvernement chinois étaient également présents, laissant ainsi envisager un soutien tacite de l'État. L'engagement des présidents américain et chinois dans ce domaine, ainsi que la participation de plusieurs nations et entreprises majeures de l'IA à des initiatives de coopération internationale, soulignent l'importance de cette déclaration dans la quête d'une gouvernance responsable de l'IA face aux enjeux existentiels.
Lors d'une réunion qui s'est tenue à Pékin la semaine dernière, des experts occidentaux et chinois de l'IA ont lancé un avertissement sévère : pour faire face aux menaces associées à une technologie puissante, il faut une coopération mondiale équivalente aux efforts déployés pendant la guerre froide pour éviter les guerres nucléaires.
Le groupe de scientifiques internationaux spécialisés dans l'IA a identifié des « lignes rouges » dans le développement de l'IA, notamment la création d'armes biologiques et le lancement de cyberattaques. Comme l'a rapporté le Financial Times dans les jours qui ont suivi la conférence, les universitaires ont averti qu'une approche collaborative de la sécurité de l'IA était nécessaire pour éviter « des risques catastrophiques, voire existentiels, pour l'humanité au cours de notre vie ». Au plus profond de la guerre froide, la coordination scientifique et gouvernementale internationale a permis d'éviter une catastrophe thermonucléaire. L'humanité doit à nouveau se coordonner pour éviter une catastrophe qui pourrait résulter d'une technologie sans précédent », indique la déclaration.
Parmi les signataires de la déclaration figurent d'éminents experts tels que Geoffrey Hinton et Yoshua Bengio, lauréats du prix Turing et considérés comme les "parrains de l'IA", Stuart Russell, professeur d'informatique à l'université de Californie (Berkeley), et Andrew Yao, l'un des chercheurs en informatique les plus renommés de Chine. Ces remarques acerbes font suite au « Dialogue international sur la sécurité de l'IA » qui s'est tenu à Pékin la semaine dernière et auquel ont participé des représentants du gouvernement chinois, ce qui laisse supposer un soutien tacite du gouvernement à la conférence et à ses thèmes.
Sécurité de l'intelligence artificielle : Dialogue international sur la sécurisation de l'IA
L'intelligence artificielle est de plus en plus populaire, et les grandes entreprises technologiques du monde entier investissent massivement pour s'imposer dans ce domaine hautement concurrentiel. À mesure que l'IA entre dans nos vies, les protocoles et les mesures de sécurité se retrouvent sous les feux de la rampe. Liu Xinqing en dit plus.
Le dialogue international de Pékin 2024 sur la sécurité de l'IA, le premier du genre organisé en Chine, a été organisé dans un contexte d'attention croissante du public à l'égard de la sécurité de l'IA. Le dialogue réunit des scientifiques du monde entier pour collaborer à l'atténuation des risques associés à l'intelligence artificielle. Les experts participant à la réunion ont convenu que les percées réalisées par les grands modèles l'ont été essentiellement par des moyens empiriques. Toutefois, les mécanismes de génération et d'émergence de l'intelligence qui les sous-tendent ne sont pas encore clairs.
La croissance rapide de l'intelligence artificielle s'accompagne d'une augmentation des risques d'utilisation abusive. La communauté internationale en sait encore très peu sur la manière de construire un système d'intelligence artificielle sûr, ce qui représente un défi pour l'humanité dans son ensemble. YOSHUA BENGIO Lauréat du prix Turing « La science ne sait pas comment s'assurer que ces futurs systèmes d'intelligence artificielle, que nous appelons AGI, sont sûrs. Nous devrions commencer à travailler dès maintenant sur des solutions scientifiques et politiques à ce problème. »
HU TIEJUN Président de l'Académie d'intelligence artificielle de Pékin « La sécurisation de l'intelligence artificielle est une nécessité absolue. Les experts, les gouvernements, les organisations internationales et même les Nations unies se concentrent sur cette question. Je pense que cette réunion est l'occasion pour les experts de l'industrie de discuter des moyens techniques et des mesures visant à garantir la sécurité de l'intelligence artificielle. Cela permettra également de faire progresser nos travaux de recherche sur la sécurité de l'IA ».
Le forum est parvenu à un consensus préliminaire sur la recherche technologique mondiale en matière de sécurité de l'IA, la pratique industrielle et la gouvernance. Il espère également établir en Chine un dialogue international et un mécanisme d'échange pour la sécurité de l'IA, afin de promouvoir le développement sain et durable de l'intelligence artificielle mondiale.
Le président américain Joe Biden et le président chinois Xi Jinping ont convenu d'ouvrir une discussion sur la sécurité de l'IA lors de leur rencontre à San Francisco en novembre. Au début du mois de novembre, la Chine et les États-Unis faisaient partie des 28 pays accueillis par le Premier ministre britannique Rishi Sunak pour le premier sommet sur la sécurité de l'IA, au cours duquel les principales entreprises d'IA se sont engagées à collaborer pour faire face aux risques existentiels posés par l'IA avancée.
Compte rendu de la rencontre entre le président Joe Biden et le président Xi Jinping de la République populaire de Chine
Le président Joseph R. Biden Jr. a tenu le 15 novembre 2023 un sommet avec le président Xi Jinping de la République populaire de Chine (RPC), à Woodside, en Californie. Les deux dirigeants ont eu une discussion franche et constructive sur une série de questions bilatérales et mondiales, notamment sur les domaines de coopération potentielle, et ont échangé leurs points de vue sur les domaines de divergence.
Le président Biden a souligné que les États-Unis et la Chine sont en concurrence, notant que les États-Unis continueraient à investir dans les sources de la force américaine à l'intérieur du pays et à s'aligner sur les alliés et les partenaires dans le monde entier. Il a souligné que les États-Unis défendraient toujours leurs intérêts, leurs valeurs, leurs alliés et leurs partenaires. Il a réaffirmé que le monde attendait des États-Unis et de la Chine qu'ils gèrent la concurrence de manière responsable afin d'éviter qu'elle ne débouche sur un conflit, une confrontation ou une nouvelle guerre froide.
Les deux dirigeants ont progressé sur un certain nombre de questions clés. Ils se sont félicités de la reprise de la coopération bilatérale pour lutter contre la fabrication et le trafic de drogues illicites à l'échelle mondiale, y compris les drogues synthétiques comme le fentanyl, et de la création d'un groupe de travail pour une communication permanente et une coordination des services répressifs sur les questions liées à la lutte contre les stupéfiants. Le président Biden a souligné que cette nouvelle étape fera progresser les efforts déployés par l'ensemble du gouvernement américain pour contrer la menace croissante des drogues synthétiques illicites et pour réduire le détournement des précurseurs chimiques et des presses à comprimés vers les cartels de la drogue.
Les deux dirigeants se sont félicités de la reprise des communications entre militaires de haut niveau, ainsi que des pourparlers de coordination de la politique de défense entre les États-Unis et la Chine et des réunions de l'accord consultatif militaire maritime entre les États-Unis et la Chine. Les deux parties reprennent également les conversations téléphoniques entre les commandants de théâtre.
Les dirigeants ont affirmé la nécessité de faire face aux risques liés aux systèmes d'IA avancés et d'améliorer la sécurité de l'IA dans le cadre des discussions gouvernementales sino-américaines.
Les deux dirigeants ont échangé leurs points de vue sur les principaux défis régionaux et mondiaux. Le président Biden a souligné le soutien des États-Unis à une région indo-pacifique libre et ouverte, connectée, prospère, sûre et résiliente. Le président a réaffirmé l'engagement sans faille des États-Unis à défendre leurs alliés de la région indo-pacifique. Le président a souligné l'engagement durable des États-Unis en faveur de la liberté de navigation et de survol, du respect du droit international, du maintien de la paix et de la stabilité en mer de Chine méridionale et orientale, et de la dénucléarisation complète de la péninsule coréenne.
Le président Biden a réaffirmé que les États-Unis, aux côtés de leurs alliés et partenaires, continueront à soutenir la défense de l'Ukraine contre l'agression russe, afin que l'Ukraine sorte de cette guerre en tant que nation démocratique, indépendante, souveraine et prospère, capable de dissuader et de se défendre contre de futures agressions. En ce qui concerne le conflit entre Israël et le Hamas, le président a réitéré le soutien des États-Unis au droit d'Israël de se défendre contre le terrorisme et a souligné l'importance pour tous les pays d'user de leur influence pour empêcher l'escalade et l'extension du conflit.
Le président Biden a souligné l'universalité des droits de l'homme et la responsabilité de toutes les nations de respecter leurs engagements internationaux en matière de droits de l'homme. Il a fait part de ses préoccupations concernant les violations des droits de l'homme commises par la RPC, notamment au Xinjiang, au Tibet et à Hong Kong. En ce qui concerne Taïwan, le président Biden a souligné que notre politique d'une seule Chine n'a pas changé et qu'elle a été cohérente au fil des décennies et des administrations. Il a réaffirmé que les États-Unis s'opposent à toute modification unilatérale du statu quo de la part de l'une ou l'autre partie, que nous attendons que les différends entre les deux rives du détroit soient résolus par des moyens pacifiques et que le monde a intérêt à ce que la paix et la stabilité règnent dans le détroit de Taïwan. Il a appelé la RPC à faire preuve de retenue dans ses activités militaires à l'intérieur et autour du détroit de Taïwan.
Le président Biden a également fait part de ses préoccupations constantes concernant les politiques commerciales déloyales de la RPC, ses pratiques économiques non commerciales et ses actions punitives à l'encontre des entreprises américaines, qui nuisent aux travailleurs et aux familles des États-Unis. Le président a souligné que les États-Unis continueront à prendre les mesures nécessaires pour empêcher que des technologies américaines avancées ne soient utilisées pour porter atteinte à leur propre sécurité nationale, sans pour autant limiter indûment le commerce et l'investissement.
Le président a une nouvelle fois souligné que la résolution des cas de citoyens américains détenus à tort ou soumis à des interdictions de sortie du territoire en Chine restait une priorité. Les deux dirigeants ont réaffirmé l'importance des liens entre les peuples des États-Unis et de la République populaire de Chine et se sont engagés à œuvrer en faveur d'une nouvelle augmentation significative des vols réguliers de passagers au début de l'année prochaine, parallèlement à des actions visant à rétablir la pleine mise en œuvre de l'accord de transport aérien entre les États-Unis et la Chine, afin de soutenir les échanges entre les deux pays. Les deux dirigeants ont également encouragé l'expansion des échanges dans les domaines de l'éducation, des étudiants, de la jeunesse, de la culture, du sport et des affaires.
Les deux dirigeants ont souligné l'importance de travailler ensemble pour accélérer les efforts de lutte contre la crise climatique au cours de cette décennie critique. Ils se sont félicités des discussions positives qui ont eu lieu récemment entre leurs envoyés spéciaux respectifs pour le climat, notamment sur les mesures nationales visant à réduire les émissions dans les années 2020, sur les approches communes à adopter pour assurer le succès de la COP 28 et sur la mise en place du groupe de travail sur le renforcement de l'action climatique dans les années 2020 afin d'accélérer la mise en œuvre de mesures concrètes en faveur du climat. Le président Biden a déclaré que les États-Unis étaient prêts à collaborer avec la RPC pour relever les défis transnationaux, tels que la sécurité sanitaire, la dette et le financement du climat dans les pays en développement et les marchés émergents.
S'appuyant sur la réunion de novembre 2022 à Bali, au cours de laquelle ils ont discuté de l'élaboration de principes relatifs aux relations entre les États-Unis et la Chine, les deux dirigeants ont reconnu les efforts déployés par leurs équipes respectives pour explorer les meilleures pratiques en matière de relations. Ils ont souligné l'importance d'une gestion responsable des aspects concurrentiels des relations, de la prévention des conflits, du maintien de lignes de communication ouvertes, de la coopération dans des domaines d'intérêt commun, du respect de la charte des Nations unies, et du fait que tous les pays se traitent mutuellement avec respect et trouvent un moyen de vivre les uns à côté des autres de manière pacifique. Les dirigeants se sont félicités de la poursuite des discussions à cet égard.
Les deux dirigeants sont convenus que leurs équipes assureront le suivi de leurs discussions à San Francisco en poursuivant la diplomatie et les interactions à haut niveau, y compris des visites dans les deux sens et des consultations permanentes au niveau opérationnel dans des domaines clés, notamment les questions commerciales, économiques et financières, l'Asie-Pacifique, le contrôle des armements et la non-prolifération, les questions maritimes, l'application du contrôle des exportations, la planification des politiques, l'agriculture et les questions relatives aux personnes handicapées.
Les scientifiques définissent les limites de l'IA : un appel à l'action mondiale
D'éminents scientifiques occidentaux et chinois spécialisés dans l'intelligence artificielle ont lancé un avertissement sévère : la lutte contre les risques liés à cette puissante technologie nécessite une coopération mondiale semblable à celle qui existait pendant la guerre froide pour éviter les conflits nucléaires. Un groupe d'experts internationaux renommés s'est réuni à Pékin la semaine dernière et a défini des « lignes rouges » pour le développement de l'IA, notamment en ce qui concerne la fabrication d'armes biologiques et le lancement de cyberattaques.
Dans une déclaration publiée dans les jours qui ont suivi la réunion, les universitaires ont prévenu qu'une approche commune de la sécurité de l'IA était nécessaire pour mettre fin aux « risques catastrophiques, voire existentiels, qui pèsent sur l'humanité au cours de notre vie ».
« Au plus profond de la guerre froide, la coordination scientifique et gouvernementale internationale a permis d'éviter une catastrophe thermonucléaire. L'humanité doit à nouveau se coordonner pour éviter une catastrophe qui pourrait résulter d'une technologie sans précédent », indique la déclaration. Parmi les signataires figurent Geoffrey Hinton et Yoshua Bengio, qui ont remporté un prix Turing pour leurs travaux sur les réseaux neuronaux et sont souvent décrits comme les « parrains » de l'IA ; Stuart Russell, professeur d'informatique à l'université de Californie à Berkeley ; et Andrew Yao, l'un des informaticiens chinois les plus éminents.
Cette déclaration fait suite au dialogue international sur la sécurité de l'IA qui s'est tenu à Pékin la semaine dernière, une réunion à laquelle ont participé des représentants du gouvernement chinois, signe d'une approbation officielle tacite du forum et de ses résultats. Cette rencontre s'inscrit dans le cadre des pressions exercées par la communauté universitaire sur les entreprises technologiques et les gouvernements pour qu'ils collaborent à la sécurité de l'IA, notamment en réunissant les deux superpuissances technologiques mondiales, la Chine et les États-Unis.
Le président américain Joe Biden et son homologue chinois Xi Jinping se sont rencontrés en novembre pour discuter de la sécurité de l'IA et ont convenu d'établir un dialogue sur la question. Ces derniers mois, de grandes entreprises d'IA du monde entier ont également rencontré à huis clos des experts chinois de l'IA. En novembre, 28 pays, dont la Chine, et les principales entreprises d'IA se sont engagés à collaborer pour faire face aux risques existentiels liés à l'IA avancée lors du sommet sur la sécurité de l'IA organisé par le Premier ministre britannique Rishi Sunak.
La semaine dernière, à Pékin, des experts ont examiné les menaces liées au développement de l' « intelligence artificielle générale », c'est-à-dire de systèmes d'IA égaux ou supérieurs à l'homme. « Les discussions ont porté essentiellement sur les lignes rouges qu'aucun système d'IA puissant ne devrait franchir et que les gouvernements du monde entier devraient imposer en matière de développement et de déploiement de l'IA », a déclaré Bengio.
Ces lignes rouges concernent les systèmes de plus en plus autonomes. Selon la déclaration, « aucun système d'IA ne devrait être capable de se copier ou de s'améliorer sans l'approbation et l'assistance explicites d'un être humain » ou « de prendre des mesures visant à accroître indûment son pouvoir et son influence ». Les scientifiques ont ajouté qu'aucun système ne devrait « accroître substantiellement la capacité des acteurs à concevoir des armes de destruction massive, à violer la convention sur les armes biologiques ou chimiques » ou à « exécuter de manière autonome des cyberattaques entraînant de graves pertes financières ou des dommages équivalents ».
Sources : CGTN, Whitehouse
Et vous ?
Quel est votre avis sur le sujet ? Pourquoi les experts ont-ils comparé les dangers potentiels de l'IA à ceux des conflits nucléaires ? Quelles pourraient être les conséquences existentielles si les « lignes rouges » établies par les experts étaient franchies dans le développement de l'IA ? Comment les pays peuvent-ils concrètement coopérer pour mettre en œuvre les mesures de prévention recommandées par les experts en IA ? Voir aussi :
« Bientôt, tout le monde possédera un robot, comme une voiture ou un téléphone aujourd'hui », affirme le fondateur de Figure AI, mais la question du coût des robots fait l'objet de débat Google étend l'affichage des résultats de recherche assistés par IA aux utilisateurs qui n'ont pas donné leur accord, proposant des résumés générés automatiquement afin d'enrichir leur expérience 
Envoyé par Bruno
