L'ex-PDG de Google Eric Schmidt estime que les entreprises d'IA devraient envisager de "débrancher" l'IA avant qu'il ne soit trop tard

Car les systèmes pouvant s'auto-améliorer peuvent présenter des risques

Eric Schmidt, ancien PDG de Google, a tiré la sonnette d'alarme concernant les progrès rapides de l'intelligence artificielle (IA), avertissant que les systèmes capables de s'améliorer par eux-mêmes pourraient présenter des risques imprévus. M. Schmidt a laissé entendre qu'à mesure que l'IA évolue, il pourrait arriver un moment où l'humanité devrait envisager de « débrancher » ces systèmes avant qu'ils ne deviennent incontrôlables. Ses commentaires interviennent alors que la course à l'IA s'accélère, les entreprises repoussant les limites de l'innovation en dépit d'une surveillance réglementaire limitée.

Ces préoccupations de l'ancien PDG de Google sont partagées par de nombreux chercheurs en IA qui considèrent qu'il y a 5 % de chance que l'IA super intelligente provoque l'extinction de l'humanité. En effet, d'après une enquête menée auprès de 2700 chercheurs en IA qui ont récemment publié leurs travaux dans six des principales conférences sur l'IA, près de 58 % sont d'avis que cette perspective risque de se réaliser.

Dans une récente interview accordée au réseau ABC, Eric Schmidt a souligné à la fois le potentiel impressionnant et les dangers périlleux du développement de l'IA. Tout en célébrant les réalisations dans ce domaine, il a mis en avant les risques que les ordinateurs atteignent un stade où ils fonctionnent de manière autonome et prennent des décisions sans intervention humaine.


La montée de l'IA autonome

Eric Schmidt a prévenu que la capacité des systèmes d'IA à s'améliorer eux-mêmes pourrait être plus proche que beaucoup ne le pensent, et qu'elle pourrait arriver dans les prochaines années. Il a décrit un avenir où ces systèmes ne se contenteront pas de mener leurs propres recherches, mais posséderont également l'intelligence d'êtres humains très instruits.

Les implications de telles avancées sont vastes, M. Schmidt comparant l'impact à la présence d'un polymathe dans la poche de chaque individu. Toutefois, il se demande si la société est prête à gérer les conséquences de l'octroi d'un tel pouvoir à tout le monde.

En théorie, a suggéré Eric Schmidt, quelqu'un doit toujours avoir la possibilité de débrancher ces systèmes. Toutefois, il a également reconnu que l'IA pouvait contrer les efforts déployés pour l'arrêter, soulignant ainsi la nécessité de mettre en place des mesures de protection au fur et à mesure que la technologie évolue.

Concurrence mondiale et lacunes réglementaires

La course à la domination de l'IA s'intensifie, Eric Schmidt notant que la Chine a fait des progrès remarquables ces derniers mois, rattrapant les capacités américaines d'une manière qu'il juge surprenante. M. Schmidt a souligné l'importance pour les États-Unis de conserver une position de leader dans le développement de l'IA, en plaidant pour une augmentation du financement, du matériel et de l'expertise afin de garantir que les nations occidentales restent en tête.

Au niveau national, cependant, la réglementation reste en retrait par rapport à l'innovation. Les efforts visant à établir des lignes directrices ont échoué, laissant les entreprises technologiques foncer sans un cadre cohérent. Eric Schmidt a prévenu qu'en l'absence d'une surveillance adéquate, les risques associés à l'IA pourraient s'intensifier, en particulier à mesure que les systèmes d'IA générative deviennent plus avancés.

Un appel pour une police de l'IA

Pour atténuer les risques potentiels, Eric Schmidt a proposé une approche à deux systèmes. Il a suggéré de créer un système d'IA secondaire conçu spécifiquement pour surveiller et réguler les actions du premier. Selon lui, les humains ne peuvent à eux seuls contrôler efficacement l'IA, mais les systèmes d'IA pourraient être capables de se surveiller mutuellement.

Si Eric Schmidt reste optimiste quant au pouvoir de transformation de l'IA, ses avertissements soulignent l'urgence de relever les défis éthiques et réglementaires posés par cette technologie en évolution rapide. Alors que la course se poursuit, l'équilibre entre l'innovation et la prudence pourrait déterminer l'avenir du rôle de l'IA dans la société.

En novembre dernier, l'ex-dirigeant de Google a notamment mis en garde contre une nouvelle tendance inquiétante : les "petites amies parfaites" créées par des modèles d'IA avancés. Eric Schmidt a prévenu que les copines IA « parfaites » pourraient causer des problèmes aux jeunes hommes, soulignant que ces outils, capables de générer des interactions émotionnelles convaincantes, pourraient avoir des conséquences néfastes.

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous que la position de M. Eric Schmidt est cohérente ou pertinente ?

Voir aussi :

Eric Schmidt estime qu'on devrait développer l'IA aussi rapidement que possible, car son potentiel est très important, par exemple un médecin IA ou un tuteur IA

L'ancien PDG de Google, Eric Schmidt, s'exprime sur l'IA : "elle est sous-estimée et les entreprises vont changer grâce à elle"

L'ancien PDG de Google, Eric Schmidt, estime que nous devrions nous lancer à fond dans la construction de centres de données d'IA, car « de toute façon, nous n'atteindrons jamais nos objectifs climatiques »

L'ancien PDG de Google estime qu'il n'y a pas de mal à ce que les entreprises spécialisées dans l'IA volent des contenus : « vous pourrez nettoyer le gâchis plus tard avec de l'argent et une armée d'avocats »