
qui constituerait une menace tant qu'elle n’est pas bien encadrée
Bill Gates a lancé un avertissement inquiétant aux jeunes. Dans une interview accordée à Patrick Collinson pour parler de Source Code : My Beginnings, ses mémoires qui couvrent les jours de son enfance jusqu'à ce qu'il crée Microsoft en 1975, le cofondateur de Microsoft a cité quatre choses « très effrayantes » dont ils devraient avoir peur. Outre la crainte persistante d'une guerre nucléaire, le fondateur de Microsoft estime que l'IA incontrôlée constitue également une menace. Gates, fondateur de Microsoft et président de la Fondation Gates, a fait part de son point de vue sur l'évolution des risques auxquels la société est confrontée.
Dans une interview accordée à Jimmy Fallon sur le même thème, Bill Gates envisageait un avenir où les humains seraient éliminés de certains rôles et ne seraient plus nécessaires pour « la plupart des choses ». Le milliardaire a donné comme exemple le tutorat et les conseils, déjà adoptés par les étudiants et de nombreuses entreprises. Il a également déclaré qu'il pensait que cela résoudrait des problèmes tels que le manque de « médecins » ou de « professionnels de la santé mentale ».
Cette fois-ci, dans un entretien avec Patrick Collinson, Gates s'est adressé à la jeunesse. Pour montrer l'évolution du monde, il a expliqué que la seule chose qui l'inquiétait vraiment lorsqu'il était jeune était la guerre nucléaire. Si cette inquiétude n'a pas disparu, Gates estime que les jeunes générations doivent désormais faire face à d'autres menaces pour la société : le changement climatique, le bioterrorisme ou une autre pandémie, et le maintien du contrôle de l'IA avancée.
De nombreux avertissements ont déjà été lancés au sujet des progrès trop rapides de l'IA, au point qu'elle devienne plus intelligente que l'homme et décide que le monde se porterait mieux sans nous.
Les systèmes d'IA surhumaine, comme leur nom l'indique, sont des IA qui surpassent l'intelligence humaine dans la plupart des tâches à valeur économique. OpenAI estime que l'avènement de la superintelligence pourrait être imminent, potentiellement au cours de la prochaine décennie. Bien que cette évolution puisse apporter d'énormes avantages, depuis les percées dans le domaine des soins de santé jusqu'à la résolution de problèmes mondiaux complexes, elle comporte également des risques importants. Le défi consiste à s'assurer que ces systèmes d'IA surhumaine, et peut-être les robots humanoïdes récemment dévoilés, sont alignés sur les valeurs et les intérêts humains et qu'ils peuvent être contrôlés par les humains et bénéficier de leur confiance, une question qui a été au centre des préoccupations de la communauté de l'IA.
C'est la raison pour laquelle l'entreprise a lancé un appel d'offre en décembre 2023 : « 10 millions de dollars de subventions pour soutenir la recherche technique sur l'alignement de l'AGI. Nous aurons besoin de nouvelles percées pour diriger et contrôler des systèmes d'IA beaucoup plus intelligents que nous. Il s'agit de l'un des problèmes techniques non résolus les plus importants de notre époque. Mais nous pensons qu'il s'agit d'un problème d'apprentissage automatique qui peut être résolu. Les nouveaux chercheurs peuvent apporter d'énormes contributions ! » a expliqué OpenAI.
Bill Gates alerte la jeunesse sur quatre menaces majeures, dont l’IA
L’intelligence artificielle : une révolution à double tranchant
L’IA est sans doute la technologie la plus transformative de notre époque. Selon Bill Gates, bien qu’elle puisse considérablement améliorer la productivité et résoudre des problèmes complexes, elle représente aussi un danger si elle n’est pas bien encadrée. Le risque principal réside dans son utilisation malveillante, la suppression d’emplois et l’accentuation des inégalités économiques. Il appelle ainsi à une régulation intelligente pour éviter les dérives potentielles et garantir que l’IA soit un outil au service du bien commun.
Le changement climatique : une urgence absolue
Le réchauffement climatique reste une menace existentielle que Gates considère comme l’un des plus grands défis de notre époque. Il insiste sur l’importance de la transition vers les énergies propres et l’innovation technologique pour réduire les émissions de gaz à effet de serre. Pour lui, les jeunes ont un rôle clé à jouer en adoptant des modes de vie durables et en plaidant pour des politiques écologiques ambitieuses.
Les pandémies : une leçon de la COVID-19
La pandémie de COVID-19 a montré à quel point le monde est vulnérable face aux crises sanitaires. Gates avertit que de nouvelles pandémies pourraient survenir si des mesures préventives ne sont pas mises en place. Il appelle à un renforcement des systèmes de santé mondiaux, à des investissements dans la recherche médicale et à une meilleure coopération internationale pour éviter une crise sanitaire d’ampleur similaire à celle vécue en 2020.
La désinformation et la polarisation sociale
Dans un monde hyperconnecté, la désinformation et la manipulation de l’opinion publique deviennent des enjeux critiques. Gates met en garde contre la montée des fausses informations, amplifiées par les réseaux sociaux et l’IA générative. Selon lui, il est essentiel que les jeunes développent leur esprit critique et s’informent à partir de sources fiables pour lutter contre la fragmentation de la société et les conflits idéologiques.
Ce n'est pas la première fois que Gates identifie ces domaines de préoccupation
Dans un billet de blog datant de 2023, Gates a déclaré qu'à mesure que sa famille s'agrandissait, son désir d'améliorer le monde grandissait lui aussi : « Un petit-enfant vous fait réfléchir à la manière dont nous nous assurons que l'avenir est meilleur - politique, santé, climat, etc. »
Gates a affirmé que la société souffrait d'une pénurie d'intelligence. Il estime toutefois que l'IA pourrait constituer une solution plutôt qu'un problème. Bien que certains aient mis en garde contre le potentiel cataclysmique de l'IA, Gates pense qu'elle pourrait être exploitée de manière productive.
« Nous n'avons pas autant d'experts médicaux, vous savez, des gens qui peuvent rester au courant de tout, ou des gens qui peuvent donner des cours de mathématiques dans les quartiers défavorisés », a déclaré Gates. « Nous manquons d'intelligence et nous utilisons donc ce système de marché pour la répartir. Avec le temps, l'IA - et on peut discuter des délais - rendra l'intelligence essentiellement gratuite ».
Malgré les défis, Gates a déclaré qu'il s'attendait à ce que les citoyens de l'avenir s'en sortent beaucoup mieux, à condition qu'ils s'attaquent aux risques.
« Si nous ne résolvons pas certains de ces grands problèmes, la situation sera bien meilleure », a déclaré Gates. « La maladie d'Alzheimer, l'obésité, vous savez, nous aurons un remède contre le VIH, nous nous serons débarrassés de la polio, de la rougeole et du paludisme. Le rythme de l'innovation est aujourd'hui plus rapide que jamais ».
Si la peur peut souvent avoir un effet paralysant, Gates pense qu'elle pourrait être une force galvanisante pour les jeunes générations. « Elle va en fait, dans une certaine mesure, exagérer la probabilité et peut-être l'impact de certaines de ces choses afin d'inciter les gens à s'assurer que nous évitons ces choses », a-t-il déclaré.
Geoffrey Hinton
Geoffrey Hinton, « parrain de l'IA » : « Si l'IA prend des emplois, nous aurons besoin d'un revenu de base universel »
Le revenu universel de base est un paiement récurrent versé à tous les adultes d'une population donnée, indépendamment de leur richesse et de leur situation professionnelle, sans aucune restriction quant à la manière dont ils dépensent l'argent. Les chercheurs en IA, les futurologues et les chefs d'entreprise s'intéressent de près à cette idée, qu'ils considèrent comme un moyen d'atténuer l'impact économique de l'IA.
L'idée fait également son chemin dans des pays comme l'Afrique du Sud, le Kenya et l'Inde, qui y voient un moyen de lutter contre la pauvreté. Aux États-Unis, de nombreuses villes et certains États ont expérimenté des revenus de base garantis, qui prévoient également des versements mensuels sans conditions, mais à un groupe de personnes ciblé.
Le professeur Geoffrey Hinton a indiqué au gouvernement britannique que le RBU était une bonne idée, car il est « très inquiet que l’IA prenne beaucoup d’emplois routiniers ». Selon Hinton, l'IA augmentera la productivité et créera plus de richesses. Mais à moins que le gouvernement n'intervienne, elle ne fera qu'enrichir les riches et nuire aux personnes qui pourraient perdre leur emploi. « Ce sera très mauvais pour la société », a-t-il déclaré.
Conclusion
De nombreux avertissements ont déjà été lancés au sujet des progrès trop rapides de l'IA, au point qu'elle devienne plus intelligente que l'homme et décide que le monde se porterait mieux sans nous.
Une enquête réalisée en 2023 a révélé que deux tiers des Américains pensaient que l'IA pouvait menacer la civilisation, et le professeur Geoffrey Hinton, l'un des parrains de l'IA, pense que l'IA pourrait présenter un risque d'extinction d'ici cinq à vingt ans. Hinton a quitté Google en 2023 parce qu'il craignait que l'IA progresse plus rapidement que prévu et devienne incontrôlable.
Gates n'est pas opposé à l'IA pour autant. Il pense que la technologie peut être utilisée à bon escient, par exemple pour combler les lacunes en matière de compétences.
Toutefois, une réglementation internationale de l'IA semble compliquée. Face aux risques qu’elle engendre (désinformation, biais algorithmiques, automatisation des armes, surveillance de masse), de nombreux pays cherchent à établir des cadres de régulation internationaux.
D'ailleurs, Paris explique :
« Le développement rapide des technologies de l’IA entraîne un changement de paradigme majeur avec des conséquences diverses pour nos concitoyens et nos sociétés. Dans le prolongement du Pacte de Paris pour les peuples et la planète et du principe selon lequel les pays doivent concevoir eux-mêmes leurs stratégies en matière de transition, nous avons recensé les priorités et lancé des actions concrètes pour servir l’intérêt général et combler la fracture numérique en accélérant la réalisation des objectifs de développement durable ».
Pourtant, les États-Unis et le Royaume-Uni ont refusé de signer la déclaration internationale visant à encadrer le développement et l’usage de l’IA, une décision qui soulève de nombreuses interrogations.
Sources : vidéo de l'interview dans le texte, Bill Gates Notes
Et vous ?






Vous avez lu gratuitement 9 articles depuis plus d'un an.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.
Soutenez le club developpez.com en souscrivant un abonnement pour que nous puissions continuer à vous proposer des publications.