La menace que l'IA fait peser sur le monde pourrait être "plus urgente" que le changement climatique
Selon Geoffrey Hinton, un des pionniers de la recherche en intelligence artificielle
Le 2023-05-09 08:02:30, par Anthony, Chroniqueur Actualités
L'intelligence artificielle pourrait constituer une menace "plus urgente" pour l'humanité que le changement climatique, a déclaré Geoffrey Hinton, pionnier de l'IA, dans une interview accordée à Reuters.
Geoffrey Hinton, largement connu comme l'un des "parrains de l'IA", a récemment annoncé qu'il quittait Alphabet après une décennie passée au sein de l'entreprise, expliquant qu'il souhaitait s'exprimer sur les risques de la technologie sans que cela n'affecte son ancien employeur.
Les travaux de M. Hinton sont considérés comme essentiels au développement des systèmes d'IA contemporains. En 1986, il a cosigné l'article fondateur "Learning representations by back-propagating errors", une étape importante dans le développement des réseaux neuronaux qui sous-tendent la technologie de l'IA. En 2018, il a reçu le prix Turing en reconnaissance de ses avancées en matière de recherche.
Mais il fait désormais partie d'un nombre croissant de leaders technologiques qui s'inquiètent publiquement de la menace que pourrait représenter l'IA si les machines parvenaient à être plus intelligentes que les humains et à prendre le contrôle de la planète.
"Je ne voudrais pas dévaloriser le changement climatique. Je ne voudrais pas dire : "Vous ne devriez pas vous inquiéter du changement climatique". C'est aussi un risque énorme", a déclaré M. Hinton. "Mais je pense que cette question pourrait s'avérer plus urgente."
Il a ajouté : "En ce qui concerne le changement climatique, il est très facile de recommander ce qu'il faut faire : il suffit d'arrêter de brûler du carbone. Si vous faites cela, les choses finiront par s'arranger. Dans le cas du changement climatique, ce qu'il faut faire n'est pas du tout clair".
OpenAI, soutenue par Microsoft, a donné le coup d'envoi d'une course à l'armement technologique en novembre, en mettant à la disposition du public le chatbot ChatGPT, alimenté par l'IA. Il est rapidement devenu l'application à la croissance la plus rapide de l'histoire, atteignant 100 millions d'utilisateurs mensuels en deux mois.
En avril, Elon Musk, PDG de Twitter, s'est joint à des milliers de personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.
Parmi les signataires figuraient Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d'Alphabet, et d'autres pionniers de l'IA, Yoshua Bengio et Stuart Russell.
Si M. Hinton partage l'inquiétude des signataires, qui craignent que l'IA ne constitue une menace existentielle pour l'humanité, il n'est pas d'accord avec l'idée d'interrompre la recherche.
"C'est totalement irréaliste", a-t-il déclaré. "Je suis de ceux qui pensent qu'il s'agit d'un risque existentiel et qu'il est suffisamment proche pour que nous travaillions très dur dès maintenant et que nous consacrions beaucoup de ressources à déterminer ce que nous pouvons faire à ce sujet."
Dans l'Union européenne, un comité de législateurs a répondu à la lettre de M. Musk en demandant au président américain Joe Biden d'organiser un sommet mondial sur l'orientation future de la technologie avec la présidente de la Commission européenne Ursula von der Leyen.
Début mai, la commission a adopté une série de propositions historiques concernant l'IA générative, qui obligeraient les entreprises comme OpenAI à divulguer tout matériel protégé par des droits d'auteur utilisé pour entraîner leurs modèles.
Entre-temps, M. Biden s'est entretenu avec un certain nombre de dirigeants d'entreprises d'IA, dont Sundar Pichai, PDG d'Alphabet, et Sam Altman, PDG d'OpenAI, à la Maison-Blanche, promettant une "discussion franche et constructive" sur la nécessité pour les entreprises d'être plus transparentes au sujet de leurs systèmes.
"Les leaders de la technologie sont ceux qui comprennent le mieux le problème, et les politiciens doivent être impliqués", a déclaré M. Hinton. "Cela nous concerne tous, nous devons donc tous y réfléchir."
Source : Reuters
Et vous ?
Quel est votre avis sur le sujet ?
Trouvez-vous que les préoccupations de M. Hinton sont pertinentes et fondées ?
Êtes-vous d'accord avec l'avis de M. Hinton selon lequel il est "irréaliste" d'interrompre la recherche en IA ?
Selon vous, l'IA devrait-elle faire l'objet d'une réglementation et d'une orientation mondiale comme le préconisent certains législateurs ?
Voir aussi
Geoffrey Hinton, une des figures de proue de l'apprentissage profond, quitte Google pour être libre de parler des dangers de l'IA dont la désinformation et l'élimination des humains par les robots
L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur
ChatGPT a enregistré une augmentation de 83 % en termes de trafic Web, et rivalise désormais avec Bing, la France est la 5è source de trafic pour le chatbot d'OpenAI, selon Similarweb
Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4, citant des risques pour la société
Geoffrey Hinton, largement connu comme l'un des "parrains de l'IA", a récemment annoncé qu'il quittait Alphabet après une décennie passée au sein de l'entreprise, expliquant qu'il souhaitait s'exprimer sur les risques de la technologie sans que cela n'affecte son ancien employeur.
Les travaux de M. Hinton sont considérés comme essentiels au développement des systèmes d'IA contemporains. En 1986, il a cosigné l'article fondateur "Learning representations by back-propagating errors", une étape importante dans le développement des réseaux neuronaux qui sous-tendent la technologie de l'IA. En 2018, il a reçu le prix Turing en reconnaissance de ses avancées en matière de recherche.
Mais il fait désormais partie d'un nombre croissant de leaders technologiques qui s'inquiètent publiquement de la menace que pourrait représenter l'IA si les machines parvenaient à être plus intelligentes que les humains et à prendre le contrôle de la planète.
"Je ne voudrais pas dévaloriser le changement climatique. Je ne voudrais pas dire : "Vous ne devriez pas vous inquiéter du changement climatique". C'est aussi un risque énorme", a déclaré M. Hinton. "Mais je pense que cette question pourrait s'avérer plus urgente."
Il a ajouté : "En ce qui concerne le changement climatique, il est très facile de recommander ce qu'il faut faire : il suffit d'arrêter de brûler du carbone. Si vous faites cela, les choses finiront par s'arranger. Dans le cas du changement climatique, ce qu'il faut faire n'est pas du tout clair".
OpenAI, soutenue par Microsoft, a donné le coup d'envoi d'une course à l'armement technologique en novembre, en mettant à la disposition du public le chatbot ChatGPT, alimenté par l'IA. Il est rapidement devenu l'application à la croissance la plus rapide de l'histoire, atteignant 100 millions d'utilisateurs mensuels en deux mois.
En avril, Elon Musk, PDG de Twitter, s'est joint à des milliers de personnes pour signer une lettre ouverte appelant à une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI.
Parmi les signataires figuraient Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d'Alphabet, et d'autres pionniers de l'IA, Yoshua Bengio et Stuart Russell.
Si M. Hinton partage l'inquiétude des signataires, qui craignent que l'IA ne constitue une menace existentielle pour l'humanité, il n'est pas d'accord avec l'idée d'interrompre la recherche.
"C'est totalement irréaliste", a-t-il déclaré. "Je suis de ceux qui pensent qu'il s'agit d'un risque existentiel et qu'il est suffisamment proche pour que nous travaillions très dur dès maintenant et que nous consacrions beaucoup de ressources à déterminer ce que nous pouvons faire à ce sujet."
Dans l'Union européenne, un comité de législateurs a répondu à la lettre de M. Musk en demandant au président américain Joe Biden d'organiser un sommet mondial sur l'orientation future de la technologie avec la présidente de la Commission européenne Ursula von der Leyen.
Début mai, la commission a adopté une série de propositions historiques concernant l'IA générative, qui obligeraient les entreprises comme OpenAI à divulguer tout matériel protégé par des droits d'auteur utilisé pour entraîner leurs modèles.
Entre-temps, M. Biden s'est entretenu avec un certain nombre de dirigeants d'entreprises d'IA, dont Sundar Pichai, PDG d'Alphabet, et Sam Altman, PDG d'OpenAI, à la Maison-Blanche, promettant une "discussion franche et constructive" sur la nécessité pour les entreprises d'être plus transparentes au sujet de leurs systèmes.
"Les leaders de la technologie sont ceux qui comprennent le mieux le problème, et les politiciens doivent être impliqués", a déclaré M. Hinton. "Cela nous concerne tous, nous devons donc tous y réfléchir."
Source : Reuters
Et vous ?
Quel est votre avis sur le sujet ?
Trouvez-vous que les préoccupations de M. Hinton sont pertinentes et fondées ?
Êtes-vous d'accord avec l'avis de M. Hinton selon lequel il est "irréaliste" d'interrompre la recherche en IA ?
Selon vous, l'IA devrait-elle faire l'objet d'une réglementation et d'une orientation mondiale comme le préconisent certains législateurs ?
Voir aussi
Geoffrey Hinton, une des figures de proue de l'apprentissage profond, quitte Google pour être libre de parler des dangers de l'IA dont la désinformation et l'élimination des humains par les robots
L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur
ChatGPT a enregistré une augmentation de 83 % en termes de trafic Web, et rivalise désormais avec Bing, la France est la 5è source de trafic pour le chatbot d'OpenAI, selon Similarweb
Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4, citant des risques pour la société
-
Anselme45Membre extrêmement actifEt surtout consommerons moins!!! Qui va faire la fortune de ces milliardaires? Les consommateurs sans plus aucun revenu?
En réalité, avec l'IA, on a droit au suicide du capitalisme à court terme!!!le 03/11/2025 à 20:35 -
vVDB.frMembre régulierIl faut être clair, l'IA d'aujourd'hui est bâtie sur un modèle probabiliste : zero intelligence.
Quand vous avez une question vous chercher uniquement à obtenir LA réponse. Cette réponse doit être sérieusement étayée, ce n'est pas ce qui est attendu par la majorité, le plus probable, la moyenne...
Imaginons une IA avec une base de données de temps de Charlemagne. A la question comment est la terre : l'IA probabiliste vous répondra 'plate'. Désolé ce n'est pas LA réponse.
Les algorithmes probabilistes donnent une illusion d'intelligence, une connaissance encyclopédique (la somme des connaissances biaisées) n'est pas une preuve d'intelligence.
La vraie 'IA' doit d'elle même faire le tri des fadaises et autres élucubrations dans le fatras de la production humaine.
Une célèbre publication scientifique sur l'hydroxychloroquine serait immédiatement retoquée par une 'vrai' IA et ne servirait pas comme terreau de connaissance aux IA actuelles.
Tant que Sam Altman et consorts croiront que la terre est plate, nous ne seront pas dans un monde de l'IA généraliste.
Avec l'IA généraliste, il devient impossible de croire.le 15/01/2025 à 12:12 -
Ryu2000InactifJe pense également que c'est un scénario qui peut avoir lieu.
Par contre je ne sais pas si les profits vont durer longtemps, parce que les chômeurs ne peuvent pas beaucoup consommer.
Au bout d'un moment ça ne sert à rien de produire des biens et des services si personne n'a les moyens de se les payer.
Il y aurait plus de perdants que de gagnants.
Devenir un parasite d'actionnaire c'est risqué. Ça prend du temps, ça fait stresser.
Vu qu'ils gagnent peu, ils ne peuvent pas mettre de côté pour se permettre de démissionner et de faire une formation.
Et de toute façon une formation de quoi ?
En France il y a des BAC+5 avec les statuts cadre/ingénieur qui gagnent moins de 2500€ net/mois.
Vu la situation du monde du travail aujourd'hui, c'est risqué de se dire "l'augmentation de salaire est trop faible, je vais démissionner et essayer de trouver mieux ailleurs", c'est un coup à finir au RSA.le 09/09/2025 à 11:43 -
SQLproRédacteurOui, c'est parfait pur les entreprises de la tech américaines... Comme ça on va pouvoir oublier l'écologie qui nous fait chier pour se consacrer à la bêtise naturelle (pardon, l'intelligence artificielle)...
On va donc laisser tranquille les plus gros consommateurs d’électricité du monde, ultra pollueur, anti écologique que sont les GAFA ! Pour dépenser toute notre énergie à combattre l'IA !
Merci Monsieur Geoffrey Hinton
A +le 09/05/2023 à 18:58 -
Ryu2000InactifJe pense qu'il est possible que dans le futur l'intelligence artificielle surpasse l'humain.
Vous n'êtes peut-être pas impressionné par l'es outils IA actuels, mais il est possible que l'IA évolue rapidement et que 20 ans ça devienne quelque chose de réellement puissant.le 11/10/2023 à 14:50 -
fdecodeMembre habituéle 12/10/2023 à 10:54
-
AngefeuxCandidat au ClubIl est certain, que 'IA puisse, servir de compétence et de façon neutre, à qui, a les moyens, de se la procurer, pour travailler et ce, quelque soit son idéologie, bonne ou mauvaise. Cela devrait, rentrait dans un système, de lois, que de pouvoir, obtenir des IA pour travailler, sans avoir à supprimer, des employés, dans une entreprise, tel, que de surtaxé, les entreprises à cause des employés supprimés ou manquants. Mais plutôt, une IA, qui peut aider, à améliorer, le travaille des employés, qui eux, ont des avis sociaux, à défendre.le 15/01/2025 à 15:19
-
Ryu2000InactifSi, si, il y a bien un paquet de BAC+5 qui gagnent moins de 2500€ net/mois.
Bon après avec un BAC Pro on peut gagner plus qu'avec un BAC+5 et c'est cool
Rémunération post-Bac + 5 : Quel est le salaire moyen ?
Ouais il y a moyen qu'un électricien créer son entreprise et s'en sorte très bien.En 2024, le salaire médian des jeunes diplômés Bac + 5 s’élève à environ 1 900 euros nets par mois. Cela représente une rémunération brute de presque 37 000 euros annuels. Cependant, il est essentiel de noter que cette moyenne peut varier en fonction de plusieurs facteurs, notamment le secteur d’activité et la réputation de l’établissement d’enseignement fréquenté. Par exemple, un diplômé d’une école de commerce de renom peut espérer un salaire beaucoup plus élevé.
Surtout qu'au bout d'un moment il peut embaucher des gens et ne plus rien foutre.
Mais ce n'est pas facile d'entreprendre en France, notamment à cause de l'administratif, des règles, des taxes, des impôts, etc.
Alerte sur le suicide des artisans et commerçants
« On est des super-sentinelles » : ils se mobilisent pour éviter les suicides de chefs d’entrepriseFait alarmant : « Pour ceux qui ont déjà fait une tentative de suicide parmi ceux qui l’avaient envisagé (soit 20 % de l’échantillon), on observe que les artisans-commerçants sont 42 % à avoir connu l’expérience d’une tentative de suicide avec hospitalisation (contre 27 % en moyenne, et 26 % en 2016). » C’est le taux le plus élevé de l’enquête qui balaie l’ensemble de la population française.
Ça fonctionne si tu créer ta boite, par contre pour trouver du boulot ça va être compliqué, parce qu'en France il y une culture des diplômes.Lancée près de Belfort après le suicide d’un patron, l’association « Casques bleus » vient au secours des chefs d’entreprise au bout du rouleau. Un soutien psychologique qui complète l’aide apportée sur les difficultés financières.
Bien souvent une entreprise préfère embaucher quelqu'un de diplômé que quelqu'un de compétent.
Ou parfois il y a quelqu'un qui bosse mieux mais qui est moins bien payé que d'autres qui ont plus de diplômes.
=======
Bref à cause de l'IA des gens vont se retrouver au chômage.
Quand il y a du chômage les entreprises peuvent proposer des salaires faibles (à cause de le peur de se retrouver au chômage les travailleurs vont l'accepter).
Même sans l'IA le chômage augmenterait, mais ça ne va pas aider.le 09/09/2025 à 14:09 -
Ryu2000InactifJe pense que c'est effectivement ça le plan, c'est pour ça que des milliardaires financent des entreprises qui font de l'IA.
Quand les gens n'auront plus de travail, ils auront moins de revenu, ils consommeront moins, donc pollueront moins.le 03/11/2025 à 15:24 -
Ryu2000InactifEt ben tant mieux !
Tout à une limite, le capitalisme va peut-être bientôt atteindre la sienne.
On ne peut pas aller vers toujours plus de consommation car les ressources sont limités.
Il ne peut pas y avoir de croissance infinie.
Par contre entre la capitalisme et le prochain système il risque d'y avoir une période très difficile.
Un peu comme les années 1920 en Allemagne.
Au bout d'un moment il faut passer par le formatage de la partition du système d’exploitation.le 04/11/2025 à 8:07