Un jour de plus passe et nous entendons de plus en plus d'informations sur le monde de l'IA et sur les menaces énormes qu'elle représente. L'un des principaux pionniers du monde de l'IA ne reste pas silencieux sur les nouvelles menaces qui pèsent sur elle. Il affirme d'ailleurs qu'il regrette vraiment de ne pas avoir placé la sécurité en tête de liste lors de l'élaboration de ses travaux, car il s'est surtout concentré sur l'utilité de l'épreuve.Le professeur Yoshua Bengio a expliqué à la BBC qu'il se sentait vraiment perdu par rapport à son travail dans cette vie. Ses commentaires interviennent à un moment où des experts du secteur affirment que l'IA est à l'origine de l'extinction de l'humanité et qu'il ne faudra pas attendre longtemps avant de voir ce phénomène occuper le devant de la scène.
Il a également appelé à une plus grande réglementation et a espéré que certaines armées se voient accorder des pouvoirs réglementaires supplémentaires afin qu'elles puissent contrôler et équilibrer l'IA. Pour ceux qui l'ignorent, il est considéré comme le deuxième des trois parrains dans ce domaine et a été salué comme un véritable pionnier de l'IA.
Aujourd'hui, il estime qu'il est de sa responsabilité d'exprimer son message sur le sujet au monde entier avant qu'il ne soit trop tard. Après tout, l'IA continue de se développer à un rythme alarmant et il n'est pas juste de rester silencieux et d'assister à la destruction qui se déroule sous nos yeux.
Lors d'une récente interview diffusée sur la BBC, Bengio a expliqué qu'il n'avait aucune idée précise de l'orientation d'un tel projet et qu'il valait donc mieux éviter de trop réfléchir et tirer le meilleur parti de la situation dès maintenant.
Il a ajouté que ce nouveau type de travail l'orientait beaucoup et lui donnait une grande identité sur beaucoup de choses qui n'étaient pas claires. De même, il affirme qu'il s'agit d'un défi et que le secteur de l'IA est un secteur qui n'est jamais facile à traiter.
L'idée et l'objectif actuels sont de continuer à s'engager, à encourager et même à discuter avec un grand nombre de personnes afin de trouver la bonne solution. Si vous vous souvenez bien, un autre pionnier de l'IA, le Dr Geoffrey Hinton, a également lancé un tel avertissement. Il a expliqué que l'IA devait être davantage réglementée.
Source : BBC
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous que la position de M. Bengio est cohérente vue la croissance rapide actuelle des technologies d'IA ? Êtes-vous d'accord avec l'idée que l'IA constitue une menace pour l'humanité et qu'elle nécessite des pouvoirs réglementaires supplémentaires pour la contrôler et l'équilibrer ? Que pensez-vous des préoccupations soulevées par des pionniers de l'IA tels que le Pr Bengio et le Dr Hinton concernant la nécessité d'une réglementation plus stricte dans le domaine de l'IA ? Trouvez-vous qu'elles sont pertinentes ?Voir aussi
Geoffrey Hinton, une des figures de proue de l'apprentissage profond, quitte Google pour être libre de parler des dangers de l'IA dont la désinformation et l'élimination des humains par les robots La menace que l'IA fait peser sur le monde pourrait être "plus urgente" que le changement climatique, selon Geoffrey Hinton, un des pionniers de la recherche en intelligence artificielle Le plus grand risque de l'IA n'est pas la « conscience », mais les entreprises qui la contrôlent, selon la chercheuse Meredith Whittaker L'un des créateurs de ChatGPT pense que le développement des systèmes d'intelligence artificielle peut conduire à une catastrophe, une élimination des humains par les machines