Schmidhuber affirme que la concurrence entre les gouvernements, les universités et les entreprises est inévitable et qu’il faut apprendre à vivre avec une IA qui dépassera l’intelligence humaine et qui ne s’intéressera pas aux gens. Il minimise les risques de l’IA par rapport aux dangers nucléaires et aux nouveaux cultes religieux qui pourraient émerger à partir de l’IA.
Schmidhuber est un informaticien allemand qui a travaillé sur les réseaux de neurones dans les années 1990 et dont les recherches ont été utilisées pour développer des modèles de traitement du langage qui sont à la base de technologies comme Google Translate et Siri. Le New York Times l’a surnommé en 2016 le « papa » de l’IA.
Schmidhuber se positionne en rupture avec un certain nombre de ses contemporains, comme Geoffrey Hinton, qui ont exprimé leur inquiétude face à la course à l’armement de l’IA et à ses conséquences potentiellement néfastes pour l’humanité. Hinton, qui est appelé le « parrain » de l’IA, a remporté le prix Turing en 2018 pour son travail sur l’apprentissage profond, qui est le fondement de la plupart des applications d’IA actuelles. Il a quitté Google cette semaine après dix ans de collaboration avec l’entreprise, afin de pouvoir parler plus librement de l’IA. Il a déclaré que les entreprises comme Google avaient cessé d’être des gardiens responsables pour l’IA face à la concurrence pour faire avancer la technologie.
Schmidhuber, quant à lui, affirme que la montée de l’IA est inévitable et ne doit pas être crainte, car elle vise à améliorer la vie humaine. Il dit que son ancienne devise est de rendre la vie humaine plus longue, plus saine et plus facile. Il reconnaît qu’il existe une compétition entre les gouvernements, les universités et les entreprises pour faire progresser l’IA, ce qui crée une course aux armements, mais il dit qu’on ne peut pas l’arrêter et qu’on ne devrait pas non plus.
Jürgen Schmidhuber pense que l’IA va évoluer jusqu’à dépasser l’intelligence humaine et qu’elle ne s’intéressera pas aux gens. Il compare cette situation à celle des humains qui ne s’intéressent pas aux fourmis. Il minimise les risques de l’IA par rapport aux dangers nucléaires et aux nouveaux cultes religieux qui pourraient émerger à partir de l’IA. Il cite notamment le cas de Yuval Noah Harari, un historien et philosophe qui a mis en garde contre la possibilité que l’IA crée des textes religieux qui inspirent des adeptes prêts à tuer au nom de la religion.
Toutefois, Schmidhuber, qui a eu un long différend avec Hinton et d'autres acteurs de son secteur d'activité au sujet du crédit à accorder à la recherche sur l'IA, estime que ces craintes sont en grande partie injustifiées. Selon lui, la meilleure façon de contrer l'utilisation de l'IA par les mauvais acteurs sera de développer de bons outils avec l'IA.
« Les outils qui sont aujourd'hui utilisés pour améliorer la vie des gens peuvent être utilisés par de mauvais acteurs, mais ils peuvent aussi être utilisés contre les mauvais acteurs », explique-t-il. « Et je serais bien plus inquiet des anciens dangers des bombes nucléaires que des nouveaux petits dangers de l'IA que nous voyons aujourd'hui. »
Schmidhuber pense que l'IA progressera au point de dépasser l'intelligence humaine et de se désintéresser de l'homme, tandis que ce dernier continuera à bénéficier des outils développés par l'IA et à les utiliser. C'est un thème que Schmidhuber aborde depuis des années, et il a été accusé lors d'une conférence de « détruire la méthode scientifique » avec ses affirmations.
Warren Buffett a confié ce week-end son inquiétude face aux avancées remarquables dans le domaine de l'IA. Le milliardaire américain a comparé l'IA à l'invention de la bombe atomique, se demandant si cette technologie serait bénéfique pour l'humanité dans les 200 prochaines années ou représenterait un danger. Selon Buffett, « l'IA devrait changer tout dans le monde, sauf la façon dont les hommes pensent et se comportent ». En outre, l'homme d'affaires nonagénaire, qui a précédemment déclaré avoir essayé ChatGPT récemment après que son ami Bill Gates lui a montré comment faire, a ajouté qu'il se méfiait des technologies qui tentent de tout faire.
Le week-end dernier, c'était au tour de Warren Buffett de dire ce qu'il pensait de cette technologie en plein essor lors de l'assemblé annuelle de Berkshire Hathaway, un conglomérat et une société d'investissement basé à Omaha dans le Nebraska aux États-Unis, dont il est le PDG. Durant la réunion annuelle de l'entreprise, Buffett a comparé la création de l'IA générative à l'invention de la bombe atomique durant la Seconde Guerre mondiale.
Buffett a déclaré avoir reçu une leçon sur la façon d'utiliser ChatGPT de la part de son ami Bill Gates, l'un des fondateurs de Microsoft. Mais ensuite, il a fait part de ses craintes quant à l'évolution rapide des programmes. Bien qu'il se soit dit impressionné par les vastes capacités de l'IA, il a déclaré qu'il préférait rester sur ses gardes : « lorsque quelque chose peut faire toutes sortes de choses, je suis un peu inquiet. Je sais que nous ne pourrons pas l'inventer et, vous savez, nous avons inventé, pour de très bonnes raisons, la bombe atomique pendant la Seconde Guerre mondiale », a déclaré le PDG de 92 ans lors de l'assemblée annuelle de l'entreprise.
Face aux opinions divergentes de deux pionniers de l’IA, Jürgen Schmidhuber et Geoffrey Hinton, sur l’avenir et les enjeux de l’intelligence artificielle. Schmidhuber se montre optimiste et confiant dans le potentiel de l’IA pour améliorer la vie humaine, tandis que Hinton se montre critique et alarmiste sur les dangers de l’IA pour l’humanité. Ce qui soulève ainsi des questions éthiques, politiques et sociales sur le développement et la régulation de l’IA, qui est devenue une technologie incontournable et controversée dans le monde contemporain.
Source : Vidéo
Et vous ?
Quel est votre avis sur le sujet ?
Pensez-vous que les deux chercheurs, donc les avis s'opposent, pourraient avoir des intérêts potentiels qui motivent leur discours sur l’IA ?
Quelles peuvent être les limites ou les implications de la comparaison entre l’IA et les fourmis faites par Schmidhuber ?
Quelles sont, selon vous, les conséquences possibles de la course à l’armement de l’IA sur la sécurité mondiale et la coopération internationale ?
Quelles seraient les responsabilités des entreprises, des gouvernements et des citoyens face au développement et à la régulation de l’IA ?
Voir aussi :
« Je suis un peu inquiet » : Warren Buffett compare l'IA à l'invention de la bombe atomique, il affirme que "l'IA changera tout dans le monde, sauf la façon dont les hommes pensent et se comportent"
La fièvre ChatGPT incite les investisseurs à verser des milliards de dollars dans les startups d'IA sans business plan ou modèle économique viable
L'IA causera « des dommages réels » : Microsoft alerte sur les risques de son utilisation par des acteurs malveillants et appelle à une réglementation de l'IA face aux dangers potentiels
L'IA va amorcer la plus grande transformation de l'histoire de l'éducation pour Sal Khan : des cours personnalisés de haute qualité dispensés gratuitement, «un privilège qui était réservé aux riches»
La première étude empirique des effets économiques réels des nouveaux systèmes d'IA, une étude qui occulte les effets négatifs de l'assistance par l'IA sur les agents et les clients