Developpez.com - Rubrique IA

Le Club des Développeurs et IT Pro

Le PDG d'OpenAI~? Sam Altman~? se dit effrayé par sa propre invention

L'IA pourrait être utilisée pour diffuser largement de fausses informations, ou encore lancer une nouvelle course à l'armement

Le 2023-03-25 04:05:17, par Sandra Coret, Communiqués de presse
Depuis qu'Oppenheimer a vu les effets effroyables de la bombe atomique qu'il a contribué à créer, les inventeurs se méfient de toute vision optimiste de ce que leurs innovations peuvent faire. Il semble que le PDG d'OpenAI, Sam Altman, ait lui aussi des doutes sur le ChatGPT, et il a récemment mentionné qu'il le craignait quelque peu dans une interview accordée à ABC News.

Ceci étant dit, il est important de noter qu'Altman a mentionné quelques domaines clés dans lesquels l'IA pourrait s'avérer problématique. Tout d'abord, M. Altman craint que des régimes autoritaires ne finissent par créer leur propre IA et ne s'empressent de l'utiliser pour diffuser de la désinformation et des fausses nouvelles à leurs propres fins néfastes.

Une société chinoise du nom de Baidu a déjà présenté un concurrent de ChatGPT, à savoir le chatbot connu sous le nom d'Ernie. Le gouvernement chinois est connu pour exercer un contrôle important sur les entreprises qui opèrent à l'intérieur de ses frontières, ce qui pourrait rendre Ernie plus dangereux.

De plus, Vladimir Poutine a également fait des commentaires effrayants sur l'IA. Selon lui, celui qui contrôlera l'IA finira par contrôler le monde, ce qui fait froid dans le dos car c'est le genre de chose qui pourrait potentiellement déclencher une nouvelle course à l'armement avec l'IA au centre de tout cela.

Enfin, M. Altman s'intéresse à l'élection présidentielle américaine de 2024, car le ChatGPT et d'autres formes d'IA pourraient avoir de nombreuses répercussions sur l'élection. Il reste à voir si l'IA jouera un rôle négatif ou non, mais ce qui est certain, c'est qu'elle jouera un rôle définitif dans un cas comme dans l'autre.

Google et Microsoft augmentent leurs investissements dans l'IA. L'IA est donc inévitable, puisqu'elle sera l'objectif principal de deux des plus grandes entreprises technologiques du monde et qu'aucune d'entre elles ne s'arrêtera avant d'être arrivée en tête.


Source : Sam Altman

Et vous ?

Qu'en pensez-vous ?
Quel est votre avis sur l'évolution actuelle de l'intelligence artificielle ?
Etes-vous inquiet des effets néfastes que pourraient générer les technologies d'IA comme ChatGPT ?

Voir aussi :

Le PDG d'OpenAI craint que les autres développeurs d'IA qui travaillent sur des outils de type ChatGPT ne mettent pas de limites de sécurité, il estime que cela pourrait créer une IA plus diabolique

GPT-4 produirait volontairement des informations erronées, beaucoup plus que GPT-3.5, selon une étude de NewsGuard, OpenAI avait pourtant déclaré le contraire

Des cybercriminels testent le chatbot ChatGPT pour créer des logiciels malveillants, et ravivent des craintes sur un futur où l'intelligence artificielle pourra surpasser l'humanité
  Discussion forum
21 commentaires
  • Jules34
    Membre expérimenté
    Envoyé par Nancy Rey
    Le PDG de OpenAI se dit "optimiste" quant à la coordination mondiale de l'IA
    en matière d'intelligence artificielle

    Le PDG du fabricant de ChatGPT, OpenAI, a déclaré qu'une tournée des capitales l'avait rendu « assez optimiste » quant aux perspectives de coordination mondiale en matière d'intelligence artificielle (IA).
    Allez les copains, plutôt que de lire l'avis des pédégés voyons ce qu'en pensent les universitaires...

    La mauvaise nouvelle, donc, c’est qu’il s’avère compliqué de connaître et de critiquer ce nouveau monde des IA, encore en devenir, et inséparable du tout numérique. La bonne nouvelle, c’est que, depuis le numéro 72 de Multitudes, où nous nous amusions du crétinisme de ce « Bourgeois numérique » qui se pâme devant les miracles des IA, la servitude volontaire de notre Monsieur Jourdain a été révélée au grand jour.

    .../...

    Pour ne pas tomber dans le piège de la béatitude, il faut donc distinguer la pensée de la computation, se défaire de la métaphore du cerveau/machine et faire preuve de lucidité, en particulier sur ce que coûtent réellement ces outils en termes environnementaux. Luc Julia, pourtant co-créateur du Siri d’Apple et vice-président innovation de Samsung, écrit par exemple, à propos de l’IA de DeepMind, filiale de Google : elle « consomme plus de 440 000 watts par heure juste pour jouer au go, alors que notre cerveau fonctionne avec seulement 20 watts par heure et peut effectuer bien d’autres tâches… La réalité est que les méthodes et algorithmes utilisés en IA sont très différents des raisonnements effectués par les humains, qui utilisent une quantité infime d’énergie et de données. À l’avenir, au lieu de continuer dans la voie du big data, il faudrait se tourner vers le small data, qui consommerait beaucoup moins d’énergie.

    Même type de gueule de bois à propos de la croyance qui octroie à l’IA la faculté de créer autant d’emplois qu’elle en détruira, selon le dogme de la « destruction créatrice » de l’économiste Joseph Schumpeter. D’un côté, il y a les chiffres de l’OCDE (Organisation de coopération et de développement économiques), qui n’en finissent pas de grimper malgré l’indécrottable prudence de l’institution : dans son rapport sur L’avenir du travail publié le 25 avril 2019, elle affirme que la robotisation devrait faire disparaître 14 % des emplois d’ici à vingt ans, la France étant « plus exposée que la moyenne, avec 16,4 % de postes menacés et 32,8 % transformés par l’automatisation. 

    « La robotisation devrait faire disparaître 14 % des emplois… » Et de l’autre côté, l’enquête sur « le travail du clic » du sociologue Antonio A. Casilli, socle de son livre En Attendant les robots, démontre qu’à supposer qu’il n’y ait pas demain de « chômage technologique », ce serait au prix d’une immense précarisation du travail, partout dans le monde via les plateformes comme Amazon Mechanical Turk : « Toutes et tous, les centaines de millions de travailleurs à la demande et de tâcherons du clic, les milliards d’usagers des plateformes de médias sociaux, nous avons ainsi devant nous une longue carrière de dresseurs d’IA.
    Plus sérieusement...

    Sevrés de l’exigence de réflexion personnelle, assistés par une cohorte de bots destinés à leur épargner le moindre effort, accompagnés jusqu’à l’âge adulte par l’incertitude de trouver une place dans la société, où les jeunes rencontreront-ils désormais les conditions de leur épanouissement civique, professionnel et personnel ?
  • kain_tn
    Expert éminent
    Envoyé par Bill Fassinou

    Quel est votre avis sur le sujet ?
    Oui, en gros, il veut juste avoir le droit d'entrer sur le marché Chinois, quoi.

    Ah, et il ne milite pas. Au mieux, il fait du buzz pour les investisseurs/actionnaires, et au pire, il essaye de freiner ses concurrents, maintenant que sa boîte a de l'avance sur les autres.
  • HaryRoseAndMac
    Membre extrêmement actif
    Il est bien naïf s'ils pensent que les chinois vont avoir un jour un éthique à propos de l'IA ...
    La seule éthique qu'ils vont avoir, c'est de trouver un moyen de mieux contrôler la population.

    Je ne suis pas contre la chine, c'est un très beau pays, mais niveau gestion humaine, c'est une véritable catastrophe, ils résolvent les problèmes en rajoutant des règles aux règles, c'est qu'il y a de pire à faire.
  • kain_tn
    Expert éminent
    Envoyé par Mathis Lucas
    Ce type rivalise avec Musk pour le titre de plus grand troll au monde?
  • TotoParis
    Membre expérimenté
    Sam Altman (le pote à Alt+Ctrl+Supr) devrait alors arrêter OpenAI...