Le PDG d'OpenAI, créateur de ChatGPT, a déclaré ce mardi 13 février que les dangers qui l'empêchent de dormir en ce qui concerne l'intelligence artificielle sont les "désalignements sociétaux très subtils" qui pourraient faire des ravages dans les systèmes.Sam Altman, qui s'exprimait par appel vidéo lors du Sommet mondial des gouvernements à Dubaï, a réitéré son appel à la création d'un organisme tel que l'Agence internationale de l'énergie atomique pour superviser l'IA, qui progresse probablement plus vite que le monde ne le prévoit.
"Il y a là-dedans des choses faciles à imaginer et où les choses tournent vraiment mal. Et je ne suis pas très intéressé par les robots tueurs qui se promènent dans les rues et qui risquent de mal tourner", a déclaré M. Altman. "Je m'intéresse beaucoup plus aux désalignements sociétaux très subtils, où nous avons simplement ces systèmes dans la société et sans mauvaise intention particulière, les choses tournent horriblement mal."
Toutefois, M. Altman a souligné que l'industrie de l'IA, comme OpenAI, ne devrait pas être aux commandes lorsqu'il s'agit d'élaborer des réglementations régissant l'industrie.
"Nous en sommes encore au stade des discussions. Tout le monde organise une conférence. Tout le monde a une idée, un document d'orientation, et c'est très bien ainsi", a déclaré M. Altman. "Je pense que nous sommes encore à une époque où le débat est nécessaire et sain, mais à un moment donné dans les prochaines années, je pense que nous devons nous diriger vers un plan d'action avec une véritable adhésion dans le monde entier."
OpenAI, une jeune entreprise d'intelligence artificielle basée à San Francisco, est l'un des leaders dans ce domaine. Microsoft a investi environ 1 milliard de dollars dans OpenAI. L'Associated Press a signé un accord avec OpenAI pour lui permettre d'accéder à ses archives d'actualités. De son côté, le New York Times a intenté un procès à OpenAI et à Microsoft pour avoir utilisé ses articles sans autorisation afin d'entraîner les chatbots d'OpenAI.
Le succès d'OpenAI a fait de M. Altman le visage public de la commercialisation rapide de l'IA générative - et des craintes que suscite cette nouvelle technologie.
Les Émirats arabes unis, fédération autocratique de sept cheikhs régis par l'hérédité, présentent des signes de ce risque. La liberté d'expression y est étroitement contrôlée. Ces restrictions affectent le flux d'informations exactes - les mêmes détails sur lesquels les programmes d'IA comme ChatGPT s'appuient en tant que systèmes d'apprentissage automatique pour fournir leurs réponses aux utilisateurs.
Les Émirats disposent également de la société G42 d'Abou Dhabi, supervisée par le puissant conseiller à la sécurité nationale du pays. Le G42 possède ce que les experts considèrent comme le meilleur modèle d'intelligence artificielle en langue arabe au monde. L'entreprise a fait l'objet d'allégations d'espionnage en raison de ses liens avec une application de téléphonie mobile identifiée comme un logiciel espion. Elle a également fait l'objet d'allégations selon lesquelles elle aurait pu recueillir secrètement du matériel génétique d'Américains pour le compte du gouvernement chinois.
Le G42 a déclaré qu'elle couperait ses liens avec les fournisseurs chinois en raison des inquiétudes des Américains. Toutefois, la discussion avec M. Altman, animée par Omar al-Olama, ministre d'État des Émirats arabes unis chargé de l'intelligence artificielle, n'a abordé aucune des préoccupations locales.
Pour sa part, M. Altman s'est dit encouragé de voir que les écoles, où les enseignants craignaient que les élèves n'utilisent l'IA pour rédiger leurs devoirs, considèrent désormais cette technologie comme cruciale pour l'avenir. Il a toutefois ajouté que l'IA n'en était encore qu'à ses balbutiements.
"Je pense que la raison en est que la technologie dont nous disposons actuellement est comparable au tout premier téléphone portable dont l'écran était en noir et blanc", a déclaré M. Altman. "Il faut donc nous laisser un peu de temps. Mais je pense que dans quelques années, la technologie sera bien meilleure qu'aujourd'hui. Et dans une décennie, ce sera tout à fait remarquable".
Source : Sam Altman, lors du Sommet mondial des gouvernements à Dubaï
Et vous ?
Quel est votre avis sur le sujet ? Trouvez-vous que les craintes soulevées par M. Altman sont justifiées ou pertinentes ?Voir aussi :
Le PDG d'OpenAI, Sam Altman, déclare au Congrès américain qu'il craint que l'IA ne soit "nuisible" au monde, il ajoute qu'une réglementation de l'IA est urgente afin d'éviter une catastrophe Le PDG d'OpenAI, Sam Altman, se dit effrayé par sa propre invention, l'IA pourrait être utilisée pour diffuser largement de fausses informations, ou encore lancer une nouvelle course à l'armement Le PDG d'OpenAI craint que les autres développeurs d'IA qui travaillent sur des outils de type ChatGPT ne mettent pas de limites de sécurité, il estime que cela pourrait créer une IA plus diabolique 
Envoyé par HaryRoseAndMac
