IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Elon Musk et un groupe d'experts en IA demandent à tous les laboratoires d'IA d'interrompre la formation de systèmes d'IA plus puissants que le GPT-4
Citant des risques pour la société

Le , par Nancy Rey

17PARTAGES

6  0 
Dans une lettre ouverte, Elon Musk et un groupe d'experts en intelligence artificielle et de dirigeants de l'industrie demandent une pause de six mois dans le développement de systèmes plus puissants que le GPT-4 récemment lancé par OpenAI, en invoquant les risques potentiels pour la société et l'humanité.


Au début du mois, OpenAI, soutenue par Microsoft, a dévoilé la quatrième itération de son programme d'IA GPT (Generative Pre-trained Transformer), qui a séduit les utilisateurs par sa vaste gamme d'applications, allant de l'engagement des utilisateurs dans une conversation de type humain à la composition de chansons et au résumé de longs documents.

La lettre, publiée par l'organisation à but non lucratif Future of Life Institute et signée par plus de 1 000 personnes, dont Musk, appelle à une pause dans le développement de l'IA avancée jusqu'à ce que des protocoles de sécurité partagés pour de telles conceptions soient élaborés, mis en œuvre et contrôlés par des experts indépendants.

« Des systèmes d'IA puissants ne devraient être développés qu'une fois que nous sommes certains que leurs effets seront positifs et que leurs risques seront gérables », peut-on lire dans la lettre.

La lettre détaille les risques potentiels pour la société et la civilisation que représentent les systèmes d'IA compétitifs pour les humains, sous la forme de perturbations économiques et politiques, et appelle les développeurs à travailler avec les décideurs politiques sur la gouvernance et les autorités de régulation.

Parmi les cosignataires figurent Emad Mostaque, PDG de Stability AI, des chercheurs de DeepMind, propriété d'Alphabet (GOOGL.O), et des poids lourds de l'IA, Yoshua Bengio, souvent considéré comme l'un des "parrains de l'IA", et Stuart Russell, pionnier de la recherche dans ce domaine.

Selon le registre de transparence de l'Union européenne, Future of Life Institute est principalement financé par la Musk Foundation, ainsi que par le groupe Founders Pledge, basé à Londres, et la Silicon Valley Community Foundation.

Ces inquiétudes surviennent alors qu'Europol, la police de l'Union européenne, s'est jointe lundi 27 mars 2023 à un concert de préoccupations éthiques et juridiques concernant l'IA avancée telle que ChatGPT, mettant en garde contre l'utilisation abusive potentielle du système dans des tentatives de phishing, de désinformation et de cybercriminalité.

Dans le même temps, le gouvernement britannique a dévoilé des propositions pour un cadre réglementaire adaptable autour de l'IA
. L'approche du gouvernement, décrite dans un document d'orientation publié il y a peu, répartirait la responsabilité de la gestion de l'intelligence artificielle entre les organismes de réglementation des droits de l'Homme, de la santé et de la sécurité, et de la concurrence, plutôt que de créer un nouvel organisme dédié à la technologie.

Les systèmes d'IA dotés d'une intelligence compétitive avec celle de l'Homme peuvent présenter des risques profonds pour la société et l'humanité, comme le montrent des recherches approfondies et comme le reconnaissent les principaux laboratoires d'IA. Comme l'indiquent les principes d'IA d'Asilomar, largement approuvés, l'IA avancée pourrait représenter un changement profond dans l'histoire de la vie sur Terre, et devrait être planifiée et gérée avec l'attention et les ressources nécessaires. Malheureusement, ce niveau de planification et de gestion n'existe pas, même si les derniers mois ont vu les laboratoires d'IA s'enfermer dans une course incontrôlée pour développer et déployer des esprits numériques toujours plus puissants que personne - pas même leurs créateurs - ne peut comprendre, prédire ou contrôler de manière fiable.

Les systèmes d'IA contemporains deviennent aujourd'hui compétitifs pour les tâches générales, et nous devons nous poser la question : Devons-nous laisser les machines inonder nos canaux d'information de propagande et de mensonges ? Devrions-nous automatiser tous les emplois, y compris ceux qui sont gratifiants ? Devons-nous développer des esprits non humains qui pourraient un jour être plus nombreux, plus intelligents, plus obsolètes et nous remplacer ? Devons-nous risquer de perdre le contrôle de notre civilisation ? Ces décisions ne doivent pas être déléguées à des leaders technologiques non élus. Les systèmes d'IA puissants ne doivent être développés que lorsque nous sommes convaincus que leurs effets seront positifs et que leurs risques seront gérables. Cette confiance doit être bien justifiée et augmenter avec l'ampleur des effets potentiels d'un système. La récente déclaration de l'OpenAI concernant l'intelligence artificielle générale indique qu'"à un moment donné, il pourrait être important d'obtenir un examen indépendant avant de commencer à former les futurs systèmes, et pour les efforts les plus avancés d'accepter de limiter le taux de croissance du calcul utilisé pour créer de nouveaux modèles". Nous sommes d'accord. C'est maintenant qu'il faut agir.

C'est pourquoi nous demandons à tous les laboratoires d'IA d'interrompre immédiatement, pendant au moins six mois, la formation de systèmes d'IA plus puissants que le GPT-4. Cette pause devrait être publique et vérifiable, et inclure tous les acteurs clés. Si une telle pause ne peut être mise en place rapidement, les gouvernements devraient intervenir et instituer un moratoire.

Les laboratoires d'IA et les experts indépendants devraient profiter de cette pause pour élaborer et mettre en œuvre conjointement un ensemble de protocoles de sécurité communs pour la conception et le développement de l'IA avancée, rigoureusement contrôlés et supervisés par des experts externes indépendants. Ces protocoles devraient garantir que les systèmes qui y adhèrent sont sûrs au-delà de tout doute raisonnable, ce qui ne signifie pas une pause dans le développement de l'IA en général, mais simplement un recul par rapport à la course dangereuse vers des modèles de boîte noire toujours plus grands et imprévisibles, dotés de capacités émergentes.

La recherche et le développement dans le domaine de l'IA devraient être recentrés sur l'amélioration de la précision, de la sécurité, de l'interprétabilité, de la transparence, de la robustesse, de l'alignement, de la fiabilité et de la loyauté des systèmes puissants et modernes d'aujourd'hui.

Parallèlement, les développeurs d'IA doivent collaborer avec les décideurs politiques pour accélérer considérablement le développement de systèmes robustes de gouvernance de l'IA. Ceux-ci devraient au minimum inclure : de nouvelles autorités réglementaires compétentes dédiées à l'IA ; la surveillance et le suivi des systèmes d'IA hautement performants et des grands pools de capacité de calcul ; des systèmes de provenance et de filigrane pour aider à distinguer le réel du synthétique et pour suivre les fuites de modèles ; un écosystème robuste d'audit et de certification ; la responsabilité pour les dommages causés par l'IA ; un financement public robuste pour la recherche technique sur la sécurité de l'IA ; et des institutions dotées de ressources suffisantes pour faire face aux perturbations économiques et politiques dramatiques (en particulier pour la démocratie) que l'IA provoquera.

L'humanité peut jouir d'un avenir florissant grâce à l'IA. Ayant réussi à créer des systèmes d'IA puissants, nous pouvons maintenant profiter d'un "été de l'IA" au cours duquel nous récolterons les fruits de nos efforts, concevrons ces systèmes pour le plus grand bénéfice de tous et donnerons à la société une chance de s'adapter. La société a mis en pause d'autres technologies aux effets potentiellement catastrophiques pour elle, et nous pouvons faire de même ici. Profitons d'un long été de l'IA et ne nous précipitons pas sans préparation vers l'automne.
Source : Lettre ouverte

Et vous ?

Quel est votre avis sur le sujet ?
À votre avis, les craintes de voir les robots surpasser les humains en intelligence sont-elles plus sensationnalistes qu’autre chose ?

Voir aussi :

Les IA inamicales constituent-elles le plus grand risque pour l'humanité ? Oui, d'après le créateur d'Ethereum qui s'attend à une future catastrophe, causée par l'intelligence artificielle générale

« Le développement de l'IA sans réglementation induit une menace existentielle pour l'humanité », d'après Elon Musk, dont une société développe des puces à insérer dans le cerveau pour contrer l'IA

Un chercheur de Google Deepmind cosigne un article selon lequel l'IA éliminera l'humanité et ravive les débats sur la possibilité d'un futur où la machine domine sur l'Homme

L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de totozor
Expert confirmé https://www.developpez.com
Le 05/04/2023 à 12:58
Citation Envoyé par OrthodoxWindows Voir le message
Oulà ! C'est graaaaaaave !!
On va tous mourrrriiiiiiiirrrrrrr !!!!!!!
On vit vraiment à l'époque de la panique pour des broutilles, pendant que la démocratie recule partout dans le monde .
Surtout qu'au pire on ampire le problème mais pas grand chose de nouveau sous le soleil.

Je viens de vivre une expérience interressante : un expert nous a fait une présentation sur un sujet dont nous étions au minimum bon connaisseurs.
Il nous invite à poser toutes les questions et à faire toutes les remarques en direct et nous demande régulièrement de valider ce qui vient d'être présenté pour "vérifier qu'on suit".
On est pas d'accord avec tout mais pas de grande révoilution jusqu'à ce qu'au bout de 25 minutes il nous sort une conclusion qui nous semble fausse sans trouver la faille dans la présentation.
Il nous annonce enfin qu'il a fait toute la présentation avec ChatGPT et nous propose de souligner chaque erreur : On est impressionné par le nombre d'erreur (toutes minimes faites), notamment du fait qu'on est passé à coté de la moitié environ.
Il nous explique alors comment il nous a enfumé :
1. Les erreurs sont minimes donc il est compliqué de toutes les voir.
2. Comme c'est un présentation il passait vite sur les imprécisions pour ne pas nous laisser trop de temps d'y réfléchir
3. Comme on validait régulièrement ce qui avait été dit on "efface" le raisonnement pour ne retenir que le résultat (qui devient plus compliqué de remettre en cause parce qu'on se contredirait)
4. Certaines étapes ont été challengées mais je fait d'en discuter et de valider collectivement le résultat écrit permet de recentrer tout le monde sur la "vérité" et de résigner les contradicteurs.

Conclusion : un mec avec du bagout et chatGPT est capable de pousser un groupe d'une dizaine de connaisseurs à remettre en cause leur connaissance. Mais il arrive une limite ou le groupe sait qu'on est en train de le rouler dans la farine sans réussir facilement à trouver le "piège".
La ou ça ne m'inquiète pas tant que ça c'est que si on nous avait laissé prendre plus de recul (temps) on aurait réussi à demonter le raisonnement.
9  0 
Avatar de Nym4x
Membre confirmé https://www.developpez.com
Le 05/04/2023 à 12:51
on nous a cassé les burnes pendant des années sur le droit d'auteur avec napster, kazaa et compagnie à coup de grande campagne de communication. Mais là quand il s'agit de piller internet afin de faire du profit tout en menaçant des emplois on a aucun politique pour crier à la piraterie...
7  1 
Avatar de PomFritz
Membre confirmé https://www.developpez.com
Le 29/03/2023 à 21:48
Ils ont raison. Je parle des experts, pas de la starlette du troll. Qu'il s'occupe déjà de sa boîte à trolls, de son buisness bancal d'implants cérébraux, du bordel qu'il sème dans l'espace et de ses bagnoles qui seront bientôt aussi réparables que du matériel Apple. Niveau pétitions, j'en ai un paquet en tête. Trop de politiques et pas assez d'experts.
3  0 
Avatar de mood8moody
Membre régulier https://www.developpez.com
Le 31/03/2023 à 0:01
Comme d'habitude les seules qui vont signer et bloquer la recherche seront les européens pendant que les usa et les chinois continuront leur course. je ne dis pas que c'est bien mais c'est la realité dans beaucoup de domaine.

De plus Musk est loin d'être tout blanc comme il a foiré avec OpenAI qu'il avait sous la main à l'epoque, il se donne éthique qu'il a beaucoup moins sur d'autres sujet.

Arreté l'IA maintenant c'est comme empeché le developpement du web à l'epoque. Malheureusement c'est trop tard les technos sont des plus en plus accessibles et des boites privés pourront s'y mettre avec ou sans les gros du domaine, je ne parle même pas des états.
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 01/06/2023 à 16:29
Citation Envoyé par Bill Fassinou Voir le message
Les récentes avancées dans le domaine des grands modèles de langage (LLM) (le type de système d'IA utilisé par le chatbot ChatGPT et d'autres agents conversationnels) ont fait craindre que l'IA ne soit bientôt utilisée à grande échelle pour diffuser des informations erronées et de la propagande, ou qu'elle ne supprime des millions d'emplois de cols blancs, des avocats, des scénaristes, et bien plus encore.
ChatGPT est un outils de propagande, il est orienté politiquement.
Il est progressiste (ou woke comme ils se définissent maintenant)

The nine shocking replies that highlight 'woke' ChatGPT's inherent bias — including struggling to define a woman, praising Democrats but not Republicans and saying nukes are less dangerous than racism

Par contre je pense qu'il est possible qu'un avocat commis d'office qui sait utiliser les outils, sera plus efficace qu'un avocat cher qui n'utilise pas l'IA.
Pour les scénaristes ça va être du niveau de certaines productions Disney/Netflix.

Aucune IA ne va écrire des dialogues dignes de Michel Audiard.

====
Il parait que le robot «Tay» de Microsoft était plus marrant que ChatGPT.
4  1 
Avatar de Karadoc
Membre actif https://www.developpez.com
Le 30/03/2023 à 10:37
Moi je voyais plutôt "Un groupe d'IA et d'autres appellent à une pause d'Elon Musk", mais bon...

Il faut arrêter avec l'utilisation du mot "IA", ça reste des réseaux neuronaux très entraînés, ça n'a rien d'intelligent. Et la problématique de ne pas vraiment savoir comment ils traitent et organisent les données est un problème bien plus crucial lorsqu'on laisse ces réseaux neuronaux prendre le contrôle d'une voiture... mais ça, ça ne semble pas déranger Musk pour le coup, l'ironie est bien ironique...

En fait, ce qui pose surtout souci, c'est la création de documents (images, vidéos...) qui remettent en question notre façon de nous fier à l'information qu'on reçoit. Personnellement, je pense que c'est un faux problème, et que c'est même probablement une solution :
- C'est un faux problème parce que les fake news n'ont pas besoin de documents pour prouver quoi que ce soit. On l'a bien vu pendant le Covid et/ou avec les affirmations de Trump : le complotisme se fiche de preuves pour essaimer.
- C'est aussi un faux problème parce qu'on a déjà connu de tels bouleversements par le passé. Typiquement, fut un temps où un document imprimé suffisait comme garantie d'un papier (je pense aux premiers chèques au porteur). Puis c'est devenu insuffisant. Idem, pendant longtemps une photocopie couleur était la preuve de la licéité d'un document. L'arrivée des scanners+imprimantes couleur de haute qualité associé à de la retouche d'image même simple a profondément changé la donne. Au final, on trouve d'autres façons de juger de la fiabilité d'un document ou d'un témoignage.
- C'est un début de solution parce que ça va peut-être (je suis un rien naïf, je sais :/) obliger les gens à se poser la question de la légitimité des sources et de la fabrique de la réalité. J'y vois aussi au moins un avantage : si on peut fabriquer un faux nude d'une personne, c'est la fin de tout un pan du harcèlement, puisqu'on pourra toujours objecter que c'est un faux (même si c'est un vrai).

Là, ce qui gêne ces gens, c'est essentiellement deux choses, à mon avis :
- Certains se rendent compte qu'ils se font rattraper sur des technologies qu'ils n'ont pas vu venir
- Certains se rendent compte qu'ils se font rattraper sur des technologies sur lesquelles ils avaient une énorme avance (coucou Musk et son pilotage automatique)
- Certains se rendent compte que ça pose de gros soucis en terme de monétisation de l'existant et des jeux de données sur lesquels se basent les réseaux neuronaux. Création artistique, corpus textuels, échanges, photos... mais pas uniquement : si GPT-3 est si fort pour proposer des scripts dans beaucoup de langages, c'est qu'auparavant des humains ont alimenté Stack Overflow en solutions, on écrit du code accessible sur GitHub et j'en passe. Si, demain, on crée le langage I (sérieusement, toutes les autres lettres ont été prises pour donner des noms à des langages de programmation x_x), je doute que GPT sache proposer des scripts pertinents tant qu'il n'y aura pas eu un corpus suffisant à analyser.

Le souci est moins le fait d'avoir des réseaux neuronaux performants que de voir les choix qui seront faits pour leurs usages et en se basant sur quels jeux de données. Et, plus que tout, il va falloir se poser la question de l'impact énergétique de ces outils.
2  0 
Avatar de archqt
Membre émérite https://www.developpez.com
Le 03/04/2023 à 8:27
J'ai vu un documentaire sur une IA nommée Skynet, à mon avis ils ont du le voir aussi, cela devrait aider je pense
3  1 
Avatar de dranduncandane
Membre du Club https://www.developpez.com
Le 06/06/2023 à 4:25
Ce genre d'initiative sont de campagnes de communication. Le but est de faire croire que "on est responsable" et "nos outils sont tellement puissant qu'on doit réglementer". Réglementer selon les désirs des GAFAM qui, bien sur, sont en avance. Et la réglementation, comme d'habitude, va assoir leur position plus que contrer quoi que ce soit. Au final, qu'est ce que vraiment une IA et comment la réglementer. si la réglementation est trop lourde vous allez voir tout le onde se retourner et dire que finalement ChatGPT c'est pas vraiment une IA mais un gros algorithme bête. Ce que c'est aussi.
2  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 14/09/2023 à 17:09
Citation Envoyé par Mathis Lucas Voir le message

Que pensez-vous des déclarations d'Elon Musk ? Les risques qu'il évoque sont-ils exagérés ?
C'est marrant, de la part d'un bonhomme qui expérimente ses IA en beta depuis des années sur les routes! Ce type est un troll de génie!

Citation Envoyé par Mathis Lucas Voir le message

Que pensez-vous des propos de Bill Gates ? En quoi l'IA peut-elle aider à éradiquer la faim dans le monde ?
Oui, vendre de l'IA à toutes les sauces aidera certainement la faim (et la soif) insatiable de Bill Gates et de ses petits copains ultra-fortunés.

Non, sans rire, qui y croit?
2  0 
Avatar de d_d_v
Membre éprouvé https://www.developpez.com
Le 30/03/2023 à 18:44
Pour la désinformation, on a déjà O. Véran, B. Le Maire, les médias mainstream, et ça ne choque personne.
1  0