IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Si l'humanité parvient à franchir le goulot d'étranglement que constitue la sécurité de l'AGI, on pourrait entrer dans une nouvelle ère d'épanouissement maximal de l'humanité
Selon Demis Hassabis

Le , par Jade Emy

8PARTAGES

5  0 
Selon Demis Hassabis, il est possible de construire l'intelligence artificielle générale (AGI) de manière sûre. Si on atteint l'AGI, on pourrait entrer dans une "nouvelle ère" pour l'humanité.

Demis Hassabis est un informaticien, chercheur en intelligence artificielle et entrepreneur britannique. Au début de sa carrière, il a été programmeur et concepteur d'IA de jeux vidéo et joueur expert de jeux de société. Il est directeur général et cofondateur de DeepMind et d'Isomorphic Labs et conseiller du gouvernement britannique en matière d'intelligence artificielle.

Récemment, il a déclaré que "si l'humanité parvient à franchir le goulot d'étranglement que constitue la sécurité de l'AGI, nous pourrions entrer dans une nouvelle ère d'abondance radicale, de guérison de toutes les maladies, de diffusion de la conscience dans les étoiles et d'épanouissement maximal de l'humanité."

À mesure que nous nous rapprochons de l'AGI, je pense qu'en tant que société, nous devons commencer à réfléchir aux types d'architectures qui seront construites. Je suis donc très optimiste. Bien sûr, c'est pour cela que j'ai passé toute ma vie à travailler sur l'IA et à œuvrer pour l'AGI.

Mais je pense qu'il existe de nombreuses façons de construire l'architecture de manière sûre, robuste, fiable et compréhensible. Et je pense qu'il y aura très certainement des manières de construire des architectures qui ne seront pas sûres ou risquées d'une manière ou d'une autre. Je vois donc une sorte de goulot d'étranglement que l'humanité doit franchir et qui consiste à construire des architectures sûres pour les premiers types de systèmes AGI.

Ensuite, nous pourrons assister à une floraison de nombreux types de systèmes différents qui sont peut-être détachés de ces architectures sûres et qui, idéalement, ont des garanties mathématiques ou, au moins, des garanties pratiques sur ce qu'ils font. Si nous y parvenons, je pense que nous pourrions entrer dans une nouvelle ère incroyable d'abondance radicale, de guérison de toutes les maladies, de propagation de la conscience jusqu'aux étoiles, d'épanouissement maximal de l'humanité.
Et vous ?

Pensez-vous que ces déclarations sont crédibles ou pertinentes ?
Quel est votre avis sur le sujet ?

Voir aussi :

« L'AGI est le mensonge de l'année. L'intelligence artificielle générale n'existe pas », selon un critique qui affirme que ce mensonge est raconté pour des raisons financières et politiques

Le PDG de Google DeepMind affirme que l'entreprise consacrera plus de 100 milliards de dollars au développement l'IA, et dispose d'un supercalculateur d'IA plus puissant que ceux de ses rivaux

« L'atteinte d'une forme d'intelligence artificielle de niveau humain (AGI) est possible dans une décennie », d'après le PDG de Google Deepmind, pour le développement responsable des systèmes d'IA

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de OuftiBoy
Membre averti https://www.developpez.com
Le 03/05/2024 à 3:59
C'est fou ce qui se passe en se moment. Il y a certainement quelque chose qui se trame dernière tous ça. Faire dépenser l'argent des autres, cela semble le jeu du moment. Mais qui sont les investisseurs derrière tout ceci ? Qui a les moyens d'investir de la sorte ?

Le monde s'éloigne de plus en plus de la réalité. Tous les pays sont endettés jusqu'au cou, mais qui "doit" combien et à "qui", je ne trouve pas l'info. L'économie mondial ressemble de plus en plus à un montage style système de Ponzi. Le capitalisme semble s'emballer dangereusement. Il n'est basé que sur la confiance. Si cette dernière s'écroule, c'est tout qui s'écroule. Et j'ai bien peur que cela finisse par arriver. Perso, je pense que le problème n'est pas de savoir "Si" ça va arriver, mais "Quand" cela va arriver.

Quand tout n'est plus basé que sur de la spéculation, et pas sur du concret, c'est inévitable.

Mais pour rester plus "terre à terre", quelles sont les compétences de ce Monsieur Altman ? Quel crédit donner à ses propos ? Connaît il seulement de quoi il parle ? De ce que j'ai compris, c'est juste un (très bon) vendeur. Mais même le meilleur des vendeurs ne peut pas vendre éternellement ce qui n'existe pas. Il faut avoir un sacré culot (et ego), pour se permettre de dire ce qu'il raconte. ChatGPT 4, c'est moins que rien dit-il, mais ChatGPT 5 ça sera de la balle, mais ce ne sera rien par rapport à ChatGPT 6. On peut aller loin comme ça. Je suis certains que ChatGPT 9672 se meilleur que ChatGPT 9671. Mais est-ce ça sera une AGI ? J'ai bien peur que non. Il faut être fou pour croire un seul instant que cela ne se terminera pas (très) mal.

De quoi parle-t-on ? Qui sait ne fusse que définir ce qu'est sensé être une AGI ? J'en suis incapable, mais si quelqu'un ici peut m'expliquer, je suis preneur. Mais bon, je me lance, avec mes faibles connaissance de petit humain que je suis. Si on veut accorder rien qu'un peu de crédibilité à la chose, il faut admettre qu'une AGI serait capable d'évoluer au moins au niveau d'un être humain. Quand on voit ce que l'humanité a fait, "l'AGI" ne pourra pas faire "mieux", ni "pire". Elle est juste bombardée d'informations existantes (vrai ou fausse), et tente de triturer ces "informations" pour donner réponde à une question. Je ne vois rien ressemblant à "l'intelligence humaine" (qu'on a déjà du mal a définir). L'AGI ne "pensera pas". Et Qu'est-ce que la pensée au fait ? Comment une "idée" vient-elle titiller notre "esprit" ? Pourquoi certains génies comme Einstein ont-ils "pensé" et "développé" leurs "idées/pensée" ?

Et puis, je pense que tout le monde sera d'accord pour dire que tous les "cerveaux" humains ne se valent pas. Le mien n'atteint pas la cheville, que dis-je, le bout de l'orteil, de celui des grands chercheurs des siècles passés. S'il n'y a pas deux cerveaux les même en ce bas monde, comment croire qu'une "AGI" serait "unique", "omnisciente", et capable d'avoir réponse à toute question ? Répondre correctement à des questions dont l'humanité a déjà la réponse, je ne vois pas où est le progrès ?

Le propre de l'homme, c'est son "esprit" de découverte, d'exploration, d'expérimentation, de conclusion. Et même dans ce cas, il faut admettre que l'homme ne progresse que par "tâtonnement", une "théorie" ne restant correcte et établie que jusqu'à preuve du contraire.

Si vous avez lu toute ma petite prose, il n'y a pas énormément de possibilités de conclure. Soit tous ces "devins" sont des Einsteins en culotte courte, ou des arnaqueurs "en col blanc".

Je me suis fais mon idée, chacun étant libre de choisir la sienne.

BàV et "Peace & Love"
10  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 03/05/2024 à 0:45
9  0 
Avatar de Aiekick
Membre extrêmement actif https://www.developpez.com
Le 27/05/2024 à 20:08
dans quelques années ils vont devoir reembocher massivement des dev pour combler tous les trou de securité de cette ia de merde
7  0 
Avatar de phil995511
Membre éprouvé https://www.developpez.com
Le 03/05/2024 à 17:34
On voit bien qu'il ne s'agit pas de son pognon...
6  0 
Avatar de CHAF007
Membre à l'essai https://www.developpez.com
Le 06/05/2024 à 14:37
Hâte d'être dans cinq ans pour réaliser que tout ça n'est que du flan. Mais malheureusement notre mémoire est bien courte. On ne devait pas déjà "rouler" en voitures volantes, avoir des robots à la maison et partir en vacances sur Mars ?

Évidemment que le Monsieur ponce les conférences et sort ses petites phrases pseudo prophétiques à qui veut bien les entendre. D'ailleurs il en devient relativement fatigant. En prenant le problème dans l'autre sens, étant donnée sa position, aurait-il un intérêt à ne pas tout enjoliver de la sorte ? Évidemment que lors de la ruée vers l'or, les vendeurs de pelles promettaient à quiconque qu'il y avait encore des tonnes d'or dans les sous-sols.

Quand on n'a pas grand chose à dire sur le présent, on parle du futur, ça fait vendre. Il passe de plus en plus de fondateur génial, parti de rien, à un être bien antipathique notre monsieur.
6  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 13/05/2024 à 20:54
Citation Envoyé par Ryu2000 Voir le message
Il n'y a qu'à se dire qu'il y a une histoire de polysémie et voilà le débat est clos.
On s'en moque un peu de la sémantique, non ?
Tu as d'un côté ceux qui pensent qu'effectivement ça n'a pas d'importance, et de l'autre ceux qui pensent qu'au contraire c'est un problème fondamental. J'en ai croisé quelques uns du premier bord, moi je suis du second. Je ne comprends pas qu'on puisse établir un consensus (notamment scientifique) si on ne sait pas de quoi on parle, et rechigner à définir revient à laisser chacun y aller de sa propre interprétation, ce qui pour moi ne permet justement pas de conclure puisqu'on n'a pas de base commune. Quand tu en as qui tirent des conclusions en étudiant l'intelligence d'un point de vue performance, d'autre d'un point de vue conscience, d'autres d'un point de vue renseignement (rare mais déjà vu), etc. comment veux-tu comprendre à quoi tu as affaire ? Chacun parlant d'un truc différent sans jamais préciser quoi exactement. Et après d'autres souffrent (ou profitent) de cette ambiguïté sémantique en prenant des hypothèses qui font sens pour une interprétation, mais en tirent ensuite des conclusions qu'ils appliquent à une autre interprétation, ce qui donne des raisonnements fallacieux pas toujours évidents à déceler.
5  0 
Avatar de Matthieu Vergne
Expert éminent https://www.developpez.com
Le 27/05/2024 à 22:32
IA de merde pas forcément, elle fait ce pour quoi elle a été conçue. Mais l'utilisateur, ici BP, peut en abuser. Et vu le discours tenu, il semble qu'il soit en bonne voie de le faire (l'abus). Donc oui, s'il pousse trop loin il devra réembaucher par la suite. On ne devient pas bon dans ce qu'on fait en lisant juste ce que font les autres, même les meilleurs. La pratique reste indispensable. S'il se contente de faire valider le code aux humains, même s'il garde les meilleurs, ils vont naturellement perdre en qualité (et en motivation pour d'autres raisons). Ce qu'il gagne là il le perdra par ailleurs. Et selon comment le process évolue, il peut y avoir une perte de cohérence qui rendra le code d'autant plus difficile à reprendre quand il faudra y remettre de l'humain dedans.

Maintenant, si ce qu'il dit est vrai et se passe bien, c'est que le code de BP est vraiment du code basique et inintéressant au possible. Auquel cas merci d'épargner aux dévs ce genre d'expérience.
5  0 
Avatar de pebaroiller
Membre à l'essai https://www.developpez.com
Le 28/05/2024 à 9:22
Pourquoi pas, mais pour avoir testé / utlisé copilot & co, le gain n'est pas si énorme, et surtout , on ne peut pas faire confiance à 100% à l'IA. le code généré peut sembler être bon, mais il est souvent "mal pensé", "pas optimisé", voir même peut générer des bugs avec le reste du code existant.
Après, on verra d'ici quelques années si ils arrivent à se passer de nous ou si on contraire, ils auront besoin de personne ultra-qualifiées pour débugger tout ce qui aura été "codé automatiquement" pendant plusieurs années!
5  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 06/05/2024 à 7:59
Citation Envoyé par Mathis Lucas Voir le message
Sam Altman, PDG d'OpenAI, affirme qu'il ne se soucie pas du tout des sommes colossales dépensées par son entreprise pour développer des modèles d'IA plus avancés.
Cette phrase ne devrait elle pas faire instantanément fuir tout financeur?
Il affirme qu'il est OK pour bruler de l'argent
4  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 07/05/2024 à 7:28
Citation Envoyé par OuftiBoy Voir le message
Il n'est basé que sur la confiance. Si cette dernière s'écroule, c'est tout qui s'écroule.
Je m'y connais assez mal mais n'est on pas arrivé au moment où ce n'est plus une question de confiance mais de survie, si la machine s'arrête on perd tout donc on fait tout pour qu'elle se maintienne coute que coute?
Comment peut on brasser autant d'argent sur pas grand chose de concret? Certains me reprochent de ne pas m'intéresser à la bourse mais quand on me parle d'une petite boite qui veut monter en force de frappe je comprends quand on parle de millions voir milliards d'euros tout devient instantanément vachement abstrait pour moi et me donne l'impression d'être le petit poisson qui va se faire manger par le gros.
3  0