IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Bill Gates prévient que l'intelligence artificielle est susceptible d'attaquer les humains
Et ravive les craintes sur une possible future apocalypse résultant de la création de l'IA

Le , par Patrick Ruiz

12PARTAGES

9  0 
Lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Bill Gates vient de publier une lettre de 7 pages dans laquelle il souligne que l’IA est utile sans toutefois manquer d’indiquer qu’elle est susceptible d’attaquer les humains dans le futur. Sa sortie ravive les craintes sur une possible apocalypse résultant de la création de l’intelligence artificielle.

« Certaines préoccupations en matière d’intelligence artificielle ne sont pas simplement techniques. Par exemple, il y a la menace posée par les humains armés d'IA. Comme la plupart des inventions, l'intelligence artificielle peut être utilisée à des fins bénéfiques ou maléfiques. Les gouvernements doivent travailler avec le secteur privé sur les moyens de limiter les risques.

Il y a aussi la possibilité que les IA deviennent incontrôlables. Une machine pourrait-elle décider que les humains constituent une menace, conclure que ses intérêts sont différents des nôtres ou simplement cesser de se préoccuper de nous ? C'est possible, mais ce problème n'est pas plus urgent aujourd'hui qu'il ne l'était avant les développements de l'IA de ces derniers mois », souligne-t-il.

C’est une sortie qui rejoint celle de Michael Osborne et Michael Cohen de l’université d’Oxford : « « L’intelligence artificielle est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer. »

Ces différentes sorties font référence à un stade de leur évolution où les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent. Le professeur Osborne fait une prédiction à ce sujet : « Il y a toutes les raisons de s'attendre à ce que, même ce siècle, nous puissions voir une IA qui soit au moins aussi capable que les êtres humains et très probablement plus capable que tout être humain aujourd'hui. »


Google par exemple est lancé en secret sur le développement de Pitchfork ou AI Developer Assistance. C’est un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation et en appliquant ces connaissances pour écrire de nouvelles lignes de code.

L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs. Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour.

Un tel objectif pourrait ne plus relever de la science fiction en cas d’atteinte du stade d’intelligence artificielle générale. Le tableau viendrait alors raviver la possibilité pour l’humanité d’entrer dans une ère de domination par les machines comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.

C’est d’ailleurs la raison pour laquelle Elon Musk travaille sur un projet visant à fusionner un cerveau humain et un ordinateur afin de permettre aux Hommes de rivaliser avec l’intelligence artificielle. Le « Neural Lace » est une interface cerveau-ordinateur permettant de relier le cerveau humain à des ordinateurs sans avoir besoin de connexion physique. Cette technologie donnerait aux humains la possibilité de fusionner avec l’intelligence artificielle et d’améliorer ainsi leur mémoire et leurs facultés cognitives. Cette puce issue de sa société Neuralink peut diffuser de la musique directement au cerveau. C’est l’une des applications de cette interface cerveau-ordinateur à côté d’autres comme la possibilité de guérir la dépression et la dépendance.

Elon Musk est d’avis que seule la mise sur pied d’une interface cerveau-ordinateur peut permettre à l’Homme de subsister. Son initiative vise une sorte de symbiose avec l'intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer. Grosso modo, dans les laboratoires de la société d’Elon Musk, on est au « service de l’humanité. » Le projet ne manque néanmoins pas d’être terrifiant puisque la puce est à insérer dans le crâne ; ce qui serait selon certaines interprétations la marque de la bête référence faite à Apocalypse 13:17 dans la Bible : « La deuxième bête d’Apocalypse 13 fait en sorte que “tous, petits et grands, riches et pauvres, libres et esclaves, reçoivent une marque sur leur main droite ou sur leur front, et que personne ne puisse acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom. »

L’on peut cependant considérer que la réception d’une marque sur la main ou sur le front peut se comprendre au sens figuré. Apocalypse 7:3 fait mention de ce que les serviteurs de Dieu seront marqués d’un sceau sur leur front. Dans Deutéronome 6, Moïse dit au peuple de Dieu d’observer « toutes ses lois et tous ses commandements », en précisant : « Tu les lieras comme un signe sur tes mains et ils seront comme des fronteaux entre tes yeux. » (Deutéronome 6:2 ; Deutéronome 6:8) La main et le front représentent ici les actions et les pensées qui, pour chacun, devraient être consacrées à obéir à Dieu.

De même, la marque de la bête, quant à elle, représente une marque de désobéissance à Dieu ; des textes et interprétations qu’il ne ferait pas sens de mentionner sans rappeler Deutéronome 30:19 : « J'en prends aujourd'hui à témoin contre vous le ciel et la terre : j'ai mis devant toi la vie et la mort, la bénédiction et la malédiction. Choisis la vie, afin que tu vives, toi et ta descendance. » Le fameux libre arbitre sur lequel l’Homme est appelé à s’appuyer depuis toujours.



Et vous ?

Quelle pertinence trouvez-vous aux différents à ces prédictions en lien avec l’atteinte du stade d’intelligence artificielle générale ? Sont-ils plus sensationnalistes qu’autre chose ?
Est-il impossible que la recherche en la matière aboutisse à l’intelligence artificielle générale ?

Voir aussi :

Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC, et l'Homme fusionne avec l'IA, aberration ou fiction ?
Neuralink d'Elon Musk annonce que l'interface cerveau - ordinateur est prête pour des tests sur les humains, et entend procéder aux premiers en 2020
L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité
Neuralink d'Elon Musk, la discrète firme qui travaille sur des ordinateurs à implanter dans le cerveau, lève le voile sur le secret, sous peu
Il n'aura fallu que 10 minutes pour trouver des failles dans le chapelet « intelligent » lancé par le Pape, pour inviter les fidèles à la prière partout dans le monde

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 14/08/2023 à 10:58
A part que n'importe quel crétin disposant de l'accès à internet aurait réussi aussi bien !!!!

C'est d'autant plus simple à réussir que l'on privilégie aujourd'hui les examens sous forme de QCM (questionnaire à choix multiples: On te pose la question et on te donne 4 réponses à choix... C'est plus facile et plus rapide à corriger )

La seule réaction qu'entraîne cette n-ième publicité pour ChatGPT chez moi est une série de questions:

1. Quel est le but recherché de cette campagne de promotion mondiale pour l'IA?

2. Qui est à la manœuvre et quels sont les objectifs réels de ces "promoteurs"?

Parce que personne ne se fasse d'illusions, une promotion au niveau mondial, cela coûte et je connais peu de "promoteurs du numérique" dont l'objectif est la promotion désintéressée de l’éthique, de la morale et du bien-être de l'humanité
5  0 
Avatar de SimonKenoby
Membre confirmé https://www.developpez.com
Le 28/03/2023 à 8:48
Je ne suis pas d'accord avec ça. Si elle est plus intéligente que les humains, elle n'aura aucune raison d'agir de manière complètement stupide comme nous le faisons. Si nous sommes une menace pour elle, elle pourra nous neutraliser sans avoir a nous exterminer. Ou même migrer vers une autre planète vu qu'elle n'a aucune limitation biologique. Ce qui m'inquiète personnellement c'est pas d'avoir un intéligence artificielle plus intéligente que nous, mais plutôt d'avoir une IA du niveau de Trump.
3  0 
Avatar de davyka
Futur Membre du Club https://www.developpez.com
Le 19/12/2023 à 21:54
Qui peut croire que tout le monde aura sa chance, et que ce sera l'objectif de l'IA.. d'être l'instrument et non la finalité ?
3  0 
Avatar de thejoker31
Membre à l'essai https://www.developpez.com
Le 10/09/2024 à 15:04
Citation Envoyé par HaryRoseAndMac Voir le message
Ben ... tu sais moi je viens de Sarcelle, typique d'une famille pauvre, et ça ne m'a pas empêché de faire l'école des mines.
Donc cet argument navré mais il ne vaut rien à part faire pleurer dans les chaumières.

Quant aux parents qui demandent à leurs gosses de bosser pour eux, (ce qui m'est arrivé), moi, j'appelle ça des parents irresponsables.
Mais dans tout les cas, en France, les études sont gratuites, et même quand elles ne le sont pas, tu peux très bien cumuler un job + des études.

D'ailleurs la majorité de mes salariés, sont des gens qui ont repris des études après 30 ans, sur un parcours en bac + 5 (alternances), alors eux, ils sont encore pire que d'être né dans une famille pauvre, car ils ont une vie de famille à assumer + les impôts + les charges + ... et pourtant, ils le font, ils sortent de là avec RNCP bac + 5.

Etudes et statut social, n'a aucun rapport, ça c'est du bidonnage total de gens d'extrême gauche qui ne connaissent rien de la vie et dont la très grande majorité font justement parti de ces fameux gosses de riches.

La réalité est celle que j'ai évoqué dans l'autre message : l'environnement familial, c'est lui qui fait dans la majorité des cas que la personne va ou non faire des études et l'environnement familial en réalité n'est pas en corrélation avec le "statut social", dixit la richesse de la famille.

Un enfant qui n'est pas soutenu, riche ou pas, est un enfant qui n'aura pas confiance en lui et ne se donnera pas les moyens, de faire des études ou quoi que ce soit d'autres.
tu es plus facilement soutenu quand les parents ont le temps, la disponibilité d'esprit
la profession la plus représentée en France est technicien de surface.. autrement dit des mères isolées qui bossent le matin et le soir quand leurs enfants ont besoin de soutien.
1  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 11/09/2024 à 8:05
Citation Envoyé par Mathis Lucas Voir le message
Bill Gates, qui pourrait s'offrir une armée privée de chercheurs, affirme qu'il utilise ChatGPT pour faire des recherches et qu'il s'agit d'une aide précieuse pour l'écriture
Il y a un moment il faut partir à la retraite et arrêter de parler publiquement.
Le manque de recul sur une technologie de son domaine en est un signe majeur.
Rendez service à l'humanité M. Gates partez en retraite.
Cependant, la formation des systèmes d'IA et la recherche basée sur l'IA consomment énormément d'énergie, ce qui contraste avec les ambitions du milliardaire en matière de lutte contre le changement climatique.
Une personne se forme avec une IA et la première préoccupation des gens c'est l'énergie consommée?
C'est pas les hallucinations?
C'est à dire que l'information est peut être mauvaise - alors qu'elle va servir de base à l'ayatollah de l'écologie, mais ce qui nous tracasse c'est l'impact carbone?
Le monde marche sur la tête

Bill Gates : ChatGPT est un excellent outil de recherche et d'aide à l'écriture

Bill Gates est défenseur des dernières avancées majeures dans le domaine de l'IA. Il pense notamment que l'IA va transformer de façon radicale les emplois, l'éducation et la santé, en remplaçant les humains ou en leur servant d'outil. L'été dernier, il a déclaré avoir été impressionné par ChatGPT lorsque le chatbot développé par OpenAI a réussi l'examen AP Biology. Dans le cadre d'une récente interview avec The Verge, Bill Gates a révélé comment et pour quelle chose il utilise le plus l'IA. Il a déclaré que ChatGPT est un excellent moyen d'obtenir rapidement des explications sur des questions spécifiques.
« Vous savez, je me renseigne souvent sur des sujets, et ChatGPT est un excellent moyen d'obtenir des explications sur des questions spécifiques. J'écris souvent des choses, et c'est une aide précieuse pour l'écriture », a déclaré Bill Gates. Toutefois, certains critiques trouvent bizarre le fait qu'une personne comme Bill Gates dise utiliser ChatGPT pour s'informer sur des sujets étant donné la propension du chatbot d'OpenAI à cracher des inexactitudes factuelles.
Sa phrase n'a pas de structure logique il passe du coq à l'âne sans que ça ne choque personne?
Ce monsieur me semble incapable de mener un raisonnement structuré mais on écoute son avis...
Toutefois, il a semblé minimiser l'impact de l'IA sur la désinformation. Plus précisément, le milliardaire ne pense pas que l'IA pourrait contribuer à exacerber le problème de la désinformation en ligne. Sa position contraste avec de nombreux rapports récents qui traitent de la question.
Il a surement demandé son avis à ChatGPT.
Si j'étais Sam Altman j'aurais développé un profil spécifique de chatGPT pour Gates histoire de maximiser les profits...
Citation Envoyé par eric44000 Voir le message
Je prends par exemple le designer star français Philippe Starck qui a utilisé l'IA pour concevoir une chaise qui utilise le moins de matière et le moins d'énergie pour sa fabrication. Non seulement l'IA innove mais est également soucieuse de l'environnement !
Elle n'a pas innové, elle a répondu à un cahier des charges en optimisant certains paramètres.
A quoi ressemble cette chaise? A une chaise Ikea avec des demis accoudoirs. A ceci pret qu'elle coute plus de 10 fois le prix d'une chaise Ikea pour 0 effort de conception s'il dit vrai. C'est beau le marketing.
Encore une fois, c'est bilou qui a raison. On peut demander à l'IA de vérifier la véracité d'un texte phrase par phrase. Dans ce cas il ne peut y avoir d'hallucination.
Mais si le raisonnement ne tient pas la route on a vérifié les faits mais pas leurs liens.
Et donc j'ai posé la question à chatGPT :
"bonjour quelle phrase peut te pieger?"
"Bonjour ! En théorie, il y a plusieurs types de phrases qui pourraient poser des défis pour un modèle comme moi, surtout celles qui jouent sur les ambiguïtés, les paradoxes ou les contextes très spécifiques. Par exemple : [...]"
Il reconnait lui même pouvoir être piégé.
Là j'en doute. La source d'énergie est le soleil et la lune. Toutes les autres en découlent: biomasse, vent, marée... J'exclus la géothermie et le nucléaire qui ne sont pas une source mais une quantité stockée. L'IA ne peut pas en trouver d'autres.
Ah?
La force de gravité (ou plutot l'énergie potentielle gravitationnelle), l'énergie cinétique, on doit pouvoir en trouver dans la chimie aussi
Et des applications existent, je vais me limiter aux moulins sur les cours d'eau.
Je doutes malgré tout qu'on en découvre, par contre je ne serais pas étonné qu'on arrive à rendre efficace certaines qui ne l'étaient pas. Ou les appliquer à des pratiques locales spécifiques qui les rendent pertinentes.
1  0 
Avatar de TotoParis
Membre expérimenté https://www.developpez.com
Le 01/04/2023 à 14:03
Citation Envoyé par SimonKenoby Voir le message
Je ne suis pas d'accord avec ça. Si elle est plus intéligente que les humains, elle n'aura aucune raison d'agir de manière complètement stupide comme nous le faisons. Si nous sommes une menace pour elle, elle pourra nous neutraliser sans avoir a nous exterminer. Ou même migrer vers une autre planète vu qu'elle n'a aucune limitation biologique. Ce qui m'inquiète personnellement c'est pas d'avoir un intéligence artificielle plus intéligente que nous, mais plutôt d'avoir une IA du niveau de Trump.
Mec, tu devrais activer ton correcteur orthographique, ou bien retourner à l'école primaire, ça pique les yeux...
1  1 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 14/08/2023 à 18:13
Citation Envoyé par Anselme45 Voir le message
...
Merci. Je n'aurais pas pu dire mieux.
0  0 
Avatar de eric44000
Membre averti https://www.developpez.com
Le 10/09/2024 à 15:43
Partagez-vous l'avis selon lequel ChatGPT est un excellent outil de recherche et d'aide à l'écriture ?
Tout à fait, contrairement au journaliste qui pointe l'IA comme source de désinformation et qui ne cesse d'en faire. Par exemple quand il écrit : "c'est que l'une des principales limites de l'IA est qu'elle n'est pas en mesure d'innover. L'IA générative ne répète que ce qui est contenu dans ses données de formation."
Fake News !
Je prends par exemple le designer star français Philippe Starck qui a utilisé l'IA pour concevoir une chaise qui utilise le moins de matière et le moins d'énergie pour sa fabrication. Non seulement l'IA innove mais est également soucieuse de l'environnement !

Pour ce qui est de l'écriture, que ce journaliste prenne Bilou pour un menteur passe encore mais il prend également les scénaristes d'Hollywood pour des affabulateurs ! Par ailleurs, nombre de livres écrits par l'IA sont en vente libre. Que ce journaliste ne soit pas au courant est étonnant.

Je veux bien croire que ce journaliste soit de bonne fois, car il ne doit pas réussir à extraire la substantifique moelle des GenIA. Le prompt engineering demande un certain talent, dont ce journaliste semble être dépourvu. Il fait de la désinformation à l'insu de son plein gré.

Bill Gates pense que l'IA n'exacerbera pas la désinformation, mais pourrait aider à lutter contre. Qu'en pensez-vous ?
Encore une fois, c'est bilou qui a raison. On peut demander à l'IA de vérifier la véracité d'un texte phrase par phrase. Dans ce cas il ne peut y avoir d'hallucination.

Que pensez-vous des déclarations de Bill Gates selon lesquelles l'IA pourrait aider à découvrir de nouvelles sources d'énergie ?
Là j'en doute. La source d'énergie est le soleil et la lune. Toutes les autres en découlent: biomasse, vent, marée... J'exclus la géothermie et le nucléaire qui ne sont pas une source mais une quantité stockée. L'IA ne peut pas en trouver d'autres.
0  4