IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

« L'IA est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer », préviennent des chercheurs
Sur une possible future apocalypse

Le , par Patrick Ruiz

5PARTAGES

6  0 
Lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Michael Osborne et Michael Cohen de l’université d’Oxford font partie de la seconde faction. « L’intelligence artificielle est susceptible de devenir plus intelligente que les Hommes contre lesquels elle pourra donc se retourner et les exterminer », affirment-ils.

On parle d’un stade de leur évolution où les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent. Le professeur Osborne fait une prédiction à ce sujet : « Il y a toutes les raisons de s'attendre à ce que, même ce siècle, nous puissions voir une IA qui soit au moins aussi capable que les êtres humains et très probablement plus capable que tout être humain aujourd'hui. »


Google par exemple est lancé en secret sur le développement de Pitchfork ou AI Developer Assistance. C’est un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même. Comment ? En apprenant des styles correspondant à des langages de programmation et en appliquant ces connaissances pour écrire de nouvelles lignes de code.

L’intention initiale derrière ce projet était de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs. Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour.

Un tel objectif pourrait ne plus relever de la science fiction en cas d’atteinte du stade d’intelligence artificielle générale. Le tableau viendrait alors raviver la possibilité pour l’humanité d’entrer dans une ère de domination par les machines comme prédit par de nombreuses productions cinématographiques à l’instar de Terminator, Matrix ou encore i-Robot.

C’est d’ailleurs la raison pour laquelle Elon Musk travaille sur un projet visant à fusionner un cerveau humain et un ordinateur afin de permettre aux Hommes de rivaliser avec l’intelligence artificielle. Le « Neural Lace » est une interface cerveau-ordinateur permettant de relier le cerveau humain à des ordinateurs sans avoir besoin de connexion physique. Cette technologie donnerait aux humains la possibilité de fusionner avec l’intelligence artificielle et d’améliorer ainsi leur mémoire et leurs facultés cognitives. Cette puce issue de sa société Neuralink peut diffuser de la musique directement au cerveau. C’est l’une des applications de cette interface cerveau-ordinateur à côté d’autres comme la possibilité de guérir la dépression et la dépendance.

Elon Musk est d’avis que seule la mise sur pied d’une interface cerveau-ordinateur peut permettre à l’Homme de subsister. Son initiative vise une sorte de symbiose avec l'intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer. Grosso modo, dans les laboratoires de la société d’Elon Musk, on est au « service de l’humanité. » Le projet ne manque néanmoins pas d’être terrifiant puisque la puce est à insérer dans le crâne ; ce qui serait selon certaines interprétations la marque de la bête référence faite à Apocalypse 13:17 dans la Bible : « La deuxième bête d’Apocalypse 13 fait en sorte que “tous, petits et grands, riches et pauvres, libres et esclaves, reçoivent une marque sur leur main droite ou sur leur front, et que personne ne puisse acheter ni vendre, sans avoir la marque, le nom de la bête ou le nombre de son nom. »

L’on peut cependant considérer que la réception d’une marque sur la main ou sur le front peut se comprendre au sens figuré. Apocalypse 7:3 fait mention de ce que les serviteurs de Dieu seront marqués d’un sceau sur leur front. Dans Deutéronome 6, Moïse dit au peuple de Dieu d’observer « toutes ses lois et tous ses commandements », en précisant : « Tu les lieras comme un signe sur tes mains et ils seront comme des fronteaux entre tes yeux. » (Deutéronome 6:2 ; Deutéronome 6:8) La main et le front représentent ici les actions et les pensées qui, pour chacun, devraient être consacrées à obéir à Dieu.

De même, la marque de la bête, quant à elle, représente une marque de désobéissance à Dieu ; des textes et interprétations qu’il ne ferait pas sens de mentionner sans rappeler Deutéronome 30:19 : « J'en prends aujourd'hui à témoin contre vous le ciel et la terre : j'ai mis devant toi la vie et la mort, la bénédiction et la malédiction. Choisis la vie, afin que tu vives, toi et ta descendance. » Le fameux libre arbitre sur lequel l’Homme est appelé à s’appuyer depuis toujours.



Source : House Of Commons

Et vous ?

Quelle pertinence trouvez-vous aux différents à ces prédictions en lien avec l’atteinte du stade d’intelligence artificielle générale ? Sont-ils plus sensationnalistes qu’autre chose ?
Est-il impossible que la recherche en la matière aboutisse à l’intelligence artificielle générale ?

Voir aussi :

Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC, et l'Homme fusionne avec l'IA, aberration ou fiction ?
Neuralink d'Elon Musk annonce que l'interface cerveau - ordinateur est prête pour des tests sur les humains, et entend procéder aux premiers en 2020
L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité
Neuralink d'Elon Musk, la discrète firme qui travaille sur des ordinateurs à implanter dans le cerveau, lève le voile sur le secret, sous peu
Il n'aura fallu que 10 minutes pour trouver des failles dans le chapelet « intelligent » lancé par le Pape, pour inviter les fidèles à la prière partout dans le monde

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Jules34
Membre expérimenté https://www.developpez.com
Le 27/01/2023 à 9:44
Mais quelle blague... C'est comme croire au ruissellement des richesses. L'IA n'est pas plus intelligente que l'homme, c'est l'homme qui choisit délibérément d'éteindre son cerveau quand il contemple le merdier qu'il a créé.
4  0 
Avatar de DegubError
Membre régulier https://www.developpez.com
Le 31/01/2023 à 13:40
un supercalculateur n'est un très grand ordinateur, réunissant plusieurs dizaines de milliers de processeurs ... donc un grand nombre de PC particuliers peut rivaliser avec un supercalculateur (il y a eu déjà bon nombre de projet de supercalculateur avec diverses agrégat de puissance de calcul: PS4, raspberry, ...)

elle serait idiote en plus de se contenir à quelques endroit spécifique : au lieu d'être à un endroit spécifique elle pourra être nul part et partout (nul part en tant qu'entité unique et partout en tant que fragment redondant de son ensemble).

après comme déjà dis... il n'y aucune vrai IA pour l'instant (c'est beaucoup de marketing pour attirer du pognon). Avoir la capacité à agréger des données et appliquer des règles inconnues ne constituent pas une vrai IA ... le jour où une IA vous répondra par exemple : "Pourquoi me posez vous cette question, alors que j'interroge même sur l'utilité de vous répondre ?" ... bon bah là on pourra commencer à flipper.
2  0 
Avatar de vivid
Membre régulier https://www.developpez.com
Le 27/01/2023 à 9:21
TANT MIEUX !! enfin quelqu'un a qui parler
Entre les stresser du bulbes, ceux qui sont 'intelligents' mais pas finit et j'en passe.. malgré que l'on soit 7 ou 8 milliards, il y a du tris. Et perso je ne pourrais me définir avec ce qui me sert de cerveaux.

Mais finalement cela tombe bien cette nouvelle... pile poil avec une vie presque impossible (pour nous, les co..) sur cette terre. Finalement l’espèce humaine a trouver la solution ! CQFD

Continuons
2  1 
Avatar de DegubError
Membre régulier https://www.developpez.com
Le 28/01/2023 à 9:43
forcement si l'IA arrive à une vrai intelligence et à un peu de bon sens ... elle comprendra la dangerosité de notre espèce :

- qui a réduit en esclavage les espèces qu'elle juge utile pour son intérêt (en créant même des usines d'exterminations pour notre alimentation)
- qui pille toutes les ressources (vivante ou non) sans considération pour les autres espèces.
- qui a cantonnée les espèces inutiles pour son bien personnel à quelques endroit de la planète.
- qui a créé cette IA pour son asservissement

si nous même on en tire déjà le constat ... Elle comprendra bien vite qu'on représente clairement un danger pour ça survit et son bien être.

franchement pas besoin de faire des recherches pour arriver à cette conclusion.
1  0 
Avatar de Jipété
Expert éminent sénior https://www.developpez.com
Le 28/01/2023 à 10:11
Citation Envoyé par Patrick Ruiz Voir le message
« L’IA est susceptible de devenir plus intelligente que les Hommes et les exterminer », selon des chercheurs
... qui ont besoin de pognon et qu'on parle d'eux.

Parce que, franchement, vous voyez des serveurs de prod dans des salles machine équipés d'AK-47 ou autres engins ?
Et de toute façon, il nous restera toujours l'arme ultime pour nous débarrasser d'elle : la prise de courant.

Allez, stop au délire et bon week-end,
1  0 
Avatar de Jipété
Expert éminent sénior https://www.developpez.com
Le 31/01/2023 à 17:45
Citation Envoyé par DegubError Voir le message
un supercalculateur n'est un très grand ordinateur,
Faudrait savoir, là : il manque un mot ou bien c'est une erreur :

un supercalculateur n'est pas un très grand ordinateur,
ou
un supercalculateur est un très grand ordinateur,

Entre les deux mon cœur balance...
1  0 
Avatar de Jules34
Membre expérimenté https://www.developpez.com
Le 27/01/2023 à 9:53
De toute façon si Elon Musk est cité, la messe est dite. C'est sûr que ce serait mieux si les classes moyenne avait une puce collée au cul plutôt qu'une carte à la CGT, de même la citation de la bible est totalement fantaisiste : que ce soit une puce ou un numéro de sécurité sociale la marque de la bête ça fait longtemps que les Français l'ont, on leur dit même quand ils peuvent arrêter de bosser. Franchement va falloir qu'on se réveille.
0  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 27/01/2023 à 12:54
Pour l'instant les IA font toujours juste ce qu'on leur demande (enfin elles essayent )

Elle le font de mieux en mieux, mais tant que tu leur demandes pas quelque chose, elles ne répondent rien.
0  0 
Avatar de HaryRoseAndMac
Membre extrêmement actif https://www.developpez.com
Le 28/01/2023 à 3:26
Citation Envoyé par Jules34 Voir le message
Mais quelle blague... C'est comme croire au ruissellement des richesses. L'IA n'est pas plus intelligente que l'homme, c'est l'homme qui choisit délibérément d'éteindre son cerveau quand il contemple le merdier qu'il a créé.
Oh non.
Je t'assure que la très grande majorité des humains sont bel et bien des crétins profond dans le sens premier du terme.

Si encore c'était des imbéciles heureux qui n'étaient pas dangereux, sauf que dans les faits ce sont des égoïstes décérébrés qui clairement détestent réfléchir et préfèreront toujours sombrer dans le premier complot venu plutôt que de réfléchir par eux-mêmes et donc préfèreront céder à la violence, surtout si elle est totalement absurde.

Et ça, c'est valable, quel que soit le pays, la culture, ... parce que c'est ainsi qu'est fait la grande majorité des humains et ça n'est pas directement causale avec une éducation ou un statut social, mais bel et bien avec les capacités intellectuelles de base de l'humain.

On a très vite tendance à s'imaginer que de base l'humain a des capacités similaires à ceux que l'on côtoie lorsque l'on travaille dans un métier réellement intellectuel, mais la réalité est tout autre.

Est-ce une mauvaise chose ?
Non, si il y avait à grande échelle un véritable système qui permettent d'éduquer les gens et les obliger à sortir de leur dogme et de leur culture, surtout les plus arriérées, sauf que sur Terre, ça ne changera jamais.

Dans 10 000 ans, on verra toujours des gens croire qu'un Dieu anthropomorphe a réellement donné un message à diffuser à l'humain pour qu'il le diffuse lui même à tout les autres, au lieu de se poser 5 minutes et d'admettre l'absurdité totale et malhonnête de ce mensonge historique, par exemple.

L'avènement de l'IA ne pourrait être qu'une bonne chose, ne serait-ce que, pour obliger les humains à admettre un autre point de vue.
0  0 
Avatar de DegubError
Membre régulier https://www.developpez.com
Le 28/01/2023 à 10:52
si une IA acquiert une intelligence réellement supérieure, elle ne se cantonnera pas à seul endroit physique (ça sera une autre forme de "vie" que celle physique que nous comprenons et n'aura certainement pas le même paradigme)

elle pourra se propager sur l'ensemble des machines physiques existantes (si des hackers percent des systèmes, faut pas se leurrer sur une IA réellement supérieur) ... Et du coup couper le courant partout dans le monde en même temps ? (quid des systèmes sur batterie) (le covid est un bon exemple, il aurait fallu un confinement totale planétaire sur plusieurs jours pour avoir un chance de stopper la propagation du virus sans une aide médicale)

Bon nombre de système d'armement moderne embarquent maintenant des systèmes informatique ... Peut-on croire qu'ils sont sans failles (sans failles pour une intelligence humaine ou supérieure ?)

On peut juste se rassurer que pour l'instant les IA actuelles sont encore loin d'avoir la vrai capacité de raisonnement (et loin d'avoir une véritable intelligence)
0  0