IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

« L'IA est susceptible d'être la cause d'une catastrophe de niveau nucléaire », d'après des chercheurs
Qui relancent le débat sur les dangers et les avantages de l'intelligence artificielle

Le , par Patrick Ruiz

2PARTAGES

7  0 
Que l’intelligence artificielle soit annoncée comme la cause d’une catastrophe de niveau nucléaire n’est pas nouveau. Cette technologie est considérée par plusieurs comme bien plus dangereuse que l’arme nucléaire. Elle demeure cependant un outil en attendant l’atteinte du stade d’intelligence artificielle de niveau humain et donc capable d’être autonome dans ses prises de décision. Pour le moment, c’est l’humain qui est à la baguette et donc le porteur de danger. La course au « meilleur chatbot » que se livrent OpenAI (financé par Microsoft) et Google enseigne en la matière : les Hommes entendent utiliser l’intelligence artificielle comme une arme (de domination, de destruction, etc.).

Google Bard contre ChatGPT et les dangers en lien avec la qualité de l’information

Google a annoncé l’intégration de l’IA conversationnelle à son moteur de recherches il y a peu. La décision n’est pas inattendue. En effet, elle fait suite au lancement par Microsoft d’une version de son propre moteur de recherches Bing qui s’appuie sur ChatGPT.

Ce qu’on sait de ces intelligences artificielles d’OpenAI et de Google est qu’il s’agit de chatbots capable de comprendre le langage naturel et de répondre en langage naturel. Elles peuvent donner de façon directe des solutions à des problèmes complexes. C’est la raison pour laquelle certaines institutions universitaires en interdisent l’usage à leurs étudiants. Le professeur Arvind Narayanan de l’université de Princeton tire néanmoins la sonnette d’alarme sur la pertinence de s’appuyer sur des moteurs de recherche intégrant ces chatbots en déclarant que c’est de la « poudre de perlimpinpin. »

« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.

Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il à propos de ChatGPT.
D’ailleurs, une mouture de Microsoft Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population de la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.



Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »


Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.



C’est cette imprécision qui a poussé les développeurs et les experts de la filière à avertir que cette technologie ne devrait pas être utilisée pour prendre des décisions importantes pour le moment. Et pourtant, des tractations sont en cours pour son utilisation sur les champs de bataille.

Des experts US proposent de placer l’arsenal nucléaire du pays sous le contrôle d’une IA

Des chercheurs américains de l’Air Force Institute of Technology ont suggéré de placer l’armement nucléaire du pays sous le contrôle d’une intelligence artificielle capable de réagir de façon prompte en cas d’attaque. En effet, soulignent-ils, deux types d’armes nucléaires hypersoniques ont vu le jour et réduisent fortement le délai dont dispose le président pour prendre une décision en cas de détection d’une attaque militaire.

« Actuellement, nous ne disposons pas de moyens de défense efficaces contre les armes hypersoniques en raison de la façon dont elles volent. Elles se déplacent à une altitude à laquelle nos systèmes de défense actuels ne sont pas conçus pour fonctionner ; tout notre système défensif est basé sur l'hypothèse de l'interception d'un objet balistique », rapportent-ils des propos d’un autre expert du domaine. L’édition 2019 d’une revue du département de la Défense (DoD) cite la Russie et la Chine comme les principaux pays lancés dans le développement d’un tel arsenal.

« La Russie et la Chine mettent au point des missiles hypersoniques perfectionnés qui peuvent se déplacer à des vitesses exceptionnelles avec des trajectoires de vol imprévisibles qui mettent à l'épreuve nos systèmes de défense actuels », ajoute le DoD. La suggestion des chercheurs survient au moment où le Pentagone reconnaît à la Chine un avantage sur les USA en matière d’applications militaires de l’intelligence artificielle, ce, grâce à une grande collaboration entre l’armée et l’industrie technologique.



Ce système basé sur l’IA devrait être en mesure de détecter un lancement de missiles n’importe où dans le monde et d’apporter la réponse appropriée dans les délais les plus brefs. Il s’agit en quelque sorte de confier les codes nucléaires des USA à une intelligence artificielle. L’approche n’est pas sans faire penser à un système automatisé de gestion d’arsenal nucléaire utilisé par l’Union soviétique lors de la guerre froide. Ce dernier était conçu pour activer automatiquement les armes nucléaires sous certaines conditions, dont celle du décès du leader de l’Union.


« Les progrès récents de l'intelligence artificielle pourraient être mis à profit dans tous les aspects du nucléaire. L'apprentissage machine pourrait renforcer les capacités de détection des systèmes d'alerte précoce existants et améliorer la possibilité pour les analystes humains d'effectuer une analyse croisée des données de renseignement, de surveillance et de reconnaissance (ISR). L'apprentissage machine pourrait être utilisé pour renforcer la protection de l'architecture de commandement et de contrôle contre les cyberattaques et améliorer la façon dont les ressources, y compris les forces humaines, sont gérées. Les progrès de l'apprentissage machine pourraient renforcer les capacités des moyens de dissuasion non nucléaires, qu'ils soient conventionnels (systèmes de défense aérienne), électroniques (brouillage) ou cybernétiques », rapportent les chercheurs des propos d’un autre expert du domaine.

Source : Publication

Et vous ?

Quel est votre avis sur le sujet ?
Qui de l’humain ou de l’intelligence artificielle est susceptible d’être à l’origine d’une catastrophe ?
La comparaison de l’intelligence artificielle avec l’IA vous paraît-elle pertinente ?

Voir aussi :

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Anselme45
Inactif https://www.developpez.com
Le 27/12/2023 à 10:31
"L'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, et non de base, dans un avenir positif pour l’IA", d'après Elon Musk
Et Musk offrira gratuitement à tout le monde un belle Tesla toute neuve...

Qui a dit "les promesses rendent les fous heureux"?
3  0 
Avatar de OrthodoxWindows
Membre émérite https://www.developpez.com
Le 27/12/2023 à 12:35
Concernant l'IA, il y a depuis un moment le muskdi et le gatesdi (le trolldi ne suffit plus)
3  0 
Avatar de Anselme45
Inactif https://www.developpez.com
Le 30/12/2023 à 13:03
Citation Envoyé par unanonyme Voir le message
Bonjour,

@Anselm_45, on ne serait pas à poil non plus..... Faut pas déconner.
Mais tu as raison, on peut se passer de pétrole et être tous habillé en toile de jute qui gratte ou de maillots de laine au mois d'août sous un petit 45° à l'ombre...

On peut se passer de pétrole et en revenir à la fin du 18ème siècle... A ce propos, est-ce que tu connais la raison première de la révolution française en 1789? La faim!

Je suppose que tu proposes de revenir à une agriculture locale sans l'apport du moindre engrais chimique descendant direct du pétrole? Je suppose que tu es prêt à changer de métier et à revenir à la structure sociale de l'avant pétrole avec 95% de la population française qui est... un paysan qui vit les mains dans la merde en alternant les années où ils mangent à sa faim et les années de disette???

Citation Envoyé par melka one Voir le message
pour les véhicules a moteur thermique rien aurais été possible sans la bougie qui utilise l'électricité pour créer l’étincelle qui enflamme le pétrole modifié c'est plutôt l'inverse sans l'électricité le pétrole ne serait pas autant répandu

...

je dit des bêtises ?
Oui et c'est un euphémisme!

Les gens qui ont une connaissance de l'histoire de la technologie savent que les premières voitures étaient à propulsion... électrique (la vapeur exigeait un équipement trop lourd pour équiper un véhicule léger comme la voiture)!!! C'est justement parce que les moteurs électriques avaient trop d'inconvénients que le moteur thermique s'est généralisé!!!

Et tu sais la meilleure? Il n'y a pas eu de révolution technologique au niveau de la mobilité électrique depuis cette époque! La capacité des batteries n'a pas fait un bon révolutionnaire depuis plus de 100 ans.

C'est comme la farce du moteur à hydrogène: Il faut fabriquer de l'électricité pour pouvoir produire de l'hydrogène et ensuite on utilise l'hydrogène pour le transformer en électricité pour l'utiliser dans la voiture... Résultat:Le processus a un rendement médiocre par rapport à la solution thermique... Il y a plus de 60% de l'énergie qui est perdue dans le processus!!!
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 06/11/2023 à 10:40
Citation Envoyé par Stéphane le calme Voir le message
La vision de Musk sur l’IA soulève des questions sur les implications économiques et sociales d’une technologie qui pourrait remplacer le travail humain. Certains experts estiment que l’IA pourrait créer de nouvelles opportunités de croissance, d’innovation et de bien-être, en libérant les humains des tâches routinières et en leur permettant de se consacrer à des activités plus créatives et enrichissantes. D’autres craignent que l’IA ne provoque une augmentation du chômage, des inégalités et de l’exclusion, en rendant obsolètes de nombreux emplois et en concentrant les richesses et le pouvoir entre les mains d’une élite technologique.
C'est clairement le deuxième groupe qui a raison.
L'autre scénario est un délire utopiste qui n'arrivera jamais.

Qui peut croire que la classe dominante mette ça en place :
Citation Envoyé par Stéphane le calme Voir le message
D’autres suggèrent de repenser le concept même de travail, en valorisant davantage les activités qui contribuent au bien commun, à la solidarité et à l’épanouissement personnel, plutôt que celles qui visent uniquement à maximiser le profit. Il s’agirait de promouvoir une économie plus humaine et plus durable, qui respecte les besoins et les aspirations de chacun, ainsi que les limites de la planète.
C'est beau, mais ça n'arrivera pas.

Ce serait cool un système dans lequel les légumes qui ont été cultivés par des humains, en permaculture, sans utilisation d'aucun produit (engrais, pesticide), sans machine agricole, soit acheté aux agriculteurs 20 fois le prix des légumes industriels.
Mais ce n'est malheureusement pas réaliste.

=====
Il y a trop d'humains, les humains consomment trop de ressource.
Donc le niveau de vie des humains va diminuer. Profitez d'aujourd'hui, demain sera pire.
Le futur ne va pas être marrant.
2  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 29/12/2023 à 20:14
Citation Envoyé par melka one Voir le message
pour les véhicules a moteur thermique rien aurais été possible sans la bougie qui utilise l'électricité pour créer l’étincelle qui enflamme le pétrole modifié c'est plutôt l'inverse sans l'électricité le pétrole ne serait pas autant répandu et aussi extraire le pétrole implique d'utilise un moteur thermique ou électrique afin de pomper le pétrole des sol c'est vrais c'est possible de le pomper manuellement (bon courage) pareille pour le plastique la c'est une résistance électrique qui vas permettre de contrôle avec précision les température et la précision c'est un des point important qu'apporte électricité

je vois le coup venir donc j’anticipe, il existe bien le moteurs diesel qui n'utilise pas d’étincelles mais pour fabriquer les divers pièce de précision qui le constitue on utilise des machines outils qui elles fonctionnes avec l'électricité (la précision)

je dit des bêtises ?

Les trains a vapeur n'avais pas besoin d'électricité et meme chose pour la 1ere voiture qui était une voiture a vapeur sur le meme principe
Mais je ne vois pas le rapport en faite entre son commentaire et le tien.
l'électricité a apporter du grand confort avec les bougies et le démarreur et plus largement avec l'informatique, électricité produite majoritairement dans le monde en brulant du charbon/gaz et pétrole.

chaque énergie a des avantages.

le pétrole reste encore aujourd'hui une énergie bon marché par rapport à la voiture électrique avec batterie.
et reste une bon moyen pas cher avec le charbon de produire de l'electrcité

je parle pas de la france avec ces taxes abusif sur ces énergies mais de la majorité des pays dans le monde (inde, chine...etc)

malgré le sacrifice isolé et suicidaire des européens et la cop28 de dubai cette année la production de co2 a encore dépassé un record dans le monde.
2  0 
Avatar de Jules34
Membre expérimenté https://www.developpez.com
Le 25/09/2023 à 16:50
Les démocraties européenne sont en danger depuis que les américains leurs ont vendus le plan Marshall. Le reste c'est de la science fiction. On a déjà un pied et demi dans Orwell.
1  0 
Avatar de Anselme45
Inactif https://www.developpez.com
Le 05/11/2023 à 11:23
Et qui va offrir des salaires à tout ce petit monde qui n'aura plus besoin de travailler pour gagner sa vie? Les GAFAM? Musk peut-être? Les états qui, n'encaissant plus d'impôts, feront fonctionner la planche à billets pour offrir à leur peuple de la monnaie de singe?

Musk ferait mieux d'arrêter de fumer la moquette et mieux encore de nous éviter ses avis sur tout et n'importe quoi!

Cela nous fera des vacances!
3  2 
Avatar de totozor
Membre expert https://www.developpez.com
Le 06/11/2023 à 8:22
Citation Envoyé par Stéphane le calme Voir le message
mais qu’ils devront trouver d’autres moyens de se sentir utiles et heureux.
Pour une part non négligeable de la population travail ne rime pas avec utilité et joie mais avec nécessité et contrainte.
Libérez les gens du travail et ils n'auront aucun mal à s'occuper.
Mais vous ne le ferez jamais parce que le faire rime avec perdre votre pouvoir.
Et suivant ce qu'il appelle l'IA il faudra toujours manipuler des choses donc il faudra aussi penser à matérialiser cette IA.
« Je suis quelqu'un qui croit que le travail donne du sens », a répondu Sunak. Le Premier ministre a tenté de souligner l’importance d’avoir un emploi, arguant que cela soulèverait des questions sur « d’où vient cette motivation, cet objectif » si l’IA remplaçait les travailleurs.
Votre vie est tellement triste M. Sunak si vous ne trouvez pas de motivation en dehors du travail.
Je vous suggère de quitter votre costume d'aller boire une bière dans un pub, de se mettre à la boxe, la muscu ou la danse, d'essayer la poterie ou la marqueterie. Il existe 1000 choses plus intéressante que le travail salarié.
Rejetant les craintes selon lesquelles l’IA détruirait l’économie, Musk a déclaré qu’il y aurait une « abondance » d’opportunités pour de nouveaux services. « Nous ne bénéficierons pas d’un revenu de base universel, nous bénéficierons d’un revenu universel élevé », a-t-il déclaré.
Mais si l'humanité n'a plus besoin de travailler pourquoi continuer à utiliser cette monnaie d'échange qu'ils de gagnerons même plus?
Mais allons y pas à pas, commençons par ça, l'argent disparaitra de lui même par inutilité.
Il a également fait valoir que l’IA offrirait aux gens une « compagnie » solide. Il a déclaré que certains robots IA « vous connaîtront mieux que vous-même… vous aurez en fait un grand ami ». Apparaissant interloqué, Sunak a déclaré qu'il trouvait l'idée « surprenante ».
C'est marrant que cet anti-woke revendiqué ouvre la porte vers une nouvelle forme d'humanité
Citation Envoyé par Nym4x Voir le message
IAG + robotique = bombe nucléaire [...]. Cela devrait être réservé au domaine militaire en arme de dissuasion.
S'il y a bien un domaine auquel on devrait interdire l'accès à ces technologie c'est le militaire.
Mais envisager de l'interdire est déjà un projet idéaliste, chacun y travaillera en cachette prétextant que le voisin fait de même
Citation Envoyé par Anselme45 Voir le message
Et qui va offrir des salaires à tout ce petit monde qui n'aura plus besoin de travailler pour gagner sa vie? Les GAFAM? Musk peut-être? Les états qui, n'encaissant plus d'impôts, feront fonctionner la planche à billets pour offrir à leur peuple de la monnaie de singe?
C'est pour ça que si ça arrive on doit se débarrasser de l'argent. Mais il reste que les détenteurs de moyens de production (appelés bourgeois par Marx) seront d'autant plus puissants.
2  1 
Avatar de Anselme45
Inactif https://www.developpez.com
Le 29/12/2023 à 12:15
Citation Envoyé par melka one Voir le message
pour moi l’ère dans laquel on vit est celle de l'électricité c'est elle qui a permis l’évolution que l'on subit depuis approximativement 150 ans
Pas besoin d'aller plus loin, tu as tout faux

Notre civilisation s'est développée grâce au pétrole et à l'heure actuelle malgré les beaux discours, nous sommes toujours dans l'ère du pétrole!!! Le pétrole a tout simplement permis l'évolution la plus importante de l'histoire de l'humanité parce que c'est le composant qui est le plus facile à transporter et à utiliser et qui concentre le plus d'énergie dans un faible volume.

Le pétrole, c'est la chimie, les transports au niveau mondial, les engrais ayant multiplié par 1000 la productivité agricole, les produits d'hygiènes courants, la bagnole, l'avion, etc... Le pétrole est juste à l'origine du 99% des objets de ton quotidien!

Que serait ta vie actuelle sans pétrole? Ben tu serais déjà à poil parce que tes habits sont majoritairement fait de polymères (sous-composants du pétrole), tes appareils électroniques ne sont pas fait d'électricité mais de circuits électroniques composés à 80% de polymères, ta bouffe se limiterait aux 3 épis de blé que tu ferais pousser au bas de ton immeuble parce que sans pétrole fini les bananes venues d'Amérique centrale, les fruits et légumes venus d'Espagne, le saumon venu de Norvège, terminé les jouets du petit dernier provenant de Chine comme d'ailleurs le 100% des téléphones portables, fini les petits week-end à Barcelone ou à Londres, fini Netflix et les réseaux sociaux qui permettent de dire des conneries, etc, etc, etc...
1  0 
Avatar de Anselme45
Inactif https://www.developpez.com
Le 30/12/2023 à 22:42
Citation Envoyé par unanonyme Voir le message
Bonjour,

Vous ne faites que fantasmer des transpositions
du passé qui ne sont pas justifiées.

Pétrole ou pas, l'innovation aurait fait son œuvre.

Tout cela ne change pas la problématique
d'une croissance exponentielle qui construit
des schémas de subsistance insoutenable.

Vous passez votre temps à prendre
les gens pour des couillons,
vu d'ici, le roi des couillons, monsieur,
c'est vous.

Mais bon, je n'attends rien de votre part
si ce n'est une autre de vos saillies grossière
pour alimenter votre délire.

Bonne journée.
A la lecture de votre réaction, vous avez bien choisi votre pseudo "unanonyme". Quand sans argument, on en vient à traiter les autres de "roi des couillons", je pense que votre place n'est pas sur un forum technique.

Citation Envoyé par calvaire Voir le message
c'est un peu exagéré.
entre les batteries au plomb et les batteries au sodium inventé et fabriqué en france en 2023 par Tiamat y'a quand meme un gap.

en 2023 on a des voitures électrique capable de 600km sur autoroute à 130, le probleme c'est le prix.
Un "gap" qui ne révolutionne pas la donne!

Qu'il te faille 2 heures pour charger une batterie te permettant de rouler 600 km (et tes 600 km relèvent de l'argument publicitaire, la réalité tourne autour des 300 km) ou 3 jours pour faire 10 km, le problème reste le même. Est-il nécessaire de rappeler qu'aucun système de mobilité électrique permet de faire le "plein" en moins de 5 minutes et ensuite de pouvoir rouler plus de 600 km sans problème?

Tous le problème est là!

Autre point, c'est la mode de nous vendre la voiture électrique mais réfléchissons 2 secondes. Avec la lenteur de recharge, la voiture doit être rechargée là où elle est le plus souvent immobilisée soit à son domicile, soit à son travail! Peut-on imaginer un seul instant chaque domicile (pour chaque locataire d'un lotissement de plusieurs centaines d'appartements par exemple) et chaque place de travail équipé d'une borne de recharge??? Bien sûr que non!

La réalité est simplement que la voiture électrique est destinée aux bobos friqués bien pensants de la classe supérieure. Ce n'est pas une solution pour la masse, le bas peuple. D'ailleurs les fabricants automobiles ne se trompent pas; le 100% des voitures électriques sont des SUV et autres voitures haut de gamme avec des prix élitaires ne prenant pas en compte le smicard!!!

Le futur de l'automobile sera la voiture électrique pour quelques uns et une paire de chaussures pour la grande majorité, les pauvres et la classe moyenne, pour qui on prévoit une vie de... piéton!!!

Mais cela.. Schuuuuuuuuuuuuut! Il faut pas le dire trop fort!
1  0