IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

« L'IA est susceptible d'être la cause d'une catastrophe de niveau nucléaire », d'après des chercheurs
Qui relancent le débat sur les dangers et les avantages de l'intelligence artificielle

Le , par Patrick Ruiz

2PARTAGES

7  0 
Que l’intelligence artificielle soit annoncée comme la cause d’une catastrophe de niveau nucléaire n’est pas nouveau. Cette technologie est considérée par plusieurs comme bien plus dangereuse que l’arme nucléaire. Elle demeure cependant un outil en attendant l’atteinte du stade d’intelligence artificielle de niveau humain et donc capable d’être autonome dans ses prises de décision. Pour le moment, c’est l’humain qui est à la baguette et donc le porteur de danger. La course au « meilleur chatbot » que se livrent OpenAI (financé par Microsoft) et Google enseigne en la matière : les Hommes entendent utiliser l’intelligence artificielle comme une arme (de domination, de destruction, etc.).

Google Bard contre ChatGPT et les dangers en lien avec la qualité de l’information

Google a annoncé l’intégration de l’IA conversationnelle à son moteur de recherches il y a peu. La décision n’est pas inattendue. En effet, elle fait suite au lancement par Microsoft d’une version de son propre moteur de recherches Bing qui s’appuie sur ChatGPT.

Ce qu’on sait de ces intelligences artificielles d’OpenAI et de Google est qu’il s’agit de chatbots capable de comprendre le langage naturel et de répondre en langage naturel. Elles peuvent donner de façon directe des solutions à des problèmes complexes. C’est la raison pour laquelle certaines institutions universitaires en interdisent l’usage à leurs étudiants. Le professeur Arvind Narayanan de l’université de Princeton tire néanmoins la sonnette d’alarme sur la pertinence de s’appuyer sur des moteurs de recherche intégrant ces chatbots en déclarant que c’est de la « poudre de perlimpinpin. »

« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.

Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il à propos de ChatGPT.
D’ailleurs, une mouture de Microsoft Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population de la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.


Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »


Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.


C’est cette imprécision qui a poussé les développeurs et les experts de la filière à avertir que cette technologie ne devrait pas être utilisée pour prendre des décisions importantes pour le moment. Et pourtant, des tractations sont en cours pour son utilisation sur les champs de bataille.

Des experts US proposent de placer l’arsenal nucléaire du pays sous le contrôle d’une IA

Des chercheurs américains de l’Air Force Institute of Technology ont suggéré de placer l’armement nucléaire du pays sous le contrôle d’une intelligence artificielle capable de réagir de façon prompte en cas d’attaque. En effet, soulignent-ils, deux types d’armes nucléaires hypersoniques ont vu le jour et réduisent fortement le délai dont dispose le président pour prendre une décision en cas de détection d’une attaque militaire.

« Actuellement, nous ne disposons pas de moyens de défense efficaces contre les armes hypersoniques en raison de la façon dont elles volent. Elles se déplacent à une altitude à laquelle nos systèmes de défense actuels ne sont pas conçus pour fonctionner ; tout notre système défensif est basé sur l'hypothèse de l'interception d'un objet balistique », rapportent-ils des propos d’un autre expert du domaine. L’édition 2019 d’une revue du département de la Défense (DoD) cite la Russie et la Chine comme les principaux pays lancés dans le développement d’un tel arsenal.

« La Russie et la Chine mettent au point des missiles hypersoniques perfectionnés qui peuvent se déplacer à des vitesses exceptionnelles avec des trajectoires de vol imprévisibles qui mettent à l'épreuve nos systèmes de défense actuels », ajoute le DoD. La suggestion des chercheurs survient au moment où le Pentagone reconnaît à la Chine un avantage sur les USA en matière d’applications militaires de l’intelligence artificielle, ce, grâce à une grande collaboration entre l’armée et l’industrie technologique.


Ce système basé sur l’IA devrait être en mesure de détecter un lancement de missiles n’importe où dans le monde et d’apporter la réponse appropriée dans les délais les plus brefs. Il s’agit en quelque sorte de confier les codes nucléaires des USA à une intelligence artificielle. L’approche n’est pas sans faire penser à un système automatisé de gestion d’arsenal nucléaire utilisé par l’Union soviétique lors de la guerre froide. Ce dernier était conçu pour activer automatiquement les armes nucléaires sous certaines conditions, dont celle du décès du leader de l’Union.


« Les progrès récents de l'intelligence artificielle pourraient être mis à profit dans tous les aspects du nucléaire. L'apprentissage machine pourrait renforcer les capacités de détection des systèmes d'alerte précoce existants et améliorer la possibilité pour les analystes humains d'effectuer une analyse croisée des données de renseignement, de surveillance et de reconnaissance (ISR). L'apprentissage machine pourrait être utilisé pour renforcer la protection de l'architecture de commandement et de contrôle contre les cyberattaques et améliorer la façon dont les ressources, y compris les forces humaines, sont gérées. Les progrès de l'apprentissage machine pourraient renforcer les capacités des moyens de dissuasion non nucléaires, qu'ils soient conventionnels (systèmes de défense aérienne), électroniques (brouillage) ou cybernétiques », rapportent les chercheurs des propos d’un autre expert du domaine.

Source : Publication

Et vous ?

Quel est votre avis sur le sujet ?
Qui de l’humain ou de l’intelligence artificielle est susceptible d’être à l’origine d’une catastrophe ?
La comparaison de l’intelligence artificielle avec l’IA vous paraît-elle pertinente ?

Voir aussi :

L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs
Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons
Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ?
Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de _toma_
Membre averti https://www.developpez.com
Le 20/06/2024 à 19:00
Je pense que le résultat le plus probable est celui de l'abondance, où les biens et les services sont disponibles pour tout le monde. Il n'y a pas de pénurie pour chacun d'entre nous. Ce serait une randonnée universelle. Le travail serait facultatif
Encore un qui a bien suivi ses cours d'économie et qui est pas foutu de comprendre qu'une croissance infinie dans un monde fini est impossible. Mais comment font tous les "grands" de notre monde pour sombrer dans ce schéma de pensées qu'un enfant de 7 ans trouverait louche ?

Si l'IA peut faire tout ce que vous pouvez faire, mais en mieux, à quoi bon faire les choses ? Je pense qu'il y aura une crise existentielle
Merci l'IA qui fait les vidanges, débouche les WC, brasse la bière et coupe des arbres pour en faire du PQ.
Est-ce qu'il a une armée de serviteurs pour à ce point oublier que le quotidien n'est pas exclusivement constitué d'ordinateurs ?
5  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 27/12/2023 à 10:31
"L'IA remplacera tous les emplois humains, et il y aura un revenu universel élevé, et non de base, dans un avenir positif pour l’IA", d'après Elon Musk
Et Musk offrira gratuitement à tout le monde un belle Tesla toute neuve...

Qui a dit "les promesses rendent les fous heureux"?
3  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 27/12/2023 à 12:35
Concernant l'IA, il y a depuis un moment le muskdi et le gatesdi (le trolldi ne suffit plus)
3  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 30/12/2023 à 13:03
Citation Envoyé par unanonyme Voir le message
Bonjour,

@Anselm_45, on ne serait pas à poil non plus..... Faut pas déconner.
Mais tu as raison, on peut se passer de pétrole et être tous habillé en toile de jute qui gratte ou de maillots de laine au mois d'août sous un petit 45° à l'ombre...

On peut se passer de pétrole et en revenir à la fin du 18ème siècle... A ce propos, est-ce que tu connais la raison première de la révolution française en 1789? La faim!

Je suppose que tu proposes de revenir à une agriculture locale sans l'apport du moindre engrais chimique descendant direct du pétrole? Je suppose que tu es prêt à changer de métier et à revenir à la structure sociale de l'avant pétrole avec 95% de la population française qui est... un paysan qui vit les mains dans la merde en alternant les années où ils mangent à sa faim et les années de disette???

Citation Envoyé par melka one Voir le message
pour les véhicules a moteur thermique rien aurais été possible sans la bougie qui utilise l'électricité pour créer l’étincelle qui enflamme le pétrole modifié c'est plutôt l'inverse sans l'électricité le pétrole ne serait pas autant répandu

...

je dit des bêtises ?
Oui et c'est un euphémisme!

Les gens qui ont une connaissance de l'histoire de la technologie savent que les premières voitures étaient à propulsion... électrique (la vapeur exigeait un équipement trop lourd pour équiper un véhicule léger comme la voiture)!!! C'est justement parce que les moteurs électriques avaient trop d'inconvénients que le moteur thermique s'est généralisé!!!

Et tu sais la meilleure? Il n'y a pas eu de révolution technologique au niveau de la mobilité électrique depuis cette époque! La capacité des batteries n'a pas fait un bon révolutionnaire depuis plus de 100 ans.

C'est comme la farce du moteur à hydrogène: Il faut fabriquer de l'électricité pour pouvoir produire de l'hydrogène et ensuite on utilise l'hydrogène pour le transformer en électricité pour l'utiliser dans la voiture... Résultat:Le processus a un rendement médiocre par rapport à la solution thermique... Il y a plus de 60% de l'énergie qui est perdue dans le processus!!!
3  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 06/11/2023 à 10:40
Citation Envoyé par Stéphane le calme Voir le message
La vision de Musk sur l’IA soulève des questions sur les implications économiques et sociales d’une technologie qui pourrait remplacer le travail humain. Certains experts estiment que l’IA pourrait créer de nouvelles opportunités de croissance, d’innovation et de bien-être, en libérant les humains des tâches routinières et en leur permettant de se consacrer à des activités plus créatives et enrichissantes. D’autres craignent que l’IA ne provoque une augmentation du chômage, des inégalités et de l’exclusion, en rendant obsolètes de nombreux emplois et en concentrant les richesses et le pouvoir entre les mains d’une élite technologique.
C'est clairement le deuxième groupe qui a raison.
L'autre scénario est un délire utopiste qui n'arrivera jamais.

Qui peut croire que la classe dominante mette ça en place :
Citation Envoyé par Stéphane le calme Voir le message
D’autres suggèrent de repenser le concept même de travail, en valorisant davantage les activités qui contribuent au bien commun, à la solidarité et à l’épanouissement personnel, plutôt que celles qui visent uniquement à maximiser le profit. Il s’agirait de promouvoir une économie plus humaine et plus durable, qui respecte les besoins et les aspirations de chacun, ainsi que les limites de la planète.
C'est beau, mais ça n'arrivera pas.

Ce serait cool un système dans lequel les légumes qui ont été cultivés par des humains, en permaculture, sans utilisation d'aucun produit (engrais, pesticide), sans machine agricole, soit acheté aux agriculteurs 20 fois le prix des légumes industriels.
Mais ce n'est malheureusement pas réaliste.

=====
Il y a trop d'humains, les humains consomment trop de ressource.
Donc le niveau de vie des humains va diminuer. Profitez d'aujourd'hui, demain sera pire.
Le futur ne va pas être marrant.
2  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 29/12/2023 à 20:14
Citation Envoyé par melka one Voir le message
pour les véhicules a moteur thermique rien aurais été possible sans la bougie qui utilise l'électricité pour créer l’étincelle qui enflamme le pétrole modifié c'est plutôt l'inverse sans l'électricité le pétrole ne serait pas autant répandu et aussi extraire le pétrole implique d'utilise un moteur thermique ou électrique afin de pomper le pétrole des sol c'est vrais c'est possible de le pomper manuellement (bon courage) pareille pour le plastique la c'est une résistance électrique qui vas permettre de contrôle avec précision les température et la précision c'est un des point important qu'apporte électricité

je vois le coup venir donc j’anticipe, il existe bien le moteurs diesel qui n'utilise pas d’étincelles mais pour fabriquer les divers pièce de précision qui le constitue on utilise des machines outils qui elles fonctionnes avec l'électricité (la précision)

je dit des bêtises ?

Les trains a vapeur n'avais pas besoin d'électricité et meme chose pour la 1ere voiture qui était une voiture a vapeur sur le meme principe
Mais je ne vois pas le rapport en faite entre son commentaire et le tien.
l'électricité a apporter du grand confort avec les bougies et le démarreur et plus largement avec l'informatique, électricité produite majoritairement dans le monde en brulant du charbon/gaz et pétrole.

chaque énergie a des avantages.

le pétrole reste encore aujourd'hui une énergie bon marché par rapport à la voiture électrique avec batterie.
et reste une bon moyen pas cher avec le charbon de produire de l'electrcité

je parle pas de la france avec ces taxes abusif sur ces énergies mais de la majorité des pays dans le monde (inde, chine...etc)

malgré le sacrifice isolé et suicidaire des européens et la cop28 de dubai cette année la production de co2 a encore dépassé un record dans le monde.
2  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 31/12/2023 à 14:42
Citation Envoyé par Anselme45 Voir le message
Je suppose que tu proposes de revenir à une agriculture locale sans l'apport du moindre engrais chimique descendant direct du pétrole?
Je pense que c'était une mauvaise idée d'utiliser autant d'engrais.

Quand on mange, on consomme aussi du pétrole
Issus de l’industrie pétrochimique, les engrais contiennent un mélange de nitrates, de phosphates et de potassium. Ces engrais ont permis d’améliorer la croissance des plantes et le rendement des cultures. Le problème est qu’ils ont ouvert la voie à une surexploitation des sols. Ces sols se sont appauvris et les agriculteurs ont été contraints d’y déverser de plus en plus d’engrais. Un vrai cercle vicieux. Réduire la quantité d’engrais utilisée dans les champs est donc un formidable moyen de limiter l’empreinte carbone de notre alimentation. C’est ce que tentent de réaliser les fermes bio : en 2017, 92% des exploitations françaises pratiquaient l’agriculture conventionnelle ou intensive, et 8% l’agriculture biologique, ce qui représentait 36 000 producteurs. Cette proportion croît chaque année.
Il est possible qu'en utilisant de l'engrais :
- les mauvaises herbes poussent plus vite donc il faut utiliser des herbicides
- les champignons poussent plus vite donc il faut utiliser des fongicides
- il y a plus d'insectes donc il faut utiliser des insecticides
L'industrie pétrochimique vend beaucoup de produits aux agriculteurs.

Il faut utiliser des semences OGM "roundup ready" pour pouvoir utiliser du roundup. (cela dit ça a commencé avec le le soja Roundup-ready en 1996, donc avant ils arrivaient à faire sans)
Ce serait mieux que chaque cultivateur produise ses propres semences, car elles seraient adaptées aux conditions locales, elles seraient plus résistantes aux maladies, aux insectes, etc.
Les plantes OGM poussent mal si on utilise pas de produit.

Citation Envoyé par calvaire Voir le message
en 2023 on a des voitures électrique capable de 600km sur autoroute à 130, le probleme c'est le prix.
On verra combien de temps ça va durer et si le propriétaire arrive à revendre sa voiture électrique.
Les voitures électriques n'auront peut-être pas une longue espérance de vie.

Peut-être que quand 1L de Diesel sera vendu 5€ on sera obligé d'abandonner le thermique, mais ça prendra peut-être des décennies à arriver.
Ça ne sert à rien de se presser à acheter une voiture électrique.

Citation Envoyé par unanonyme Voir le message
C'est vrai que ça va finir par se cracher.
Ça ne peut pas continuer éternellement.
2  0 
Avatar de L33tige
Membre expérimenté https://www.developpez.com
Le 09/04/2024 à 12:40
Citation Envoyé par Ryu2000 Voir le message
Je pense que c'était une mauvaise idée d'utiliser autant d'engrais.

Quand on mange, on consomme aussi du pétrole

Il est possible qu'en utilisant de l'engrais :
- les mauvaises herbes poussent plus vite donc il faut utiliser des herbicides
- les champignons poussent plus vite donc il faut utiliser des fongicides
- il y a plus d'insectes donc il faut utiliser des insecticides
L'industrie pétrochimique vend beaucoup de produits aux agriculteurs.

Il faut utiliser des semences OGM "roundup ready" pour pouvoir utiliser du roundup. (cela dit ça a commencé avec le le soja Roundup-ready en 1996, donc avant ils arrivaient à faire sans)
Ce serait mieux que chaque cultivateur produise ses propres semences, car elles seraient adaptées aux conditions locales, elles seraient plus résistantes aux maladies, aux insectes, etc.
Les plantes OGM poussent mal si on utilise pas de produit.

On verra combien de temps ça va durer et si le propriétaire arrive à revendre sa voiture électrique.
Les voitures électriques n'auront peut-être pas une longue espérance de vie.

Peut-être que quand 1L de Diesel sera vendu 5€ on sera obligé d'abandonner le thermique, mais ça prendra peut-être des décennies à arriver.
Ça ne sert à rien de se presser à acheter une voiture électrique.

C'est vrai que ça va finir par se cracher.
Ça ne peut pas continuer éternellement.
Alors, je dis ça pourtant j'ai un daily ET une voiture plaisir pour le weekend, une bécane également, j'aime l'essence quand ça fait vroom et tout ce que tu veux,

La bagnole c'est un piège, une connerie, on à complètement transformé les villes et le paysage autour d'un moyen de transport, chose impensable pour le bus le train ou les piétons sans que tout le pays se mette à râler sur ces "saletées de cyclistes", il suffit d'un mort en trotinette pour qu'on interdise la location, si on devait faire de même pour la bagnole je t'explique même pas le truc. On à été matrixé par la bagnole, tellement qu'aujourd'hui on pense qu'en achetant un béhémot électrique de 2 tonnes NEUVE qui plus est pour circuler dans les bouchons et en ville, c'est écolo. La véritée c'est que la voiture est contraire à ce principe même.
2  0 
Avatar de Jules34
Membre chevronné https://www.developpez.com
Le 06/05/2024 à 16:30
C'est rigolo que le plus gros vautour de la finance mondiale dise qu'il a "peur".

Je n'y crois pas une seule seconde.

On parle d'un gestionnaire de fond qui a participé et participe encore à la ruine de certains états ayant fait faillite en rachetant leur dette et en réclamant son remboursement à l'aide d'une armée d'avocat. On appelle ça les fonds vautour dans le jargon.

Un pays pauvre surendetté qui ne peut rembourser ses créanciers est déclaré en cessation de paiement. Le voici seul et vacillant face aux banques internationales pour négocier une réduction de sa dette. Les fonds rapaces rappliquent, rachètent les anciennes obligations à prix cassé. Puis des bataillons d'avocats engagent des procédures pour contraindre le pays pourtant ruiné et le peuple à l'agonie dans les bidonvilles à rembourser ces obligations à hauteur de 100% de leur valeur.

En 2015, 26 fonds vautours menaient 277 procédures devant 48 juridictions différentes contre 32 pays débiteurs. Dans 77% des cas, ils gagnent. Ces procès rapportent entre 300 et 2000% d'intérêts. Les juridictions britanniques et américaines sont les plus prisées.

«Les fonds vautours tuent», écrit Jean Ziegler. Exemple parmi tant d'autres: la famine qui s'est déclarée au Malawi en 2002. Le gouvernement n'a pas pu nourrir sa population car pour payer sa dette de plusieurs dizaines de millions de dollars à un vautour, il a dû vendre toutes ses réserves de maïs - 40.000 tonnes.
Warren a aussi eu ce mot doux à notre encontre:
Warren Buffett, riche parmi les plus riches: «La lutte des classes, ça existe, évidemment, mais cette guerre, c'est la classe des riches qui est en train de la gagner.»
Je pense pas qu'il ait peur de l'IA. Il a su faire de l'argent sur la mort des autres, il va continuer. Et il doit déjà avoir plein d'idée avec l'IA pour faire du fric.
2  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 21/06/2024 à 1:53
Citation Envoyé par _toma_ Voir le message
Encore un qui a bien suivi ses cours d'économie et qui est pas foutu de comprendre qu'une croissance infinie dans un monde fini est impossible. Mais comment font tous les "grands" de notre monde pour sombrer dans ce schéma de pensées qu'un enfant de 7 ans trouverait louche ?

Merci l'IA qui fait les vidanges, débouche les WC, brasse la bière et coupe des arbres pour en faire du PQ.
Est-ce qu'il a une armée de serviteurs pour à ce point oublier que le quotidien n'est pas exclusivement constitué d'ordinateurs ?
Il nous prend juste pour des abrutis. L'homme le plus riche du monde perdrait tout son pouvoir, s'il n'y avait plus besoin de travailler pour vivre.
2  0