Que l’intelligence artificielle soit annoncée comme la cause d’une catastrophe de niveau nucléaire n’est pas nouveau. Cette technologie est considérée par plusieurs comme bien plus dangereuse que l’arme nucléaire. Elle demeure cependant un outil en attendant l’atteinte du stade d’intelligence artificielle de niveau humain et donc capable d’être autonome dans ses prises de décision. Pour le moment, c’est l’humain qui est à la baguette et donc le porteur de danger. La course au « meilleur chatbot » que se livrent OpenAI (financé par Microsoft) et Google enseigne en la matière : les Hommes entendent utiliser l’intelligence artificielle comme une arme (de domination, de destruction, etc.).Google Bard contre ChatGPT et les dangers en lien avec la qualité de l’information
Google a annoncé l’intégration de l’IA conversationnelle à son moteur de recherches il y a peu. La décision n’est pas inattendue. En effet, elle fait suite au lancement par Microsoft d’une version de son propre moteur de recherches Bing qui s’appuie sur ChatGPT.
Ce qu’on sait de ces intelligences artificielles d’OpenAI et de Google est qu’il s’agit de chatbots capable de comprendre le langage naturel et de répondre en langage naturel. Elles peuvent donner de façon directe des solutions à des problèmes complexes. C’est la raison pour laquelle certaines institutions universitaires en interdisent l’usage à leurs étudiants. Le professeur Arvind Narayanan de l’université de Princeton tire néanmoins la sonnette d’alarme sur la pertinence de s’appuyer sur des moteurs de recherche intégrant ces chatbots en déclarant que c’est de la « poudre de perlimpinpin. »
« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.
Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il à propos de ChatGPT.
D’ailleurs, une mouture de Microsoft Bing a affiché 2,5 milliards de personnes en réponse à la question de savoir quelle est la population de la planète Mars. La situation soulève la question de savoir si la montée en puissance de l’intelligence artificielle ne va pas plutôt amener les humains à travailler plus dur pour lutter contre la désinformation.
Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire. »
Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA (voir en source) : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.
C’est cette imprécision qui a poussé les développeurs et les experts de la filière à avertir que cette technologie ne devrait pas être utilisée pour prendre des décisions importantes pour le moment. Et pourtant, des tractations sont en cours pour son utilisation sur les champs de bataille.
Des experts US proposent de placer l’arsenal nucléaire du pays sous le contrôle d’une IA
Des chercheurs américains de l’Air Force Institute of Technology ont suggéré de placer l’armement nucléaire du pays sous le contrôle d’une intelligence artificielle capable de réagir de façon prompte en cas d’attaque. En effet, soulignent-ils, deux types d’armes nucléaires hypersoniques ont vu le jour et réduisent fortement le délai dont dispose le président pour prendre une décision en cas de détection d’une attaque militaire.
« Actuellement, nous ne disposons pas de moyens de défense efficaces contre les armes hypersoniques en raison de la façon dont elles volent. Elles se déplacent à une altitude à laquelle nos systèmes de défense actuels ne sont pas conçus pour fonctionner ; tout notre système défensif est basé sur l'hypothèse de l'interception d'un objet balistique », rapportent-ils des propos d’un autre expert du domaine. L’édition 2019 d’une revue du département de la Défense (DoD) cite la Russie et la Chine comme les principaux pays lancés dans le développement d’un tel arsenal.
« La Russie et la Chine mettent au point des missiles hypersoniques perfectionnés qui peuvent se déplacer à des vitesses exceptionnelles avec des trajectoires de vol imprévisibles qui mettent à l'épreuve nos systèmes de défense actuels », ajoute le DoD. La suggestion des chercheurs survient au moment où le Pentagone reconnaît à la Chine un avantage sur les USA en matière d’applications militaires de l’intelligence artificielle, ce, grâce à une grande collaboration entre l’armée et l’industrie technologique.
Ce système basé sur l’IA devrait être en mesure de détecter un lancement de missiles n’importe où dans le monde et d’apporter la réponse appropriée dans les délais les plus brefs. Il s’agit en quelque sorte de confier les codes nucléaires des USA à une intelligence artificielle. L’approche n’est pas sans faire penser à un système automatisé de gestion d’arsenal nucléaire utilisé par l’Union soviétique lors de la guerre froide. Ce dernier était conçu pour activer automatiquement les armes nucléaires sous certaines conditions, dont celle du décès du leader de l’Union.
« Les progrès récents de l'intelligence artificielle pourraient être mis à profit dans tous les aspects du nucléaire. L'apprentissage machine pourrait renforcer les capacités de détection des systèmes d'alerte précoce existants et améliorer la possibilité pour les analystes humains d'effectuer une analyse croisée des données de renseignement, de surveillance et de reconnaissance (ISR). L'apprentissage machine pourrait être utilisé pour renforcer la protection de l'architecture de commandement et de contrôle contre les cyberattaques et améliorer la façon dont les ressources, y compris les forces humaines, sont gérées. Les progrès de l'apprentissage machine pourraient renforcer les capacités des moyens de dissuasion non nucléaires, qu'ils soient conventionnels (systèmes de défense aérienne), électroniques (brouillage) ou cybernétiques », rapportent les chercheurs des propos d’un autre expert du domaine.
Source : Publication
Et vous ?
Quel est votre avis sur le sujet ? Qui de l’humain ou de l’intelligence artificielle est susceptible d’être à l’origine d’une catastrophe ? La comparaison de l’intelligence artificielle avec l’IA vous paraît-elle pertinente ?Voir aussi :
L'IA de génération de texte d'Elon Musk trop dangereuse pour être rendue publique, selon ses créateurs Le projet de tunnel du milliardaire de la tech Elon Musk est-il une vaste blague ? The Boring Company a inauguré son premier tunnel anti-bouchons Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC et l'Homme fusionne avec l'IA, aberration ou fiction ? Elon Musk rappelle qu'en rendant publics les brevets Tesla, il a œuvré pour le bien de la planète et l'essor du marché des véhicules électriques 
Envoyé par unanonyme
