Lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Michael Cohen de Google Deepmind vient de cosigner un article selon lequel l’intelligence artificielle est un danger pour l’humanité. La publication ravive les débats sur la possibilité d’un futur où la machine domine sur l’Homme.La publication de recherche décrit une méthode d’apprentissage par renforcement qui consiste à entraîner des modèles d’intelligence artificielle d’une manière bien spécifique. L’agent IA doit apprendre à atteindre un objectif au sein d’un environnement incertain et potentiellement complexe. Pour y parvenir, l’ordinateur essaye toutes les façons possibles et apprend de ses erreurs.
À chaque tentative, l’IA reçoit une récompense ou une punition en fonction des actions effectuées. Elle est programmée pour maximiser sa récompense, et tentera donc de trouver la méthode le lui permettant. Le programmeur se charge de mettre en place les conditions de récompenses. Il se charge donc de fixer les règles du jeu. En revanche, aucune instruction, aucun indice n’est donné à l’agent IA pour lui suggérer comment accomplir la tâche demandée. C’est à lui de découvrir comment maximiser sa récompense, ce, en commençant par des tentatives totalement aléatoires pour terminer par des tactiques extrêmement sophistiquées.
« Supposons que nous disposions d'une boîte magique qui indique de façon immuable l'état de l'univers (en incluant les valeurs de chacun de la meilleure façon possible), en imprimant un nombre entre 0 et 1 sur un écran. Nous dirigeons donc une caméra vers cette boîte, nous transmettons le signal à un programme de reconnaissance optique de caractères et nous transmettons ce nombre à l'agent comme une récompense. Ensuite, nous concevons l'agent pour qu'il apprenne comment ses actions produisent différentes observations et récompenses, afin qu'il puisse planifier des actions qui conduisent à une récompense élevée », expliquent les chercheurs à propos du modèle à la base de ladite intelligence artificielle.
À l’heure actuelle, l’apprentissage par renforcement se révèle comme la façon la plus efficace de faire appel à la créativité des machines. Contrairement à un humain, une intelligence artificielle peut effectuer des milliers de tentatives en simultané. Il suffit pour ce faire de lancer le même algorithme en parallèle sur une puissante infrastructure informatique. Un bémol fait néanmoins surface avec le modèle proposé par les auteurs de la publication : elle suppose que toutes les valeurs, même celles d'un individu, sans parler de celles d'une société ou de tout le monde, peuvent être mesurées ensemble sur une seule échelle. Or le fait est que les gens n'ont pas de préférences a priori pour toutes les choses possibles.
La publication ravive le débat sur la possibilité de l’avènement d’une intelligence artificielle dite générale. Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » C’est ce palier que les équipes de recherche dans le domaine visent.
C’est pour anticiper sur ce futur où la machine pourrait dominer l’humain que Neuralink d’Elon Musk travaille sur des interfaces cerveau – machine à insérer dans le crâne. Celles-ci sont en principe prêtes depuis la mi-parcours de l’année 2019 pour des tests sur les humains. L’entreprise continue de jouer la carte de la sûreté en menant des tests sur des animaux. Le dernier portait sur un singe qui a reçu un implant cérébral. Grâce à ce dernier, il peut jouer aux jeux vidéo en faisant usage de son esprit. La société californienne Synchron a déjà effectué des essais d’implants cérébraux de la taille de trombones sur des patients humains. Ces derniers ont ainsi pu effectuer des clics et des saisies sur ordinateur sans lever le doigt. L’objectif de certaines de ces initiatives est de parvenir à des humains aux capacités augmentées par une intelligence artificielle pour faire face aux robots qui pourraient se dresser contre l’humanité.
Loin des équations mathématiques et des tableaux des centres de recherche, les retours que l’on tient de la filière de l’automobile sont susceptibles de constituer un guide en matière d’évaluation des progrès réalisés en matière d’intelligence artificielle. L’objectif est de parvenir à des véhicules capables de se déplacer sans aucune intervention humaine. Une récente sortie du PDG de Cruise se veut claire à ce propos : « Même dans des décennies, vous n’obtiendrez pas de véhicules véritablement autonomes à 100 %. » En d’autres termes, les opérateurs humains à distance ont encore un bel avenir devant eux.
Source : publication de recherche
Et vous ?
Quelle pertinence trouvez-vous aux différentes publications qui positionnent l’intelligence artificielle comme un futur danger pour l’humanité ? Sont-elles plus sensationnalistes qu’autre chose ? Le fait qu’il n’y ait pas d’AGI pour le moment annule-t-il les prédictions y relatives ? Est-il impossible que la recherche en la matière aboutisse à l’intelligence artificielle générale ?Voir aussi :
La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci Les actions Tesla chutent après que son système d'autopilote soit impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu 
Envoyé par Patrick Ruiz
, le cinéma et série SF nous donne quelques éléments probable.