L'Autriche veut des règles éthiques sur l'utilisation des robots tueurs dotés d'IA sur le champ de bataille,

Le pays affirme que seuls les humains doivent décider des questions de vie ou de mort

Google aide le Pentagone à développer une IA pour analyser les vidéos capturées par drone
Et certains de ses employés sont furieux

Google a confirmé qu’il permet au Pentagone d’exploiter ses technologies de reconnaissance d’image dans le cadre d’un projet militaire. Cette révélation survient après que des rapports de presse ont informé que l’IA développée par le géant de la recherche a été utilisée pour analyser les contenus vidéo capturés par drone.


Cette collaboration fait partie d’un projet appelé « Project Maven », dont le but est d’accélérer l’intégration de données massives et d’apprentissage machine au sein du Département de la Défense des États-Unis. Les détails sur le rôle que joue Google dans ce projet ne sont pas clairs, mais un communiqué de presse sur le projet a informé que Project Maven a pour but de traiter « les millions d’heures de vidéos » collectées par l’armée. Pour cette raison, le Pentagone cherche à développer une vision par ordinateur capable de mieux comprendre les vidéos, et ainsi réduire la charge sur les analystes humains qui seraient incapables de gérer l’énorme flux de contenus. En tant que propriétaire de YouTube, Google serait le candidat idéal pour trouver une solution à ce problème.

Le projet a commencé en avril dernier, mais selon des rapports de presse, beaucoup d’employés de Google n’ont appris la nouvelle de son existence que la semaine dernière via des emails internes et certains ont été furieux de savoir que leur entreprise aide les militaires à développer la technologie de surveillance requise pour les opérations par drone.

Dans un communiqué de presse, une porte-parole de Google a informé que l’entreprise fournit au Pentagone un accès à sa solution TensorFlow pour mettre en place des algorithmes de reconnaissance des objets.

« Nous avons pendant longtemps travaillé avec des agences du gouvernement pour fournir des solutions de technologie, » a dit la porte-parole. « Ce projet spécifique avec le Département de défense sert à fournir des API TensorFlow open source qui peuvent aider dans la reconnaissance d’objets sur des données non confidentielles. La technologie signale les images pour qu’elles soient évaluées par des humains, et seulement pour des utilisations non offensantes. »

TensorFlow est un outil open source d'apprentissage automatique développé par Google. Le code source a été ouvert le 9 novembre 2015 par Google et publié sous licence Apache. TensorFlow est l'un des outils les plus utilisés en IA dans le domaine de l'apprentissage machine et constitue la pièce maitresse de la stratégie du géant de la recherche pour développer son IA.

Le fait que les chercheurs du pentagone utilisent TensorFlow n’est pas une surprise, mais il est difficile de savoir si Google offre seulement une assistance technique pour manier les outils, ou bien le géant de la recherche a véritablement déployé ses ingénieurs pour aider à développer les algorithmes requis par l’armée. Et les applications sont multiples, surveiller et traquer les cibles en utilisant des drones, ou rendre intelligent le réseau de caméra CCTV de l’armée. Mais pour le moment, le Pentagone a informé que le projet se concentre sur l’identification de 38 classes d’objets liés au combat contre ISIS en Irak et en Syrie.

Ces derniers points nous interpellent sur la question d’éthique et les différentes craintes de voir émerger des applications de l’IA aussi dangereuses. La porte-parole de Google a informé que ce sujet est vivement débattu en interne et avec d’autres parties, et en même temps, la firme « continue de développer des politiques et des garanties autour du développement et l’usage des technologies de machine learning. »

Bien que le Pentagone a informé que l’IA va servir seulement pour assister les humains, il faudra noter que la prise de décision assistée par ordinateur pourrait rendre les opérateurs de drone dépendants de la technologie dont les analyses pourraient être erronées. Sans supervision, ces erreurs pourraient ne pas être relevées. Les craintes découlent aussi du fait que les États-Unis ont un recours massif aux drones de surveillance et d'assassinat ciblé.

Bien que l’ancien président de Google Eric Schmidt soit devenu un conseiller du Pentagone en 2016, le géant de la recherche a toujours cherché à se distancer de l’armée américaine, à tel point qu’il a retiré un de ses robots d’une compétition organisée par le Département de la défense.

Google n’est pas la seule entreprise impliquée dans Project Maven, Nvidia avait aussi parlé du projet auparavant dans son blog et a informé qu'elle collabore avec le Pentagone. Un expert a expliqué que la baisse des coûts des drones a favorisé la capture de vidéos, en conséquence, de vastes quantités de données ont commencé à affluer sur les centres d’analyse et d’exploitation, avec de tels volumes, impossible que des humains seuls puissent tout traiter.

« En tant que leader du développement de l’IA, Google constitue un choix évident pour le Département de défense pour travailler en partenariat, malgré les réticences des employés et des actionnaires qui ne seraient pas motivés à 100 % par cette idée de travailler avec les militaires. »

Source : BBC News

Et vous ?

Pensez-vous que la collaboration de Google avec le Pentagone rejoint son slogan "Don't be evil" ?
Pensez-vous que l'IA doit avoir plus d'applications militaires ?

Voir aussi :

Ubisoft met une IA au service des développeurs de jeux pour prédire les bogues et en identifier les causes potentielles
Intel présente son programme Intel AI : In Production conçu pour faciliter le prototypage et la production en masse d'applications d'IA
Paris appelle à la création d'une DARPA européenne financée à hauteur de 2,5 milliards par an pour garantir la souveraineté technologique de l'UE