La prolifération des articles scientifiques falsifiés générés par IA de type GPT sur Google Scholar : une menace croissante pour l'intégrité de la recherche académique

Des chercheurs mettent en garde

L'IA : une menace pour les postes des développeurs informatique humains dans les années à venir ?
C’est ce que suggère la page deathbyai.com qui liste en sus d’autres métiers comme la médecine

Le site deathbyai.com, à la manière de gcemetery.co – connu comme le cimetière des projets de Google, dresse une liste de métiers menacés par la montée en puissance de l’intelligence artificielle et le métier de programmeur informatique en fait partie. Pure spéculation ? Le fait est que les grandes enseignes technologiques semblent s’être lancées dans une révolution de la filière du génie logiciel. Microsoft a fait le premier pas avec GitHub et Copilot, son intelligence artificielle de suggestion de blocs de code. Google veut semble-t-il aller encore plus loin avec un projet secret qui cherche à créer un code capable de s'écrire, de se corriger et de se mettre à jour tout seul. L'initiative s'appuie sur les avancées en matière d'intelligence artificielle. Elle ravive le débat sur la possible disparition d'informaticiens humains à l'avenir.


L'initiative de Google baptisée AI Developer Assistance fait partie des paris de Google dans le domaine de l'intelligence artificielle générative. Les détails du fonctionnement de cet outil à but révolutionnaire restent un mystère. Cependant, certains qui ont été mis en lumière dressent un tableau très intéressant de ce que l'on peut attendre de ce projet. Pitchfork, ou AI Developer Assistance, est en soi un outil qui utilise l'apprentissage automatique pour apprendre au code à s'écrire et se réécrire lui-même.

Comment ? En apprenant des styles correspondant à des langages de programmation, et en appliquant ces connaissances pour écrire de nouvelles lignes de code. L’intention initiale derrière ce projet était de de créer une plateforme capable de mettre automatiquement à jour la base de code Python chaque fois qu'une nouvelle version était publiée, sans nécessiter l'intervention ou l'embauche d'un grand nombre d'ingénieurs.

Cependant, le potentiel du programme s'est avéré beaucoup plus important que prévu. Désormais, l'intention est de donner vie à un système polyvalent capable de maintenir un standard de qualité dans le code, mais sans dépendre de l'intervention humaine dans les tâches de développement et de mise à jour.

Les responsables de Google doivent résoudre plusieurs problèmes avant de le montrer au public. Au-delà des aspects techniques qu’il reste encore à couvrir, le plan juridique et le plan éthique ne seront pas en reste. En effet, la firme californienne a été au centre de la scène à mi-parcours de l’année dans l'affaire de l'ingénieur licencié pour avoir déclaré que LaMDA, son modèle d'intelligence artificielle pour les conversations en langage naturel, avait montré des signes de sensibilité similaires à ceux d’un humain.

L’initiative Pitchfork ravive le débat sur la future disparition des développeurs. En effet, lorsqu’on parle d’intelligence artificielle, deux grands courants de pensée s’affrontent : celui des tiers qui pensent qu’il s’agit d’un outil, ce, sans plus et celui des intervenants et observateurs qui sont d’avis que ce n’est qu’une question de temps avant qu’elle ne devienne une menace pour la race humaine. Les retours sur le débat s’accumulent et certains laissent filtrer que l’intelligence artificielle générale pourrait nous tomber dessus dans 5 à 10 ans.



Les machines seraient alors dotées de « bon sens. » Au stade d’intelligence artificielle générale, elles seraient capables de réflexion causale, c’est-à-dire de cette capacité à raisonner sur « le pourquoi les choses se produisent. » Des intiatives comme Pitchfork se trouveraient alors en pôle position pour provoquer une mise au garage des informaticiens humains.

En attendant d’y être, l’intelligence artificielle actuelle fait montre de limites importantes. Bien qu’on s’appuie déjà sur celle-ci pour diagnostiquer des maladies, effectuer des traductions ou encore transcrire des paroles, le fait est qu’elle continue à faire montre de tares qui indiquent que la mise au rebut des programmeurs humains n’est pas pour demain. GitHub Copilot par exemple est critiqué par la communauté du logiciel open source pour sa reproduction aveugle des blocs de code. De facon plus précise, cette intelligence artificielle produit du code en s’appuyant sur du contenu protégé par le droit d’auteur.



Des informaticiens de l'Université de Stanford ont découvert que les développeurs qui acceptent l'aide d'outils d'IA comme Github Copilot produisent un code moins sécurisé que ceux qui ne les utilisent pas. Dans un article intitulé « Les utilisateurs écrivent-ils plus de code non sécurisé avec des assistants IA ? », les experts de Stanford Neil Perry, Megha Srivastava, Deepak Kumar et Dan Boneh répondent à cette question par l'affirmative. Pire encore, ils ont constaté que l'aide de l'IA avait tendance à tromper les développeurs sur la qualité de leur production.

Source : deathbyai.com

Et vous ?

Les développements en cours dans la filière du génie logiciel donnent-ils lieu à des inquiétudes légitimes quant à l’avenir des informaticiens humains dans la filière ?
Que vous suggère la possibilité que la recherche aboutisse à l’intelligence artificielle générale dans 5 à 10 ans ?
Comment voyez-vous l'intelligence artificielle dans 5 à 10 ans ? Comme un outil ou comme un danger pour votre poste de développeur ?

Voir aussi :

La conduite autonome serait-elle à ce jour qu'une vision futuriste chez Tesla Motors ? L'entreprise vient de changer les objectifs de son Autopilot
La SEC demande à Musk de renoncer à son poste de président de Tesla et exige une amende de 40 millions $ US pour un règlement à l'amiable
Tesla annonce que le nouvel ordinateur pour une conduite entièrement autonome de ses véhicules est en production et fera ses preuves ce mois-ci
Les actions Tesla chutent après que son système d'autopilote soit impliqué dans un accident et l'annonce des batteries de ses véhicules prenant feu