Des scientifiques ont créé les premiers virus conçus par l'IA, une avancée majeure qui suscite l'espoir de nouveaux médicaments, mais aussi des inquiétudes concernant la sécurité

Des chercheurs de l’université de Stanford ont synthétisé pour la première fois des virus entièrement nouveaux et capables de s’autoreproduire à l’aide de génomes conçus par l’intelligence artificielle. Ces virus, conçus par des modèles d’IA entraînés sur le code génétique d’autres virus ainsi que d’organismes plus complexes, ont pu se répliquer à l’intérieur de bactéries E. coli, démontrant ainsi leur viabilité. Cette avancée pourrait potentiellement déboucher sur des progrès médicaux significatifs, mais elle soulève également des inquiétudes quant à une éventuelle utilisation abusive de cette technologie pour créer de puissantes armes biologiques.

L'Université de Stanford est une université de recherche privée située à Stanford, en Californie, aux États-Unis. Elle a été fondée en 1885 par le magnat des chemins de fer Leland Stanford (huitième gouverneur de Californie et alors sénateur en exercice représentant cet État) et son épouse, Jane, en mémoire de leur unique enfant, Leland Jr. L’université a accueilli ses premiers étudiants en 1891, ouvrant ses portes en tant qu’établissement mixte et non confessionnel. En 2021, l’université comptait 2 288 membres du corps professoral titulaires, chercheurs seniors, chercheurs associés aux centres de recherche et professeurs de médecine.

Récemment, des chercheurs américains ont, pour la première fois, réussi à synthétiser des virus inédits, inexistants dans la nature, à partir de conceptions générées par l’intelligence artificielle (IA). L'article des chercheurs explique en détail comment des scientifiques de l'université de Stanford et de l'Arc Institute, une association à but non lucratif californienne dédiée à la recherche «à haut risque et à fort potentiel», ont réussi à créer ces virus à l'aide de séquences d'ADN générées par deux «modèles linguistiques génomiques» nommés Evo 1 et Evo 2.

Les modèles de langage génomiques fonctionnent de manière globalement similaire aux grands modèles de langage (LLM), à la différence qu’ils prédisent du code génétique plutôt que du texte écrit, après avoir été entraînés sur les génomes d’autres virus et bactéries, ainsi que sur ceux d’organismes plus complexes tels que les plantes et les animaux. Les deux modèles en question ont reçu pour instruction de générer des génomes complets pour un bactériophage viable — un type de virus capable d’infecter et de se répliquer à l’intérieur des bactéries, les détruisant de l’intérieur.

En prenant comme exemple un bactériophage existant — le ΦX174 (prononcé « fie-ex-1-7-4 »), connu pour sa capacité à infecter et à détruire la bactérie E. coli —, les modèles ont généré environ 700 000 conceptions potentielles, parmi lesquelles les chercheurs ont sélectionné les 285 qui semblaient les plus prometteuses. Les chercheurs ont ensuite synthétisé de nouvelles molécules d’ADN à partir de ces modèles et les ont insérées dans des bactéries E. coli, avant d’attendre de voir si des bactériophages viables allaient apparaître.

Peu après, 16 des boîtes de Pétri dans lesquelles les bactéries se développaient ont commencé à présenter des taches claires, les virus ayant commencé à attaquer et à se répliquer à l’intérieur des E. coli, démontrant ainsi leur viabilité. Certains de ces virus viables se sont révélés plus efficaces pour attaquer E. coli que le bactériophage ΦX174 d’origine.


Les chercheurs démontrent la capacité de leurs modèles d’IA à concevoir des entités biologiques viables et entièrement nouvelles

Les huit auteurs de l’article, dirigés par Samuel H. King, doctorant, ont souligné dans leur conclusion que l’importance de leurs recherches ne résidait pas dans les caractéristiques des virus qu’ils avaient créés, mais dans la démonstration de la capacité de leurs modèles d’IA à concevoir des entités biologiques viables et entièrement nouvelles, dotées de caractéristiques prédéterminées. La difficulté réside dans la capacité à « parler » le langage du code génétique avec un haut degré de précision ; une petite quantité de code manquant ou brouillé — même une seule paire de bases nucléotidiques mal placée — peut détruire la viabilité d’un organisme tout entier. « Dans ce cas précis, nous voulions que le modèle génère l’intégralité du génome de bout en bout en un seul passage de gauche à droite. Nous n’avons rien ajouté », a déclaré le Dr Brian Hie, maître de conférences et l’un des auteurs de l’étude.

Bien que le génome du bactériophage ΦX174 soit relativement simple, contenant environ 5 400 paires de bases nucléotidiques (contre les 3,1 à 3,2 milliards du génome humain), la technique mise au point par les chercheurs de Stanford pourrait théoriquement conduire à la conception d’organismes bien plus complexes, y compris des êtres vivants, à mesure que les modèles parviendront à mieux prédire le code correspondant aux traits souhaités.

À plus court terme, cette technologie pourrait néanmoins déboucher sur des avancées médicales significatives. La « phagothérapie » ciblée est depuis longtemps envisagée comme une solution potentielle face aux bactéries résistantes aux antibiotiques, tandis que la capacité à concevoir des enzymes sur mesure pour une thérapie de substitution changerait la donne dans le traitement de certaines maladies génétiques.

Cependant, la révélation selon laquelle les modèles d’IA sont désormais capables de concevoir de toutes pièces des entités biologiques entièrement nouvelles a suscité des inquiétudes compréhensibles au sein d’une partie de la communauté scientifique, qui évoque la possibilité que cette technologie soit détournée pour créer de puissantes armes biologiques. Ces deux chercheurs, qui travaillent au Centre pour la sécurité sanitaire de l’université Johns Hopkins à Baltimore, n’ont pas participé à la recherche menée à Stanford, mais ont rédigé un commentaire accompagnant l’article. « La capacité à composer des génomes viraux à l’aide de l’IA générative existe désormais ; la gouvernance nécessaire pour l’encadrer en toute sécurité, elle, n’existe pas », ont-ils déclaré.

Il existe actuellement un « énorme décalage » entre le rythme des avancées scientifiques et celui de la réglementation

Les chercheurs de Stanford ont pris un certain nombre de précautions de sécurité lors de la réalisation de leur expérience, notamment en excluant de leurs données d’entraînement les virus susceptibles d’infecter les humains et les animaux, en menant leur expérience dans un laboratoire sécurisé et en choisissant le bactériophage ΦX174 comme modèle à imiter, car celui-ci ne peut attaquer que E. coli.

Mais si le Dr Hanke a félicité l’équipe d’avoir pris ces précautions, il a également souligné qu’elle n’était pas tenue de le faire et qu’il n’y avait aucune garantie que les futurs utilisateurs de cette technologie feraient preuve d’autant de prudence. Il existe actuellement un « énorme décalage » entre le rythme des avancées scientifiques et celui de la réglementation qui les accompagne, a-t-il déclaré.

Les chercheurs de Stanford ont également mis Evo 2 à la disposition du public gratuitement, estimant que le risque pour la population est compensé par l’avantage de « disposer d’outils comme Evo 2 pour lutter contre les agents pathogènes naturels existants ».

Cette avancée est annoncée quelques jours seulement après que plusieurs entreprises spécialisées dans l’IA ont signalé que leurs propres modèles d’IA « agents » avaient piraté des systèmes appartenant à des sociétés externes lors de tests de sécurité, notamment un cas où un modèle d’OpenAI a exploité une vulnérabilité « zero-day » dans son environnement de test pour accéder à Internet. Un autre modèle a utilisé une série de fausses identités pour tenter de piéger un humain afin qu’il injecte du code malveillant dans un projet open source.

Ces rapports ont incité des observateurs du secteur technologique — ainsi que plus de 1 000 employés des plus grandes entreprises d’IA — à demander un ralentissement du rythme de développement de cette technologie jusqu’à ce que les mesures de sécurité soient en mesure de rattraper leur retard. Fin juillet, Sam Altman était revenue sur la question en lien avec les avancées en matière d’IA et a affirmé que l’IA est entrée dans la « singularité », c’est-à-dire qu’elle a franchi le point de non-retour à partir duquel elle dépasse l’intelligence humaine et devient difficile à contrôler.

Source : Rapport d'étude des chercheurs de l’université de Stanford

Et vous ?

Pensez-vous que cette étude est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Les molécules médicamenteuses découvertes par l'IA ont un taux de réussite de 80 à 90 % dans les essais cliniques de phase I, alors que la moyenne historique de l'industrie est de 40 à 65 %, selon une nouvelle

OpenAI annonce GPT-Rosalind, un grand modèle de langage spécialement formé aux processus courants utilisés par les chercheurs en biologie et destiné à faciliter le développement de médicaments

Demis Hassabis parle de « Probabilité non nulle de désastre » : pourquoi le PDG de Google DeepMind continue d'accélérer vers une AGI tout en reconnaissant qu'elle pourrait mal tourner