Un accord récemment signé par plus de 90 scientifiques de renom, dont des lauréats de prix Nobel, vise à encadrer l'utilisation de l'intelligence artificielle (IA) dans le domaine de la biologie, en particulier pour éviter le développement d'armes biologiques potentiellement dévastatrices. L'accord reconnaît que bien que les avancées de l'IA offrent des opportunités considérables dans la recherche biologique, elles présentent également des risques si elles étaient mal utilisées, notamment par des acteurs malveillants.L'initiative fait suite à des préoccupations soulevées lors d'un témoignage devant le Congrès par Dario Amodei, directeur général d'Anthropic, une entreprise spécialisée dans l'IA. Amodei a averti que les progrès de l'IA pourraient potentiellement faciliter la création et la propagation d'armes biologiques par des individus mal intentionnés.
Les signataires de l'accord, notamment des experts en IA et en biologie, reconnaissent les bénéfices potentiels de l'IA pour la conception de protéines, tout en soulignant la nécessité de réglementer l'utilisation des technologies nécessaires à la création de matériel génétique. Cette régulation vise à prévenir l'utilisation abusive de l'IA dans la fabrication d'armes biologiques. Cependant, des études récentes menées par Anthropic et OpenAI ont montré que les modèles d'IA actuels ne représentent qu'un faible risque immédiat en matière de sécurité biologique, mais des préoccupations persistent quant à leur potentiel futur.
Les biologistes signataires de l'accord appellent à un renforcement des mesures de sécurité pour contrôler l'accès aux équipements de fabrication d'ADN et préconisent un examen approfondi des nouveaux modèles d'IA avant leur déploiement. En résumé, l'accord vise à promouvoir un usage responsable de l'IA dans la recherche biologique, tout en minimisant les risques potentiels pour la sécurité mondiale.
Aujourd'hui, plus de 90 biologistes et autres scientifiques spécialisés dans les technologies d'IA utilisées pour concevoir de nouvelles protéines - les mécanismes microscopiques à l'origine de toutes les créations en biologie - ont signé un accord visant à garantir que leurs recherches assistées par l'IA progresseront sans exposer le monde à de graves préjudices.
Les progrès de l'intelligence artificielle créent des opportunités sans précédent pour la recherche en sciences de la vie, notamment en permettant la conception de molécules biologiques fonctionnelles, en particulier les protéines. Cette application de l'IA à la conception de protéines recèle un immense potentiel pour améliorer notre compréhension du monde et contribuer à relever certains des défis les plus pressants de l'humanité en permettant des réponses rapides aux épidémies de maladies infectieuses, en guérissant de nombreuses maladies, en libérant des sources d'énergie durables, en aidant à atténuer le changement climatique, et bien plus encore.
« En tant que scientifiques engagés dans ce travail, nous pensons que les avantages des technologies actuelles de l'IA pour la conception de protéines dépassent largement le potentiel de nuisance et nous voudrions nous assurer que notre recherche reste bénéfique pour tous à l'avenir. Compte tenu des avancées attendues dans ce domaine, une nouvelle approche proactive de la gestion des risques pourrait s'avérer nécessaire pour atténuer le risque de développement de technologies d'IA susceptibles d'être utilisées à mauvais escient, intentionnellement ou non, pour nuire à autrui. Nous sommes donc motivés, en tant que communauté, à formuler un ensemble de valeurs et de principes pour guider le développement responsable des technologies d'IA dans le domaine de la conception des protéines.
« Ces valeurs comprennent la sûreté, la sécurité, l'équité, la collaboration internationale, l'ouverture, la responsabilité et la poursuite de la recherche au profit de la société. En outre, en tant que signataires, nous acceptons volontairement une série d'engagements spécifiques et réalisables, fondés sur ces valeurs et principes et décrits ici. Nous collaborerons avec les parties prenantes du monde entier - universités, gouvernements, société civile et secteur privé - pour faire en sorte que cette technologie se développe de manière responsable et digne de confiance et qu'elle soit sûre, sécurisée et bénéfique pour tous » déclarent les chercheurs.
Valeurs et principes directeurs
Pour le bien de la société : le développement responsable de technologies d'IA pour la conception de protéines a le potentiel de générer de nouvelles connaissances et d'aider à résoudre certains des problèmes les plus critiques du monde. Cette communauté collaborera avec les gouvernements, la société civile, les bailleurs de fonds scientifiques, les universitaires et le secteur privé pour veiller à ce que notre recherche profite à la société, notamment en utilisant la conception de protéines pour aider à se défendre contre les pandémies et d'autres situations d'urgence. Ils poursuivent les applications qui visent à promouvoir la santé, la durabilité, la sécurité et la connaissance scientifique et ils disent s’abstenir de celles qui sont susceptibles de causer des dommages, qu'ils soient accidentels ou intentionnels.
Sûreté et sécurité : Étant donné qu'aucune protéine conçue par calcul ne peut causer de dommages dans le monde réel si elle n'est pas produite physiquement, la fabrication d'ADN synthétique constitue...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.