Face au scepticisme croissant envers l'IA, Dario Amodei, PDG d'Anthropic, affirme que le seul moyen pour l'IA de gagner la confiance du public est de « réellement » guérir le cancer

Face au scepticisme croissant et à la perte de confiance envers l’IA, le PDG d’Anthropic, Dario Amodei, a mis en avant ce qui, selon lui, pourrait permettre au secteur de regagner la confiance des sceptiques. Dario Amodei estime que les entreprises spécialisées dans l’IA peuvent regagner la confiance du public en réalisant des avancées concrètes, mais les détracteurs font valoir qu’une plus grande transparence, un meilleur accès et une responsabilité accrue seront également nécessaires. « La critique la plus justifiée à l’encontre des entreprises d’IA, y compris Anthropic, est que nous n’avons pas encore tenu nos grandes promesses au service du monde. » « Ce qui fonctionnera, c’est de guérir réellement le cancer », a-t-il ajouté.

Des militants anti-IA affirment que les avancées en matière d’intelligence artificielle représentent une menace existentielle pour l’humanité. Ils soutiennent en sus que l'expansion de l'IA entraîne de graves problèmes sociétaux et environnementaux, notamment des suppressions d'emplois massives, une empreinte carbone et une empreinte hydrique considérables liées aux centres de données, ainsi que l'utilisation contraire à l'éthique de systèmes autonomes dans le cadre des conflits armés. Ces initiatives portées par des groupes comme Action Model font suite à d’autres initiées par des mouvements comme Pause AI et qui pointaient uniquement l’aspect menace existentielle sur l’humanité.

Face au scepticisme croissant et à la perte de confiance envers l’IA, le PDG d’Anthropic, Dario Amodei, a mis en avant ce qui, selon lui, pourrait permettre au secteur de regagner la confiance des sceptiques. Dans un récent message publié sur X, Amodei a déclaré que le meilleur moyen pour les entreprises spécialisées dans l’IA de changer la perception du public était de tenir les promesses qu’elles ont faites et de produire des avancées scientifiques concrètes.

Dario Amodei est un chercheur et entrepreneur américain spécialisé dans l'intelligence artificielle (IA). En 2021, il a cofondé avec sa sœur Daniela Amodei la société Anthropic, à l'origine de la série de grands modèles linguistiques Claude. Auparavant, il occupait le poste de vice-président de la recherche chez OpenAI. En tant que PDG d’Anthropic, Amodei écrit souvent sur les avantages et les risques des systèmes d’IA avancés. Il est partisan d’une stratégie d’« entente » dans laquelle une coalition de nations démocratiques utiliserait des systèmes d’IA avancés dans des applications militaires afin d’obtenir un avantage décisif sur ses adversaires, tout en partageant les bénéfices avec les nations coopérantes.


Dans son message, il a reconnu la méfiance du public à l’égard de l’IA et a fait valoir que le secteur ne peut changer cette perception qu’en produisant des résultats significatifs. Il a déclaré : « À ce stade, affirmer que l’IA va guérir le cancer relève davantage du cliché que de l’inspiration, et la plupart des gens considèrent cela comme trompeur », a écrit Amodei. « La critique la plus justifiée à l’encontre des entreprises d’IA, y compris Anthropic, est que nous n’avons pas encore tenu nos grandes promesses au service du monde. » « Ce qui fonctionnera, c’est de guérir réellement le cancer », a-t-il ajouté.

Le développement d’énormes centres de données qui consomment des ressources publiques et perturbent les communautés à travers le pays, ainsi que des problèmes tels que l’extraction de données en ligne protégées par des droits d’auteur pour entraîner des modèles d’IA, n’ont pas été bien accueillis par le public. Une récente étude a révélé qu’environ la moitié des Américains estimaient que la présence croissante de l’IA dans leur vie quotidienne les rendait plus inquiets qu’enthousiastes quant à l’avenir.

Face à cette levée de boucliers croissante, Amodei s’est imposé comme une voix de premier plan mettant en garde contre les risques potentiels de l’IA. Il a souligné à plusieurs reprises les dangers d’un développement rapide de l’IA dans des essais et des articles publiés sur le blog d’Anthropic. Dans un essai publié en juin, il a déclaré que les nouveaux modèles Mythos présentaient des « risques très réels » pour la cybersécurité, le secteur financier, les infrastructures critiques et la sécurité nationale. Il a également fait part de ses inquiétudes quant à l’impact potentiel de l’IA sur les emplois de premier échelon.

Amodei a fait valoir que la méfiance du public à l’égard des entreprises d’IA s’inscrit dans un scepticisme beaucoup plus large envers les grandes entreprises, plutôt que d’être uniquement due au secteur de l’IA. Cependant, les détracteurs soutiennent que les pratiques propres au secteur, en particulier la décision prise par de grandes entreprises d’IA telles qu’Anthropic de ne pas rendre publics leurs modèles les plus avancés, contribuent également à cette méfiance.


Voici le message de Dario Amodei :

Merci Gavin pour cet échange particulièrement réfléchi. Je ne passe généralement pas beaucoup de temps sur les réseaux sociaux, mais j’ai tenu à intervenir ici car cela met vraiment en lumière le cœur d’une conversation importante.

Tout d’abord, en ce qui concerne la réglementation, je pense que le choix entre « la concentrer entre les mains d’une poignée d’entreprises et de responsables politiques triés sur le volet par le biais de la réglementation, ou la diffuser largement » est un faux dilemme. Je sais qu’il existe une sorte de raccourci propre à la Silicon Valley selon lequel réglementation = captation réglementaire = concentration du pouvoir, mais j’ai toujours trouvé que c’était une vision trop simpliste du monde. Beaucoup de personnes en dehors de cette bulle considèrent la réglementation comme un moyen de limiter le pouvoir des entreprises et de profiter aux citoyens ordinaires. Je ne partage pas nécessairement ce point de vue non plus ; je pense plutôt que la question est complexe et dépend vraiment de la nature de cette « réglementation ». Mais je pense notamment que ceux qui s’inscrivent dans le schéma « réglementation = captation réglementaire = concentration du pouvoir » sous-estiment souvent le pouvoir décentralisateur de processus institutionnels objectifs et équitables. Pour faire une analogie un peu grossière, on peut dire que le système judiciaire formel peut parfois paraître guindé et élitiste, mais qu’il défend bien mieux les droits des personnes vulnérables que l’alternative, à savoir la justice populaire. À leur meilleur, les institutions peuvent conférer du pouvoir aux idées plutôt qu’aux personnes, et ainsi décentraliser ce pouvoir.

C’est pourquoi Anthropic a toujours formulé ses propositions politiques avec beaucoup de prudence. Nous nous efforçons de formuler des propositions qui désavantagent (ralentissent) les entreprises pionnières en IA tout en *favorisant* leurs concurrents de plus petite taille. Le projet de loi californien SB 53 (que nous avons soutenu), et même le très décrié SB 1047 (sur lequel nous avions une position ambivalente), exemptent totalement de toute obligation toute entreprise dont le chiffre d’affaires ou les coûts de formation des modèles sont inférieurs à un certain seuil (ce seuil était de 500 millions de dollars pour le SB 53, et plus bas pour le SB 1047, mais nous nous y sommes opposés). Plus récemment, le processus de test que nous avons préconisé au sein du CAISI et à la Maison Blanche prévoit des tests plus rigoureux pour les modèles de pointe que pour les modèles non de pointe — ce qui avantagerait de manière différentielle les challengers. De même, la lettre « Pacing the Frontier » envisage (ou du moins, c’est ce que prévoit la mise en œuvre privilégiée par Anthropic) de moduler le rythme des tout meilleurs modèles sans pour autant freiner ceux qui sont en train de rattraper leur retard. Cela nuit aux intérêts commerciaux des laboratoires de pointe et favorise les challengers, y compris les modèles à poids ouverts !

Dans l’ensemble, je considère que l’IA est *structurellement* une technologie qui tend à concentrer le pouvoir, pour des raisons qui n’ont rien à voir avec la réglementation (mais plutôt avec les implications extrêmes des lois d’échelle). Les poids ouverts contribuent certes quelque peu à remédier à ce problème, mais sont loin d’être une solution suffisante, car ils ne font que déplacer quelque peu cette concentration vers ceux qui disposent de la plus grande puissance de calcul et du plus grand nombre de puces (à savoir, en gros, les laboratoires de pointe et peut-être les fournisseurs de matériel). En revanche, je pense que des « règles du jeu » appropriées peuvent simultanément (a) traiter les risques cybernétiques, biologiques et d’alignement liés à l’IA, (b) limiter institutionnellement le pouvoir des entreprises pionnières de l’IA, et (c) laisser une place aux modèles à poids ouverts tout en traitant les risques spécifiques qu’ils comportent.

Soit dit en passant, je ne pense pas que les événements de ces derniers mois aient « empêché la mise en place de [ma] voie réglementaire préférée ». L’approche que l’administration Trump serait en train d’adopter — des tests préalables au déploiement pour les modèles de pointe, ainsi que des tests des modèles à paramètres ouverts lorsqu’ils se rapprochent de la pointe — est une approche que je soutiens pleinement, même si je dois bien sûr en examiner les détails pour m’en assurer. Je soutiens également les idées de Demis Hassabis concernant la création d’une entité similaire à la FINRA. Cela contraste avec la situation d’il y a six mois, lorsque la majeure partie du secteur militait encore en faveur d’une préemption de toute réglementation étatique et qu’aucune approche fédérale ne semblait se dessiner.

Deuxièmement, en ce qui concerne le discours sur l’IA. Je ne suis pas d’accord pour dire que mon discours a été disproportionnellement négatif. En réalité, il a été à peu près équilibré entre les risques et les avantages : j’ai écrit un essai majeur sur chacun d’entre eux, et même dans les interviews où j’aborde les risques, je veille à mentionner fréquemment les avantages incroyables ainsi qu’à proposer des solutions possibles aux risques (les courts extraits de mes interviews qui se retrouvent sur les réseaux sociaux ont tendance à être disproportionnellement négatifs, car cela génère des clics). En réalité, j’ai écrit *Machines of Loving Grace* parce que j’avais le sentiment que le secteur de l’IA ne présentait pas une vision suffisamment inspirante de la manière dont cette technologie pourrait transformer radicalement le monde pour le mieux. La majeure partie de cet essai est consacrée à réfuter le scepticisme quant au potentiel de l’IA dans les domaines de la santé et de la biologie, et à montrer pourquoi je pense qu’il sera réellement possible de guérir la plupart des maladies humaines d’ici environ 5 à 10 ans, aussi fou que cela puisse paraître aux yeux du grand public et, franchement, aux biologistes eux-mêmes (j’en ai moi-même fait partie !). De plus, si vous lisez mon dernier essai (« Policy on the AI Exponential »), j’y présente des propositions concrètes visant à rationaliser le processus de la FDA afin de garantir que l’avalanche de médicaments développés grâce à l’IA ne soit pas ralentie par les procédures réglementaires. Je ressens une réelle urgence à ce sujet : j’ai perdu mon père des suites de l’hépatite C quelques années seulement avant la mise au point des antiviraux à action directe (sofosbuvir), qui guérissent 95 % des patients et l’auraient probablement guéri lui aussi.

Je reconnais que le grand public a une opinion négative de l’IA (et que c’est un problème majeur), mais je ne pense pas que cela soit principalement dû à moi-même ou à d’autres leaders du secteur de l’IA qui mettent en garde contre ses risques. Je pense qu’il s’agit fondamentalement d’une crise de confiance. Je pense que les gens ordinaires ne font pas confiance aux entreprises, aux gouvernements ou au secteur technologique, et soupçonnent toujours que nous sommes en train de...