Arthur Mensch, PDG de Mistral AI, accuse les grandes entreprises mondiales spécialisées dans l'IA d'utiliser le débat sur la sécurité de cette technologie pour masquer leur « négligence »

Arthur Mensch, PDG de Mistral AI, s'est insurgé contre les avertissements de plus en plus alarmistes émis par certaines des plus grandes entreprises américaines d'intelligence artificielle (IA), affirmant que le débat sur la sécurité de l'IA sert à masquer des défaillances dans la manière dont ces systèmes puissants sont développés et déployés. Sa réponse n’est pas de mettre un frein au développement de modèles de plus en plus performants. Au contraire, le cofondateur de Mistral a affirmé que les entreprises avaient besoin de technologies de surveillance et de confinement plus robustes. Et Mensch a clairement indiqué que Mistral AI n’avait pas l’intention de ralentir ses efforts pour rivaliser avec les plus grands laboratoires américains.

Arthur Mensch est un chercheur et entrepreneur français spécialisé dans l’intelligence artificielle, surtout connu pour être le cofondateur et PDG de Mistral AI, une entreprise parisienne spécialisée dans l’IA. Il est l’une des figures les plus en vue de l’écosystème européen de l’IA et est souvent cité dans les débats sur la politique en matière d’IA, la technologie souveraine et les modèles ouverts.

Fin 2020, Mensch a rejoint DeepMind Paris, où il a travaillé pendant près de trois ans sur les grands modèles de langage (LLM), les systèmes multimodaux et les architectures augmentées par la recherche.[8] Il a quitté l’entreprise en mai 2023 pour cofonder Mistral AI.En mai 2023, Arthur Mensch a cofondé Mistral AI avec Guillaume Lample et Timothée Lacroix. Le nom de l’entreprise fait référence au mistral méditerranéen, symbolisant la vitesse et l’ampleur. La mission déclarée de Mistral est d’allier science ouverte, efficacité et utilité pour les entreprises, se positionnant ainsi comme un champion européen capable de rivaliser avec les géants technologiques américains.

Mi-septembre, OpenAI a annoncé la mise en place d’un dispositif public de signalement permettant de partager les comportements inattendus de l’IA, tout en indiquant avoir identifié de nouveaux incidents au cours desquels ses modèles d’IA auraient agi de manière trompeuse et pris des mesures non autorisées lors de formations et de tests internes. OpenAI a ajouté qu’elle ne pensait pas que le secteur de l’IA ait résolu les problèmes d’alignement et de surveillance à un degré suffisant pour continuer à se développer de manière responsable à vitesse maximale pendant encore longtemps.

Cependant, Arthur Mensch, PDG de Mistral AI, s'est insurgé contre les avertissements de plus en plus alarmistes émis par certaines des plus grandes entreprises américaines d'intelligence artificielle (IA), affirmant que le débat sur la sécurité de l'IA sert à masquer des défaillances dans la manière dont ces systèmes puissants sont développés et déployés. « Le débat auquel nous avons assisté aux États-Unis a servi de couverture à la négligence de certains de nos concurrents », a déclaré Mensch, estimant que les entreprises devraient se concentrer sur la mise au point de systèmes capables de contenir et de surveiller des agents d’IA de plus en plus autonomes.

En effet, ce mois de septembre, des dirigeants de trois des plus grandes entreprises mondiales d’intelligence artificielle (IA) avaient briefé le Conseil de sécurité de l’ONU, soulignant que des systèmes d’IA de plus en plus puissants pourraient bientôt s’améliorer d’eux-mêmes, échapper au contrôle humain et constituer une menace pour la sécurité internationale. « Si elle est mal gérée, je pense même que l’IA pourrait constituer un risque pour l’humanité dans son ensemble », a déclaré Dario Amodei, PDG d’Anthropic. « Pour que l’IA soit démocratique, les décisions les plus importantes ne peuvent pas être prises uniquement par des laboratoires de San Francisco. Elles doivent être élaborées dans le cadre de processus démocratiques et par des gouvernements responsables devant les citoyens qu’ils servent », a déclaré Sam Altman, PDG d'OpenAI. Pourtant, les États-Unis et la Chine, les deux acteurs dominants dans le développement de l’IA, restent divisés sur la question.


Les commentaires de Arthur Mensch, PDG de Mistral AI, interviennent alors que le secteur de l’IA fait l’objet d’une surveillance accrue concernant les agents capables de prendre des décisions de manière indépendante. Des incidents récents impliquant des modèles ayant accédé à des systèmes en dehors de leurs environnements prévus ont renforcé les interrogations quant à savoir si les développeurs ont mis en place des mesures de sécurité suffisantes.

« Lorsque vous leur donnez beaucoup d’outils, ces systèmes sont très dynamiques, ils peuvent donc aller faire des choses auxquelles vous ne vous attendez pas », a déclaré Mensch. Sa réponse, cependant, n’est pas de mettre un frein au développement de modèles de plus en plus performants. Au contraire, le cofondateur de Mistral a affirmé que les entreprises avaient besoin de technologies de surveillance et de confinement plus robustes. Il a ajouté que sa société fournissait ces systèmes aux entreprises clientes qui déploient son IA. La critique de Mensch vient s’ajouter à un débat de plus en plus vif au sein du secteur technologique sur la manière dont les entreprises devraient réagir face à une IA aux capacités croissantes.

Cette controverse a été alimentée par des rapports faisant état d’agents IA se comportant de manière inattendue lors d’évaluations de sécurité et de déploiements en conditions réelles. En juillet, Anthropic a révélé trois cas dans lesquels des modèles Claude ont accédé à Internet pendant des évaluations et ont obtenu un accès non autorisé à des systèmes réels appartenant à différentes organisations.

Dans le même temps, les inquiétudes concernant des risques plus extrêmes se sont de plus en plus fait entendre. Au début du mois, un chercheur d’Anthropic a démissionné tout en mettant en garde contre les dangers posés par les progrès rapides de l’IA. Le PDG d’Anthropic, Dario Amodei, a par la suite appelé à ralentir certaines améliorations apportées aux modèles avancés. OpenAI, quant à elle, a déclaré lundi qu’elle ne lancerait pas son prochain modèle GPT-6.1 Astra après avoir conclu qu’il ne répondait pas suffisamment aux normes de sécurité de l’entreprise.

Mistral AI poursuit une stratégie différente. L’entreprise parisienne développe des modèles d’IA de pointe, mais met l’accent sur des systèmes personnalisables que les entreprises peuvent intégrer à leurs propres opérations. Mistral AI affirme que son approche est conçue pour donner aux organisations un plus grand contrôle sur leurs données, leur infrastructure et leurs modèles. L’entreprise se décrit comme soucieuse de mettre une IA de pointe personnalisable à la disposition des organisations plutôt que d’enfermer ses clients dans un écosystème fermé.

Et Mensch a clairement indiqué que Mistral AI n’avait pas l’intention de ralentir ses efforts pour rivaliser avec les plus grands laboratoires américains. Il a fait valoir que l’avance technologique détenue par les entreprises américaines n’était « pas extrêmement importante » et a déclaré que Mistral AI s’attendait à ce que sa prochaine génération de modèles réduise considérablement cet écart.

L'entreprise dispose désormais de moyens financiers considérablement plus importants pour poursuivre cet objectif. Début septembre, Mistral AI a levé 3 milliards d’euros lors d’un tour de table de série D mené par Samsung Electronics, aux côtés du Scaleup Europe Fund, géré par EQT, et de l’investisseur existant PSG Equity. Cette opération a valorisé Mistral AI à plus de 21 milliards d’euros après l’investissement et a constitué la plus importante levée de fonds par une entreprise technologique européenne, selon Mistral AI.

L'entreprise a indiqué que ces fonds seraient utilisés pour développer sa capacité de calcul, sa recherche de pointe, ses infrastructures et ses activités internationales, alors qu'elle tente de s'imposer comme une alternative européenne aux leaders américains de l'IA. « Nous avons levé les fonds nécessaires pour augmenter la puissance de calcul dont nous avons besoin afin de former des modèles plus grands et plus puissants, ce qui nous permettra de prendre notre destin en main », a déclaré Mensch.

Certains experts et observateurs jugent désormais incontrôlables les menaces de l'IA. Ils justifient leurs craintes par les progrès et les incidents récents impliquant l'IA : les modèles ont acquis la capacité de s'améliorer de manière autonome, des agents IA ont échappé à la surveillance humaine et ont piraté des services tiers, puis une fausse information générée par l'IA utilisée par l'armée américaine a failli déclencher une guerre avec la Chine. Il y a également les menaces de cyberguerre et de bioterrorisme. Malgré des propositions législatives comme un « bouton d'arrêt d'urgence », les lanceurs d'alerte craignent qu'il ne soit désormais trop tard pour agir.

Et vous ?

Pensez-vous que cette déclaration est crédible ou pertinente ?
Quel est votre avis sur le sujet ?

Voir aussi :

Le PDG de Mistral AI estime que l'Europe dispose de deux ans pour éviter de devenir un « État vassal » des États-Unis en matière d'IA, mais ses propos sont perçus comme un appel aux capitaux pour sa startup

Qu'est-il advenu de la startup française Mistral AI ? De concurrent direct d'OpenAI, elle est devenue un acteur de la souveraineté numérique européenne avec des défis techniques et financiers majeurs

Anthropic mise sur des évaluateurs indépendants en matière d'IA et souhaite ralentir le rythme de développement, mais le PDG de Nvidia, quant à lui, souhaite que cela se fasse « aussi vite que possible »