Quel est le véritable risque de l'IA à l'avenir : la réglementation ou l'ouverture ? La communauté de l'IA est divisée sur la question. Pour Yann LeCun, chercheur français en IA et responsable de l'IA chez Meta, l'ouverture est le seul moyen de faire en sorte que les plateformes d'IA reflètent l'intégralité des connaissances et de la culture humaines. Le chercheur français en IA a met en garde contre une réglementation prématurée de l'IA qui, selon lui, pourrait conduire à ce qu'un petit groupe d'entreprises contrôlent l'industrie de l'IA. Il affirme qu'il s'agit du scénario le plus dangereux que l'on puisse imaginer. Il est controversées et les modèles open source de Meta ne le sont pas vraiment.Dans un long message publié dimanche sur X (anciennement Twitter), Yann LeCun - prix Turing 2018 et reconnu comme l'un des inventeurs de l'apprentissage profond - s'en est pris aux leaders de la recherche sur l'IA qui militent pour une réglementation de l'IA, répandent des théories dystopiques sur l'avenir de l'IA et s'opposent aux modèles d'IA open source. Son message visait particulièrement les pionniers de l'IA Geoff Hinton et Yoshua Bengio, avec qui LeCun a partagé le prix Turing 2018, ainsi que Sam Altman et Stuart Russell. Ces derniers ont exprimé publiquement et à plusieurs reprises leurs inquiétudes quant aux effets négatifs potentiels de l'IA.
Altman, Hassabis, and Amodei are the ones doing massive corporate lobbying at the moment.
— Yann LeCun (@ylecun) October 29, 2023
They are the ones who are attempting to perform a regulatory capture of the AI industry.
You, Geoff, and Yoshua are giving ammunition to those who are lobbying for a ban on open AI R&D.
If…
Selon LeCun, la majorité de la communauté universitaire soutient la recherche et le développement ouverts en matière d'IA, à l'exception notable des pionniers de l'IA que sont Hinton, Bengio et Russell. Il affirme que leur "alarmisme" fournit des munitions aux groupes de défense des entreprises. Il accuse Sam Altman, PDG d'OpenAI, Demis Hassabis, PDG de Google Deepmind, et Ilya Sutskever, directeur scientifique d'OpenAI, de tenter de réglementer le secteur de l'IA en leur faveur sous prétexte de sécurité. « Le véritable désastre de l'IA serait que quelques entreprises prennent le contrôle de l'IA », affirme LeCun. Voici l'intégralité de son message sur X :
Envoyé par Yann LeCun
Altman, Hassabis et Amodei sont ceux qui exercent actuellement un lobbying massif auprès des entreprises. Ce sont eux qui tentent de s'emparer de l'industrie de l'IA par la voie réglementaire. Vous, Geoff et Yoshua, donnez des munitions à ceux qui font pression pour interdire la R&D ouverte en matière d'IA.
Si vos campagnes de peur réussissent, elles aboutiront *inévitablement* à ce que vous et moi considérons comme une catastrophe : un petit nombre d'entreprises contrôleront l'IA.
La grande majorité de nos collègues universitaires sont massivement en faveur d'une R&D ouverte en matière d'IA. Très peu d'entre eux croient aux scénarios apocalyptiques que vous avez mis en avant. Vous, Yoshua, Geoff et Stuart, êtes les exceptions singulières, mais vocales.
Comme beaucoup, je suis très favorable aux plateformes d'IA ouvertes parce que je crois en une combinaison de forces : la créativité des gens, la démocratie, les forces du marché et la réglementation des produits. Je sais également qu'il est possible de produire des systèmes d'IA sûrs et sous notre contrôle. J'ai fait des propositions concrètes en ce sens. Tout cela poussera les gens à faire ce qu'il faut.
Vous écrivez comme si l'IA se produisait simplement, comme s'il s'agissait d'un phénomène naturel échappant à notre contrôle. Mais ce n'est pas le cas. Elle progresse grâce à des individus que vous et moi connaissons. Nous, et eux, avons la possibilité de construire les bonnes choses. Demander une réglementation de la R&D (par opposition au déploiement des produits) suppose implicitement que ces personnes et l'organisation pour laquelle elles travaillent sont incompétentes, imprudentes, autodestructrices ou diaboliques. Ce n'est pas le cas.
J'ai avancé de nombreux arguments pour démontrer que les scénarios catastrophes qui vous effraient tant sont absurdes. Je ne vais pas les répéter ici. Mais le point principal est que si des systèmes d'IA puissants sont guidés par des objectifs (qui incluent des garde-fous), ils seront sûrs et contrôlables parce que *nous* avons fixé ces garde-fous et ces objectifs. (Les LLM autorégressifs actuels ne sont pas guidés par des objectifs, alors n'extrapolons pas à partir de leurs faiblesses actuelles.)
En ce qui concerne l'open source, votre campagne aura l'effet exactement inverse de celui que vous recherchez. Dans un avenir où les systèmes d'IA sont sur le point de constituer le dépôt de toutes les connaissances et cultures humaines, nous avons *nécessité* que les plateformes soient open source et librement disponibles afin que tout le monde puisse y contribuer. L'ouverture est le seul moyen de faire en sorte que les plateformes d'IA reflètent l'intégralité du savoir et de la culture humaine.
Pour cela, il faut que les contributions à ces plateformes soient financées par la foule, un peu à la manière de Wikipédia. Cela ne fonctionnera pas si les plateformes ne sont pas ouvertes.
L'alternative, qui se produira *inévitablement* si l'IA open source est réglementée, est qu'un petit nombre d'entreprises de la côte ouest des États-Unis et de la Chine contrôleront la plateforme d'IA et, par conséquent, l'ensemble de l'alimentation numérique de la...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
