Stephen Wolfram pense que nous avons besoin de philosophes dans le débat sur le développement de l'IA

Pour établir des garde-fous nécessaires afin d'éviter des conséquences potentiellement désastreuses

Stephen Wolfram, mathématicien et scientifique de renom, a récemment exprimé une opinion intrigante : les philosophes devraient jouer un rôle crucial dans la réflexion sur les grandes questions entourant l’intelligence artificielle (IA). Wolfram a exprimé des inquiétudes quant à la manière dont certaines entreprises technologiques déploient l’IA sans une réflexion éthique adéquate. Il a eu des discussions « horrifiantes » avec des entreprises qui, selon lui, ne pensent pas clairement aux implications de leurs technologies. Pour lui, intégrer des philosophes dans ces discussions pourrait aider à établir des garde-fous nécessaires pour éviter des conséquences potentiellement désastreuses. Cette perspective, bien que surprenante pour certains, souligne l’importance d’une approche interdisciplinaire pour aborder les défis éthiques et existentiels posés par l’IA.

L’argument de Wolfram

Enfant prodige, Wolfram a publié son premier article scientifique à l'âge de 15 ans et obtenu son doctorat à Caltech à 20 ans. Son œuvre impressionnante touche à la fois à la science, aux mathématiques et à l'informatique : Il a développé Mathematica, Wolfram Alpha et le Wolfram Language, un puissant langage de programmation informatique.

« Mon principal travail dans la vie, en plus de la science fondamentale, a été de créer notre langage informatique Wolfram afin de disposer d'un moyen d'exprimer des choses par le calcul qui soit utile à la fois aux humains et aux ordinateurs », a déclaré Wolfram.

Wolfram, connu pour ses contributions majeures telles que Mathematica et Wolfram Alpha, a grandi dans un environnement où la philosophie était omniprésente, sa mère étant professeure de philosophie à l’Université d’Oxford. Bien qu’il ait initialement rejeté cette discipline, il reconnaît aujourd’hui la valeur de la rigueur philosophique pour comprendre les implications profondes de l’IA.

Les défis éthiques et existentialistes de l’IA

L’IA, en évoluant, soulève des questions complexes sur la conscience, la prise de décision et l’interaction entre humains et machines. Wolfram soutient que ces questions ne peuvent être pleinement comprises sans une réflexion philosophique approfondie. Par exemple, déterminer ce qui est « juste » ou « moral » dans le contexte de l’IA est fondamentalement une question philosophique.

« Je n'avais jamais vraiment appris grand-chose sur la philosophie. Ma mère était professeur de philosophie à Oxford quand j'étais enfant, et l'une des choses que je disais toujours, c'est qu'il y a une chose que je ne ferai jamais quand je serai adulte, c'est la philosophie.

« Et regardez ce que font les philosophes : ils discutent toujours des mêmes choses qu'il y a 2 000 ans. Comment cela peut-il être une chose sensée à faire ? Mais maintenant que j'ai atteint l'âge adulte, je me suis retrouvé plongé dans toutes ces questions philosophiques, mais avec une sorte de nouvel ensemble d'outils, des outils qui viennent de la science, et il y a beaucoup de choses vraiment significatives et intéressantes ».


L’importance des garde-fous philosophiques

Alors que les développeurs d'IA et d'autres personnes commencent à réfléchir plus profondément à la façon dont les ordinateurs et les personnes se croisent, Wolfram explique que cela devient beaucoup plus un exercice philosophique, impliquant une réflexion au sens pur sur les implications que ce type de technologie peut avoir sur l'humanité. Ce type de réflexion complexe est lié à la philosophie classique.

« La question est de savoir à quoi l'on pense, et c'est un autre type de question, que l'on retrouve davantage dans la philosophie traditionnelle que dans les STEM traditionnels », a-t-il déclaré.

Par exemple, lorsque vous commencez à parler de la manière de mettre des garde-fous à l'IA, il s'agit essentiellement de questions philosophiques. Parfois, dans l'industrie technologique, lorsque les gens parlent de la manière dont nous devrions mettre en place telle ou telle chose avec l'IA, certains peuvent dire : « Eh bien, faisons en sorte que l'IA fasse ce qu'il faut ». Et cela nous amène à nous demander ce qu'est la bonne chose ». Et déterminer les choix moraux est un exercice philosophique.

Il dit avoir eu des « discussions horribles » avec des entreprises qui mettent l'IA sur le marché, manifestement sans y penser. « La tentative de discussion socratique sur la manière dont vous réfléchissez à ce genre de questions vous choquerait, tant les gens ne réfléchissent pas clairement à ces questions. Je ne sais pas comment résoudre ces questions. C'est le défi, mais c'est un endroit où ce genre de questions philosophiques, je pense, sont d'une importance actuelle ».


Une approche interdisciplinaire

La science, selon Wolfram, est souvent incrémentale et ne remet pas en...