IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Stephen Wolfram pense que nous avons besoin de philosophes dans le débat sur le développement de l'IA
Pour établir des garde-fous nécessaires afin d'éviter des conséquences potentiellement désastreuses

Le , par Stéphane le calme

57PARTAGES

26  0 
Stephen Wolfram, mathématicien et scientifique de renom, a récemment exprimé une opinion intrigante : les philosophes devraient jouer un rôle crucial dans la réflexion sur les grandes questions entourant l’intelligence artificielle (IA). Wolfram a exprimé des inquiétudes quant à la manière dont certaines entreprises technologiques déploient l’IA sans une réflexion éthique adéquate. Il a eu des discussions « horrifiantes » avec des entreprises qui, selon lui, ne pensent pas clairement aux implications de leurs technologies. Pour lui, intégrer des philosophes dans ces discussions pourrait aider à établir des garde-fous nécessaires pour éviter des conséquences potentiellement désastreuses. Cette perspective, bien que surprenante pour certains, souligne l’importance d’une approche interdisciplinaire pour aborder les défis éthiques et existentiels posés par l’IA.

L’argument de Wolfram

Enfant prodige, Wolfram a publié son premier article scientifique à l'âge de 15 ans et obtenu son doctorat à Caltech à 20 ans. Son œuvre impressionnante touche à la fois à la science, aux mathématiques et à l'informatique : Il a développé Mathematica, Wolfram Alpha et le Wolfram Language, un puissant langage de programmation informatique.

« Mon principal travail dans la vie, en plus de la science fondamentale, a été de créer notre langage informatique Wolfram afin de disposer d'un moyen d'exprimer des choses par le calcul qui soit utile à la fois aux humains et aux ordinateurs », a déclaré Wolfram.

Wolfram, connu pour ses contributions majeures telles que Mathematica et Wolfram Alpha, a grandi dans un environnement où la philosophie était omniprésente, sa mère étant professeure de philosophie à l’Université d’Oxford. Bien qu’il ait initialement rejeté cette discipline, il reconnaît aujourd’hui la valeur de la rigueur philosophique pour comprendre les implications profondes de l’IA.

Les défis éthiques et existentialistes de l’IA

L’IA, en évoluant, soulève des questions complexes sur la conscience, la prise de décision et l’interaction entre humains et machines. Wolfram soutient que ces questions ne peuvent être pleinement comprises sans une réflexion philosophique approfondie. Par exemple, déterminer ce qui est « juste » ou « moral » dans le contexte de l’IA est fondamentalement une question philosophique.

« Je n'avais jamais vraiment appris grand-chose sur la philosophie. Ma mère était professeur de philosophie à Oxford quand j'étais enfant, et l'une des choses que je disais toujours, c'est qu'il y a une chose que je ne ferai jamais quand je serai adulte, c'est la philosophie.

« Et regardez ce que font les philosophes : ils discutent toujours des mêmes choses qu'il y a 2 000 ans. Comment cela peut-il être une chose sensée à faire ? Mais maintenant que j'ai atteint l'âge adulte, je me suis retrouvé plongé dans toutes ces questions philosophiques, mais avec une sorte de nouvel ensemble d'outils, des outils qui viennent de la science, et il y a beaucoup de choses vraiment significatives et intéressantes ».


Rendez-vous à 8:00

L’importance des garde-fous philosophiques

Alors que les développeurs d'IA et d'autres personnes commencent à réfléchir plus profondément à la façon dont les ordinateurs et les personnes se croisent, Wolfram explique que cela devient beaucoup plus un exercice philosophique, impliquant une réflexion au sens pur sur les implications que ce type de technologie peut avoir sur l'humanité. Ce type de réflexion complexe est lié à la philosophie classique.

« La question est de savoir à quoi l'on pense, et c'est un autre type de question, que l'on retrouve davantage dans la philosophie traditionnelle que dans les STEM traditionnels », a-t-il déclaré.

Par exemple, lorsque vous commencez à parler de la manière de mettre des garde-fous à l'IA, il s'agit essentiellement de questions philosophiques. Parfois, dans l'industrie technologique, lorsque les gens parlent de la manière dont nous devrions mettre en place telle ou telle chose avec l'IA, certains peuvent dire : « Eh bien, faisons en sorte que l'IA fasse ce qu'il faut ». Et cela nous amène à nous demander ce qu'est la bonne chose ». Et déterminer les choix moraux est un exercice philosophique.

Il dit avoir eu des « discussions horribles » avec des entreprises qui mettent l'IA sur le marché, manifestement sans y penser. « La tentative de discussion socratique sur la manière dont vous réfléchissez à ce genre de questions vous choquerait, tant les gens ne réfléchissent pas clairement à ces questions. Je ne sais pas comment résoudre ces questions. C'est le défi, mais c'est un endroit où ce genre de questions philosophiques, je pense, sont d'une importance actuelle ».


Une approche interdisciplinaire

La science, selon Wolfram, est souvent incrémentale et ne remet pas en question les paradigmes existants. En revanche, la philosophie encourage une réflexion radicale et une remise en question des idées préconçues. En combinant ces deux approches, nous pourrions mieux naviguer dans les défis posés par l’IA et assurer un développement technologique éthique et responsable.

Selon lui, les scientifiques en général ont du mal à envisager les choses en termes philosophiques. « Une chose que j'ai remarquée et qui est vraiment frappante, c'est que lorsque vous parlez à des scientifiques et que vous évoquez de grandes et nouvelles idées, ils sont désorientés parce que ce n'est pas ce qui se passe en général dans le domaine scientifique », a-t-il déclaré. « La science est un domaine progressif où l'on ne s'attend pas à être confronté à une façon radicalement différente de penser les choses ».

Si le travail principal de la philosophie est de répondre aux grandes questions existentielles, il estime que nous entrons dans un âge d'or de la philosophie en raison de l'influence croissante de l'IA et de toutes les questions qu'elle soulève. Selon lui, bon nombre des questions auxquelles l'IA nous confronte aujourd'hui sont en fait des questions philosophiques traditionnelles.

« Je trouve que les groupes de philosophes avec lesquels je discute sont en fait beaucoup plus agiles lorsqu'ils réfléchissent de manière paradigmatique à différents types de choses », a-t-il déclaré.

Il a notamment rencontré un groupe d'étudiants en master de philosophie au Ralston College de Savannah, en Géorgie. Wolfram a parlé aux étudiants de la collision à venir entre les arts libéraux et la philosophie, d'une part, et la technologie, d'autre part. En fait, Wolfram dit avoir relu la « République » de Platon parce qu'il veut revenir aux racines de la philosophie occidentale dans sa propre réflexion.

Rumi Allbert, étudiant dans le programme Ralston, qui a passé sa carrière à travailler dans la science des données et qui a également participé à la Wolfram Summer School, un programme annuel conçu pour aider les étudiants à comprendre l'approche de Wolfram en matière d'application de la science aux idées commerciales, a été fasciné par la pensée de Wolfram.

« Il est très, très intéressant qu'un homme comme le Dr Wolfram s'intéresse autant à la philosophie, et je pense que cela témoigne de l'importance de la philosophie et de l'approche humaniste de la vie. Il me semble qu'il s'est tellement développé dans son propre domaine qu'il a évolué vers une question plus philosophique », a déclaré Allbert.

Le fait que Wolfram, qui est à la pointe de l'informatique depuis un demi-siècle, perçoive les liens entre la philosophie et la technologie pourrait être le signe qu'il est temps de commencer à aborder ces questions relatives à l'utilisation de l'IA d'une manière beaucoup plus large que comme un simple problème mathématique. Et peut-être qu'associer des philosophes à la discussion est un bon moyen d'y parvenir.

Une analyse critique de l’appel de Stephen Wolfram

L’idée de Stephen Wolfram d’intégrer des philosophes dans le développement de l’IA est audacieuse et mérite une réflexion approfondie. Cependant, cette proposition n’est pas sans ses critiques et ses défis. Examinons certains des arguments contre cette approche.

La complexité de l’intégration interdisciplinaire

L’une des principales critiques de l’appel de Wolfram est la complexité de l’intégration des philosophes dans un domaine aussi technique que l’IA. Les philosophes et les ingénieurs ont souvent des méthodologies et des langages très différents, ce qui peut rendre la collaboration difficile. Les ingénieurs peuvent percevoir les philosophes comme étant trop théoriques, tandis que les philosophes peuvent voir les ingénieurs comme étant trop pragmatiques....
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Pyramidev
Expert éminent https://www.developpez.com
Le 18/02/2025 à 1:00
Citation Envoyé par diamondsoftware Voir le message
ou est l'humain et les relations/interactions humaines dans le fait de faire disparaitre l'acceuil?
Plus ça va moins on interagi entre humains...
Le 23 mars 2019, Nellie Bowles avait écrit Human Contact Is Now a Luxury Good.

Je n'ai pas accès à cet article sans me loguer. Mais, le 26 avril 2019, Titiou Lecoq l'a cité dans son article Robot pour les pauvres, contact humain pour les riches.

Extrait :

Citation Envoyé par Titiou Lecoq
Dans le New York Times, Nellie Bowles, journaliste tech, part de l'histoire de ce monsieur et va plus loin, mettant en lumière une forme d'inégalité inédite. Au début, les outils numériques étaient un signe de richesse. Dans les années 1980, posséder un ordinateur chez soi était un marqueur d'une certaine classe sociale. Être connecté également. À l'époque des bipeurs (les pageurs), on montrait qu'on était indispensable, qu'on était demandé, donc qu'on avait une valeur particulière. Et puis, les choses se sont inversées. Maintenant, être puissant c'est pouvoir ignorer les coups de téléphone, ne pas répondre immédiatement à un mail. C'est se déconnecter.

Le numérique qui était un truc de riche devient un truc de pauvre. Pas assez de moyens dans une école? Il n'y a qu'à y mettre des écrans. Pas assez de moyens dans un hosto? Hop, un médecin-écran. On va pouvoir automatiser les maisons de retraite avec des robots, ça coûtera moins cher. À l'inverse, dans une maison de retraite de luxe, on aura toujours une foule d'êtres humains pour s'occuper des pensionnaires. Idem dans un hôpital privé, on aura un médecin en chair et en os pour nous informer. Et de plus en plus d'écoles privées se targuent déjà d'être sans écran.

On va donc aboutir à une situation que Nellie Bowles qualifie de «luxurification de l'engagement humain». Un contact humain devient un luxe. La texture même de la vie va devenir profondément différente selon si vous êtes riche ou pauvre, selon que vous la vivrez IRL ou via des écrans. Les pauvres seront entourés de robots et d'écrans, que ce soit au début de leur vie ou à la fin, alors que les riches pourront se payer des contacts humains. D'ailleurs, les pauvres pendant leur vie active obéiront à des machines comme c'est déjà le cas des micro-travailleurs. L'horizon de leur expérience sera celle de l'écran.
5  0 
Avatar de rsuinux
Membre actif https://www.developpez.com
Le 28/08/2024 à 6:57
La philosophie dans l'IA ne sert strictement a rien.
Enfin, si , ça peut servir, mais tel que le Monde tourne, non. Pour le moment, l'IA est uniquement utiliser pour virer les personnes et faire du bien aux portefeuilles d'actions des entreprises.
Dire qu'amazon licencie "a cause de l'IA" parce que son modèle économique s'effondre, ça me fait rire. Quel sont les retours des actionnaires d'amazon?
Non pour le moment, les dirigeants d'entreprises ne pense qu'à remplacer l'humain pour faire plaisir aux [banque/actionnaires/autre] c'est tout. L'implication pour la société, tout le monde s'en fout.
4  0 
Avatar de Vilanelle
Membre régulier https://www.developpez.com
Le 28/08/2024 à 11:52
Pas de panique ! Nous avons déjà en France les meilleurs philosophes du monde, dignes du siècle des lumières, j'ai nommé BHL et Raphaël Enthoven !
(Humour, ironie, désespoir ...)
4  0 
Avatar de Galactus13
Membre à l'essai https://www.developpez.com
Le 16/02/2025 à 6:20
Ce problème ne touche et ne touchera pas que les hôtels et restaurant, mais tout les emploi d'accueil phonique, on le voit depuis de nombreuses années quand on souhaite joindre un service par téléphone,
Systématiquement, c'est un répondeur type IA, ce qui a le don de m'exacerber, 50% du temps, je raccroche ; si tout le monde faisait de même, ces emplois ne subiraient pas autant de casse.
Certes, l'automatisme peut être utile quand il offre un travail moins pénible, offre l'option à réduire le risque d'une erreur, mais où s'arrête et/ou commence l'excès ?
le chômage grandissant en sera le fruit maudit. Ce n'est qu'un avis, et ce n'est que le commencement.
3  0 
Avatar de tatayo
Expert éminent sénior https://www.developpez.com
Le 29/09/2025 à 10:54
Bonjour,
Je résume:
Citation Envoyé par Mathis Lucas Voir le message
Le directeur financier d'une entreprise de logiciels pesant 320 milliards de dollars déclare : « l'IA nous aidera à réduire nos effectifs sans perte financière, mais ce sera une catastrophe »
Vous pouvez reprendre une activité normale

Tatayo.
3  0 
Avatar de urumaru
Membre régulier https://www.developpez.com
Le 02/10/2025 à 11:03
Pourquoi un DAF ?

Parce que le DAF parle chiffres et ça, ça parle parle aux investisseurs.

Et que lorsqu'on demande un ROI à un DSI / RSI, on obtient très souvent : euh.... je ne sais pas... il faut que j'en discute.... avec la DAF

Et oui, le DSI/RSI n'a pas les chiffres qui permettraient de faire une analyse complète de leur coté, donc très souvent (80% des cas) le PDG explique la stratégie et le DAF les chiffres

Quand un DAF ou PDG dit que 2000 emplois vont être supprimés, les investisseurs pensent diminution des charges et donc meilleure rentabilité (moins de surface de bureau, d'obligations règlementaires - frais de transport/cantine/mutuelle/abondements divers/CSE et évidemment masse salariale - moins de postes à renouveller/licences,etc.).

Que va dire un DSI aux investisseurs ? qu'il va mettre en place une IA ?

et que vont penser les investisseurs ? encore un incapable d'élever le débat

et ils n'ont que faire de ce que le DSI/RSI va mettre en place dans la boite, c'est du niveau tactique, et ça n'intéresse surement pas les investisseurs.

Et les investisseurs c'est peut être toi au travers de PEA, d'ETF, fonds d'investissements divers, etc.
3  0 
Avatar de der§en
Membre expérimenté https://www.developpez.com
Le 14/02/2025 à 23:01
M’est avis que ceux qui vont le plus disparaître, c’est les journalistes
2  0 
Avatar de Axel Mattauch
Membre averti https://www.developpez.com
Le 16/02/2025 à 11:53
Citation Envoyé par Galactus13 Voir le message
Ce problème ne touche et ne touchera pas que les hôtels et restaurant, mais tout les emploi d'accueil phonique, on le voit depuis de nombreuses années quand on souhaite joindre un service par téléphone,
Systématiquement, c'est un répondeur type IA, ce qui a le don de m'exacerber, 50% du temps, je raccroche ; si tout le monde faisait de même, ces emplois ne subiraient pas autant de casse.
Certes, l'automatisme peut être utile quand il offre un travail moins pénible, offre l'option à réduire le risque d'une erreur, mais où s'arrête et/ou commence l'excès ?
le chômage grandissant en sera le fruit maudit. Ce n'est qu'un avis, et ce n'est que le commencement.
C'est en effet un domaine parfaitement calibré pour l'IA (sous toutes ses déclinaisons). Réagir a des demandes vocales (à défaut: par texte) en donnant des réponses ayant l'air de traiter du sujet, mais en pratique à côté de la plaque. Déjà les centres d'appels délocalisés permettent d'avoir des interlocuteurs qui répondent, certes, mais pas aux questions que l'utilisateur pose.

La caractéristique générique fondamentale de l'IA est de donner des apparences de compréhension. Synthèse d'apprentissages hors sol c'est par conception même que les productions sont factices.

Mais tant que l'on peut faire des bénéfices en évitant de s'appuyer sur le talent d'un artiste, sur la compétence d'un médecin, sur la capacité d'analyse d'un journaliste etc., en substituant des succédanés aux valeurs effectives, l'IA est une niche marketing et une catastrophe pour les emplois.

Le fin du fin, c'est quand il n'y aura même plus besoin de regarder des séries produites par ces techniques, les machines les regarderont à notre place.
2  0 
Avatar de diamondsoftware
Membre actif https://www.developpez.com
Le 17/02/2025 à 10:10
Bonjour,
j'ai une question:
ou est l'humain et les relations/interactions humaines dans le fait de faire disparaitre l'acceuil?
Plus ça va moins on interagi entre humains... chacun s'isole dans sa bulle, une bulle "orientée" selon les algorithmes de nos applicatios sur smartphone...
Je trouve ça terrible et extremement dangereux pour la societe et l'humanité.
Je ne suis pas contre la technologie, bien au contraire, mais elle doit utilise a bon escient , pour le bien de l'homme...
S.
3  1 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 18/06/2025 à 18:16
c'est hélas que le début, les "vieux" qui ont pu accumuler du capitale (immobilier, etf...) vont s'en sortir financièrement avec des revenus passifs, les jeunes qui rentre/vont rentrer sur le marché du travail vont se faire démolir.
2  0