IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Stephen Wolfram pense que nous avons besoin de philosophes dans le débat sur le développement de l'IA
Pour établir des garde-fous nécessaires afin d'éviter des conséquences potentiellement désastreuses

Le , par Stéphane le calme

31PARTAGES

26  0 
Stephen Wolfram, mathématicien et scientifique de renom, a récemment exprimé une opinion intrigante : les philosophes devraient jouer un rôle crucial dans la réflexion sur les grandes questions entourant l’intelligence artificielle (IA). Wolfram a exprimé des inquiétudes quant à la manière dont certaines entreprises technologiques déploient l’IA sans une réflexion éthique adéquate. Il a eu des discussions « horrifiantes » avec des entreprises qui, selon lui, ne pensent pas clairement aux implications de leurs technologies. Pour lui, intégrer des philosophes dans ces discussions pourrait aider à établir des garde-fous nécessaires pour éviter des conséquences potentiellement désastreuses. Cette perspective, bien que surprenante pour certains, souligne l’importance d’une approche interdisciplinaire pour aborder les défis éthiques et existentiels posés par l’IA.

L’argument de Wolfram

Enfant prodige, Wolfram a publié son premier article scientifique à l'âge de 15 ans et obtenu son doctorat à Caltech à 20 ans. Son œuvre impressionnante touche à la fois à la science, aux mathématiques et à l'informatique : Il a développé Mathematica, Wolfram Alpha et le Wolfram Language, un puissant langage de programmation informatique.

« Mon principal travail dans la vie, en plus de la science fondamentale, a été de créer notre langage informatique Wolfram afin de disposer d'un moyen d'exprimer des choses par le calcul qui soit utile à la fois aux humains et aux ordinateurs », a déclaré Wolfram.

Wolfram, connu pour ses contributions majeures telles que Mathematica et Wolfram Alpha, a grandi dans un environnement où la philosophie était omniprésente, sa mère étant professeure de philosophie à l’Université d’Oxford. Bien qu’il ait initialement rejeté cette discipline, il reconnaît aujourd’hui la valeur de la rigueur philosophique pour comprendre les implications profondes de l’IA.

Les défis éthiques et existentialistes de l’IA

L’IA, en évoluant, soulève des questions complexes sur la conscience, la prise de décision et l’interaction entre humains et machines. Wolfram soutient que ces questions ne peuvent être pleinement comprises sans une réflexion philosophique approfondie. Par exemple, déterminer ce qui est « juste » ou « moral » dans le contexte de l’IA est fondamentalement une question philosophique.

« Je n'avais jamais vraiment appris grand-chose sur la philosophie. Ma mère était professeur de philosophie à Oxford quand j'étais enfant, et l'une des choses que je disais toujours, c'est qu'il y a une chose que je ne ferai jamais quand je serai adulte, c'est la philosophie.

« Et regardez ce que font les philosophes : ils discutent toujours des mêmes choses qu'il y a 2 000 ans. Comment cela peut-il être une chose sensée à faire ? Mais maintenant que j'ai atteint l'âge adulte, je me suis retrouvé plongé dans toutes ces questions philosophiques, mais avec une sorte de nouvel ensemble d'outils, des outils qui viennent de la science, et il y a beaucoup de choses vraiment significatives et intéressantes ».


Rendez-vous à 8:00

L’importance des garde-fous philosophiques

Alors que les développeurs d'IA et d'autres personnes commencent à réfléchir plus profondément à la façon dont les ordinateurs et les personnes se croisent, Wolfram explique que cela devient beaucoup plus un exercice philosophique, impliquant une réflexion au sens pur sur les implications que ce type de technologie peut avoir sur l'humanité. Ce type de réflexion complexe est lié à la philosophie classique.

« La question est de savoir à quoi l'on pense, et c'est un autre type de question, que l'on retrouve davantage dans la philosophie traditionnelle que dans les STEM traditionnels », a-t-il déclaré.

Par exemple, lorsque vous commencez à parler de la manière de mettre des garde-fous à l'IA, il s'agit essentiellement de questions philosophiques. Parfois, dans l'industrie technologique, lorsque les gens parlent de la manière dont nous devrions mettre en place telle ou telle chose avec l'IA, certains peuvent dire : « Eh bien, faisons en sorte que l'IA fasse ce qu'il faut ». Et cela nous amène à nous demander ce qu'est la bonne chose ». Et déterminer les choix moraux est un exercice philosophique.

Il dit avoir eu des « discussions horribles » avec des entreprises qui mettent l'IA sur le marché, manifestement sans y penser. « La tentative de discussion socratique sur la manière dont vous réfléchissez à ce genre de questions vous choquerait, tant les gens ne réfléchissent pas clairement à ces questions. Je ne sais pas comment résoudre ces questions. C'est le défi, mais c'est un endroit où ce genre de questions philosophiques, je pense, sont d'une importance actuelle ».


Une approche interdisciplinaire

La science, selon Wolfram, est souvent incrémentale et ne remet pas en question les paradigmes existants. En revanche, la philosophie encourage une réflexion radicale et une remise en question des idées préconçues. En combinant ces deux approches, nous pourrions mieux naviguer dans les défis posés par l’IA et assurer un développement technologique éthique et responsable.

Selon lui, les scientifiques en général ont du mal à envisager les choses en termes philosophiques. « Une chose que j'ai remarquée et qui est vraiment frappante, c'est que lorsque vous parlez à des scientifiques et que vous évoquez de grandes et nouvelles idées, ils sont désorientés parce que ce n'est pas ce qui se passe en général dans le domaine scientifique », a-t-il déclaré. « La science est un domaine progressif où l'on ne s'attend pas à être confronté à une façon radicalement différente de penser les choses ».

Si le travail principal de la philosophie est de répondre aux grandes questions existentielles, il estime que nous entrons dans un âge d'or de la philosophie en raison de l'influence croissante de l'IA et de toutes les questions qu'elle soulève. Selon lui, bon nombre des questions auxquelles l'IA nous confronte aujourd'hui sont en fait des questions philosophiques traditionnelles.

« Je trouve que les groupes de philosophes avec lesquels je discute sont en fait beaucoup plus agiles lorsqu'ils réfléchissent de manière paradigmatique à différents types de choses », a-t-il déclaré.

Il a notamment rencontré un groupe d'étudiants en master de philosophie au Ralston College de Savannah, en Géorgie. Wolfram a parlé aux étudiants de la collision à venir entre les arts libéraux et la philosophie, d'une part, et la technologie, d'autre part. En fait, Wolfram dit avoir relu la « République » de Platon parce qu'il veut revenir aux racines de la philosophie occidentale dans sa propre réflexion.

Rumi Allbert, étudiant dans le programme Ralston, qui a passé sa carrière à travailler dans la science des données et qui a également participé à la Wolfram Summer School, un programme annuel conçu pour aider les étudiants à comprendre l'approche de Wolfram en matière d'application de la science aux idées commerciales, a été fasciné par la pensée de Wolfram.

« Il est très, très intéressant qu'un homme comme le Dr Wolfram s'intéresse autant à la philosophie, et je pense que cela témoigne de l'importance de la philosophie et de l'approche humaniste de la vie. Il me semble qu'il s'est tellement développé dans son propre domaine qu'il a évolué vers une question plus philosophique », a déclaré Allbert.

Le fait que Wolfram, qui est à la pointe de l'informatique depuis un demi-siècle, perçoive les liens entre la philosophie et la technologie pourrait être le signe qu'il est temps de commencer à aborder ces questions relatives à l'utilisation de l'IA d'une manière beaucoup plus large que comme un simple problème mathématique. Et peut-être qu'associer des philosophes à la discussion est un bon moyen d'y parvenir.

Une analyse critique de l’appel de Stephen Wolfram

L’idée de Stephen Wolfram d’intégrer des philosophes dans le développement de l’IA est audacieuse et mérite une réflexion approfondie. Cependant, cette proposition n’est pas sans ses critiques et ses défis. Examinons certains des arguments contre cette approche.

La complexité de l’intégration interdisciplinaire

L’une des principales critiques de l’appel de Wolfram est la complexité de l’intégration des philosophes dans un domaine aussi technique que l’IA. Les philosophes et les ingénieurs ont souvent des méthodologies et des langages très différents, ce qui peut rendre la collaboration difficile. Les ingénieurs peuvent percevoir les philosophes comme étant trop théoriques, tandis que les philosophes peuvent voir les ingénieurs comme étant trop pragmatiques....
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Pyramidev
Expert éminent https://www.developpez.com
Le 18/02/2025 à 1:00
Citation Envoyé par diamondsoftware Voir le message
ou est l'humain et les relations/interactions humaines dans le fait de faire disparaitre l'acceuil?
Plus ça va moins on interagi entre humains...
Le 23 mars 2019, Nellie Bowles avait écrit Human Contact Is Now a Luxury Good.

Je n'ai pas accès à cet article sans me loguer. Mais, le 26 avril 2019, Titiou Lecoq l'a cité dans son article Robot pour les pauvres, contact humain pour les riches.

Extrait :

Citation Envoyé par Titiou Lecoq
Dans le New York Times, Nellie Bowles, journaliste tech, part de l'histoire de ce monsieur et va plus loin, mettant en lumière une forme d'inégalité inédite. Au début, les outils numériques étaient un signe de richesse. Dans les années 1980, posséder un ordinateur chez soi était un marqueur d'une certaine classe sociale. Être connecté également. À l'époque des bipeurs (les pageurs), on montrait qu'on était indispensable, qu'on était demandé, donc qu'on avait une valeur particulière. Et puis, les choses se sont inversées. Maintenant, être puissant c'est pouvoir ignorer les coups de téléphone, ne pas répondre immédiatement à un mail. C'est se déconnecter.

Le numérique qui était un truc de riche devient un truc de pauvre. Pas assez de moyens dans une école? Il n'y a qu'à y mettre des écrans. Pas assez de moyens dans un hosto? Hop, un médecin-écran. On va pouvoir automatiser les maisons de retraite avec des robots, ça coûtera moins cher. À l'inverse, dans une maison de retraite de luxe, on aura toujours une foule d'êtres humains pour s'occuper des pensionnaires. Idem dans un hôpital privé, on aura un médecin en chair et en os pour nous informer. Et de plus en plus d'écoles privées se targuent déjà d'être sans écran.

On va donc aboutir à une situation que Nellie Bowles qualifie de «luxurification de l'engagement humain». Un contact humain devient un luxe. La texture même de la vie va devenir profondément différente selon si vous êtes riche ou pauvre, selon que vous la vivrez IRL ou via des écrans. Les pauvres seront entourés de robots et d'écrans, que ce soit au début de leur vie ou à la fin, alors que les riches pourront se payer des contacts humains. D'ailleurs, les pauvres pendant leur vie active obéiront à des machines comme c'est déjà le cas des micro-travailleurs. L'horizon de leur expérience sera celle de l'écran.
5  0 
Avatar de rsuinux
Membre actif https://www.developpez.com
Le 28/08/2024 à 6:57
La philosophie dans l'IA ne sert strictement a rien.
Enfin, si , ça peut servir, mais tel que le Monde tourne, non. Pour le moment, l'IA est uniquement utiliser pour virer les personnes et faire du bien aux portefeuilles d'actions des entreprises.
Dire qu'amazon licencie "a cause de l'IA" parce que son modèle économique s'effondre, ça me fait rire. Quel sont les retours des actionnaires d'amazon?
Non pour le moment, les dirigeants d'entreprises ne pense qu'à remplacer l'humain pour faire plaisir aux [banque/actionnaires/autre] c'est tout. L'implication pour la société, tout le monde s'en fout.
4  0 
Avatar de Vilanelle
Membre régulier https://www.developpez.com
Le 28/08/2024 à 11:52
Pas de panique ! Nous avons déjà en France les meilleurs philosophes du monde, dignes du siècle des lumières, j'ai nommé BHL et Raphaël Enthoven !
(Humour, ironie, désespoir ...)
4  0 
Avatar de Galactus13
Membre à l'essai https://www.developpez.com
Le 16/02/2025 à 6:20
Ce problème ne touche et ne touchera pas que les hôtels et restaurant, mais tout les emploi d'accueil phonique, on le voit depuis de nombreuses années quand on souhaite joindre un service par téléphone,
Systématiquement, c'est un répondeur type IA, ce qui a le don de m'exacerber, 50% du temps, je raccroche ; si tout le monde faisait de même, ces emplois ne subiraient pas autant de casse.
Certes, l'automatisme peut être utile quand il offre un travail moins pénible, offre l'option à réduire le risque d'une erreur, mais où s'arrête et/ou commence l'excès ?
le chômage grandissant en sera le fruit maudit. Ce n'est qu'un avis, et ce n'est que le commencement.
3  0 
Avatar de der§en
Membre expérimenté https://www.developpez.com
Le 14/02/2025 à 23:01
M’est avis que ceux qui vont le plus disparaître, c’est les journalistes
2  0 
Avatar de Axel Mattauch
Membre averti https://www.developpez.com
Le 16/02/2025 à 11:53
Citation Envoyé par Galactus13 Voir le message
Ce problème ne touche et ne touchera pas que les hôtels et restaurant, mais tout les emploi d'accueil phonique, on le voit depuis de nombreuses années quand on souhaite joindre un service par téléphone,
Systématiquement, c'est un répondeur type IA, ce qui a le don de m'exacerber, 50% du temps, je raccroche ; si tout le monde faisait de même, ces emplois ne subiraient pas autant de casse.
Certes, l'automatisme peut être utile quand il offre un travail moins pénible, offre l'option à réduire le risque d'une erreur, mais où s'arrête et/ou commence l'excès ?
le chômage grandissant en sera le fruit maudit. Ce n'est qu'un avis, et ce n'est que le commencement.
C'est en effet un domaine parfaitement calibré pour l'IA (sous toutes ses déclinaisons). Réagir a des demandes vocales (à défaut: par texte) en donnant des réponses ayant l'air de traiter du sujet, mais en pratique à côté de la plaque. Déjà les centres d'appels délocalisés permettent d'avoir des interlocuteurs qui répondent, certes, mais pas aux questions que l'utilisateur pose.

La caractéristique générique fondamentale de l'IA est de donner des apparences de compréhension. Synthèse d'apprentissages hors sol c'est par conception même que les productions sont factices.

Mais tant que l'on peut faire des bénéfices en évitant de s'appuyer sur le talent d'un artiste, sur la compétence d'un médecin, sur la capacité d'analyse d'un journaliste etc., en substituant des succédanés aux valeurs effectives, l'IA est une niche marketing et une catastrophe pour les emplois.

Le fin du fin, c'est quand il n'y aura même plus besoin de regarder des séries produites par ces techniques, les machines les regarderont à notre place.
2  0 
Avatar de diamondsoftware
Membre actif https://www.developpez.com
Le 17/02/2025 à 10:10
Bonjour,
j'ai une question:
ou est l'humain et les relations/interactions humaines dans le fait de faire disparaitre l'acceuil?
Plus ça va moins on interagi entre humains... chacun s'isole dans sa bulle, une bulle "orientée" selon les algorithmes de nos applicatios sur smartphone...
Je trouve ça terrible et extremement dangereux pour la societe et l'humanité.
Je ne suis pas contre la technologie, bien au contraire, mais elle doit utilise a bon escient , pour le bien de l'homme...
S.
3  1 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 28/08/2024 à 8:03
Pensez-vous que les philosophes peuvent réellement influencer les décisions technologiques des entreprises d’IA ? Pourquoi ou pourquoi pas ?
Non, pour deux raisons :
1. Nous sommes dans un société qui se prétend de rationnalisme/pragmatisme et qui exclue la philosophie
2. Une bonne partie des philosophes qui ont un discours public ne méritent pas ce titre, ils ne sont plus capable de mener une réflexion complète.
Pensez-vous que les différences méthodologiques entre philosophes et ingénieurs peuvent être surmontées ? Si oui, comment ?
Je penses surtout qu'elles ne doivent pas être opposées, chacune doit enrichir l'autre.
Le jour où les ingénieurs se rendront compte qu'avoir un résultat sorti d'un ordinateur n'en fait pas un résultat neutre/objectif/apolitique etc la monde aura bien avancé!
Quels sont, selon vous, les principaux défis éthiques posés par l’IA aujourd’hui ? Comment les philosophes pourraient-ils contribuer à résoudre ces défis ?
L'IA, telle qu'elle est considérée aujourd'hui, amène des solutions absolues et donc intrinsèquement bonnes pour la société.
Mais celles ci ont des implications éthiques sociales et sociétales, quelques philosophes pour le rappeler ne ferait pas de mal.
Les sujets sont notamment abordés de façon statistiques ou probabilistes en ce moment, ce qui n'est pas forcément un mal. Mais que se passe-t-il quand la statistique sacrifie des personnes que la situation précédente de sacrifiait pas?
La décision est-elle toujours aussi bonne? (La réponse varie en fonction de la situation et de nos positionnement politiques notamment)
Comment les philosophes peuvent-ils acquérir une compréhension suffisante des aspects techniques de l’IA pour être pertinents dans ce domaine ?
Ces personnes ne sont pas censées être capables d'ingérer des tonnes d'informations pour en sortir une réflexion qui n'est pas à la portée de tous?
Il existe des livres, des recherches, des experts qui peuvent les renseigner.
D'ailleurs certains de ces experts ou chercheurs ont probablement déjà abordé le sujet d'un point de vue plus philosophique que technique.
Avez-vous des exemples où une collaboration interdisciplinaire a réussi à surmonter des défis similaires dans d’autres domaines ?
On doit trouver des choses du coté de la collaboration entre écologie et industrie par exemple.
Quels autres domaines de la connaissance devraient être impliqués dans la réflexion sur l’IA, en plus de la philosophie ?
Les sciences humaines, l'IA impactera significativement les sociétés, évaluer/prévenir/se préparer à ces impacts ne fera pas de mal à certains.
la sureté aussi, je penses que l'industrie risque d'augmenter sa létalité si on suit les messages que je perçoit aujourd'hui : les incidents courants vont diminuer mais ceux qui se produisent moins risquent d'augmenter (parce que l'IA gère difficilement les exceptions) et les incidents exceptionnels sont souvent plus mortels.
Croyez-vous que les entreprises technologiques prennent suffisamment en compte les implications éthiques de leurs innovations ? Pourquoi ou pourquoi pas ?
Non, l'éthique c'est rarement rentable.
Pensez-vous que les entreprises technologiques sont prêtes à accepter des ralentissements potentiels dans leur développement pour intégrer des perspectives éthiques ? Pourquoi ou pourquoi pas ?
Non, le ralentissement va à l'encontre du capitalisme.
C'est pour ça qu'il existe des règlementations.
Pensez-vous que l’éducation en philosophie devrait être intégrée dans les cursus des ingénieurs et des scientifiques ?
Oui mais non.
Oui elle le devrait mais quelle école veut embaucher un profs qui va suggérer qu'on part dans la mauvaise direction.
Les premiers clients des écoles d'ingé sont des industries ou des futurs industriels. Qui va à l'encontre de ses clients?
Comment voyez-vous l’avenir de l’IA si nous intégrons davantage de perspectives philosophiques dans son développement ?
La question ne se pose pas parce que ça n'arrivera pas (voir ma première réponse)
1  0 
Avatar de petitours
Membre émérite https://www.developpez.com
Le 18/09/2024 à 18:04
Citation Envoyé par Stéphane le calme Voir le message
Quels sont les avantages et les inconvénients de l’automatisation des tâches par l’IA dans les entreprises ?
Que l'IA n'est pas flexible en plus de ne pas être pas drôle. Automatiser ce que l'on croit automatisable c'est mépriser tout le travail imperceptible que font tous ceux que l'on croit ne faire que des trucs automatiques. j'espère que ceux qui feront ca s'en mordront vite les doigts.

Citation Envoyé par Stéphane le calme Voir le message
Comment les gouvernements devraient-ils réagir face à l’augmentation de l’automatisation et à la possible perte d’emplois ?
La fiscalité, robot ou IA même combat il faut les taxer plutot que de taxer l'emploi. aujourd'hui on fait tout pour virer de l'emploi par la fiscalité alors que c'est de tout l'inverse dont la société a besoin.

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que l’IA pourrait créer de nouveaux types d’emplois pour compenser ceux qu’elle remplace ? Si oui, lesquels ?
Oui, chez ceux qui n'en manquent pas aujourd'hui, loin, très loin de la prise en compte des nombreuses personnes non qualifiées pour gérer ces outils et/ou qui ont un sens éthique et social suffisamment développé pour ne pas avoir envie d'y contribuer.

Citation Envoyé par Stéphane le calme Voir le message
Comment les entreprises peuvent-elles préparer leurs employés à travailler aux côtés de l’IA ?
en développant des services flexibles qui marqueront le manque d’intérêt de ce qui est produit pas les IA. A définir des stratégie pour ne pas les adopter.

Citation Envoyé par Stéphane le calme Voir le message
Quels sont les défis éthiques liés à l’utilisation de l’IA dans le monde professionnel ?
Aujourd'hui le gros sujet c'est que l'IA ne construise pas sa valeur sur le travail produit par les humains qu'elle vise à écarter à moyen terme.

Citation Envoyé par Stéphane le calme Voir le message
Comment les entreprises peuvent-elles assurer une transition équitable pour les employés dont les postes sont automatisés ?
Pourquoi les entreprises devraient souhaiter cela ? Une entreprise est une machine à cash qui peut avoir vocation à engraisser des actionnaire mais qui peut aussi plus largement avoir comme objectif de faire vivre des gens.

Citation Envoyé par Stéphane le calme Voir le message
Voyez-vous des secteurs où l’IA ne devrait pas être utilisée ? Pourquoi ?
La totalité des métiers de création, quels qu'ils soient. La totalité des métiers à faible qualification.

Citation Envoyé par Stéphane le calme Voir le message
Comment les entreprises peuvent-elles utiliser l’IA de manière responsable tout en restant compétitives ?
l'IA a t-elle démontrée sa toute puissance aujourd’hui ? a par les hallucinations, la consommation d'énergie et l'absence d'humour elle n'a pas démontré grand chose aujourd'hui.
1  0 
Avatar de RenarddeFeu
Membre averti https://www.developpez.com
Le 27/11/2024 à 23:27
Ces mêmes personnes doutaient aussi sûrement des gains de l'outsourcing en Inde et en Afrique du Nord quand c'était encore à la mode. Toujours est-il que les décideurs y ont eu massivement recours, peu importe que ça fonctionne ou pas.

Ce que ne comprend pas 69% des demandeurs d'emploi, c'est qu'on attend d'eux qu'ils s'adaptent à la politique de l'entreprise et pas l'inverse, furent les décisions prises totalement ineptes.
1  0