IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Mustafa Suleyman, cofondateur de DeepMind et d'Inflection AI, prédit que l'intelligence artificielle va tout envahir
Et constitue même une menace pour la structure de l'État-nation

Le , par Patrick Ruiz

76PARTAGES

7  1 
Nous approchons un seuil critique de l’histoire de nos espèces. Tout est sur le point de changer. Et c’est en raison de la montée en puissance de l’intelligence artificielle. C’est du moins l’avis de Mustafa Suleyma. Le cofondateur de Deepmind et d’Inflection AI prédit que l’intelligence artificielle va se proliférer au point de tout envahir. Sa crainte : l’humanité n’est pas encore prête à gérer autant de puissance brute qui atterrira entre les mains d’acteurs malveillants de ce fait plus en capacité de provoquer le chaos généralisé. C’est un point de vue futuriste qui s’accorde avec de précédents selon lesquels l’IA représente une menace existentielle pour l’humanité et en déphasage total avec des avis selon lesquels l’humanité n’a rien à craindre de l’intelligence artificielle.


Suleyman explique dans son livre intitulé « The Coming Wave » comment l'IA va transformer tous les aspects de notre vie, de l'éducation aux soins de santé en passant par la politique et la sécurité. Il prévient que nos systèmes actuels ne sont pas prêts à faire face à l’intelligence artificielle compte tenu des avancées possibles dans une dizaine d’années. Et que nous devons repenser nos valeurs, nos institutions et notre gouvernance. Il aborde également certains des dilemmes éthiques et sociaux que pose l'intelligence artificielle : la protection de la vie privée, la responsabilité et la dignité humaine.
Ce dernier souligne que l'intelligence artificielle permettra de nouvelles formes d'apprentissage et de créativité, mais posera également des risques de manipulation et de radicalisation. Il ajoute que cette technologie remettra en question les structures de pouvoir existantes et les frontières des États-nations et créera de nouvelles possibilités de coopération et de conflit à l'échelle mondiale.

« Nous ne sommes absolument pas prêts, car chaque fois que quelque chose est utile dans l'histoire de l'invention, cela tend à devenir moins cher, à devenir plus petit, et donc à proliférer. L'histoire de la prochaine décennie est donc celle de la prolifération de cette puissance brute, et c'est ce qui, à mon avis, constituera une véritable menace pour l'État-nation, comme nous n'en avons jamais vu depuis la naissance de l'État-nation.

Suleyman est en sus d’avis que l’IA nous obligera à redéfinir ce que signifie être humain et comment nous pouvons préserver notre identité et notre action dans un monde de machines intelligentes. C’est pour apporter réponse à cette éventualité qu’Elon Musk a pensé que la solution serait de passer à l’humain augmenté à l’intelligence artificielle. Et donc sa société Neuralink travaille sur des ordinateurs à implanter dans le cerveau pour y parvenir. Son initiative vise une sorte de symbiose avec l'intelligence artificielle, ce, à un degré qui rendrait le langage humain obsolète. Il suffirait alors de penser pour communiquer.


C’est d’intelligence artificielle déployée comme outil dont il est question dans ces développements et à propos de laquelle le PDG de Google Deepmind recommande aux intervenants de la filière d’opter pour un développement responsable. C’est à ce stade d’évolution que se trouvent ChatGPT d’OpenAI et autres Bard de Google à propos desquels certains chercheurs estiment qu’il n’y a rien à craindre et donc que l’humain conservera la main.
« Je suis un peu fatigué par toutes les bêtises que l’on entend depuis quelques années sur l’intelligence artificielle et j’ai voulu rétablir la vérité. On ne sait pas ce que c’est que l’intelligence donc on ne peut pas construire de l’intelligence artificielle. Ce que l’on appelle "intelligence artificielle" depuis 1956 ce sont des techniques mathématiques qui n’ont rien à voir avec l’intelligence. Il n’en reste pas moins que ces techniques (deep learning, machine learning, etc.) sont très intéressantes. Mais la machine ne crée pas, ne réfléchit pas, et les humains conservent pleinement la main sur ces techniques », déclare Luc Julia – un expert de la filière – il y a quelques années.

En d’autres termes, l’humain devrait rester à la manette comme le confirme le CEO de GitHub : « Le développeur reste l'expert, qui comprend le code et vérifie que ce qui a été synthétisé par l'IA correspond bien à l'intention du développeur. De nos jours, les développeurs ne passent pas la majeure partie de leur temps à coder - entre deux et quatre heures par jour sont consacrées à l'écriture du code. Le reste de la journée, ils font d'autres choses, comme des réunions, des rapports de crash. Avec Copilot, si vous ne disposez que de deux à quatre heures par jour pour coder, vous pouvez mieux utiliser ce temps. Vous pouvez utiliser ce temps pour rester dans le flux, pour faire le travail et prendre plaisir à le faire. »

« En l’état actuel, l’intelligence artificielle est seulement capable d’accomplir des tâches répétitives et soumises aux même règles. L’IA aura en plus besoin de la composante créativité qui continue à lui faire défaut pour prétendre remplacer les humains de façon totale », déclare un intervenant de la filière pour faire le point sur les avancées dans la filière.

L’humain met déjà l’intelligence artificielle à contribution pour faire la guerre

Les drones sont un pilier du champ de bataille depuis des années maintenant, mais ils ont toujours nécessité un pilote humain pour appuyer sur la gâchette. Cela pourrait être sur le point de changer. En 2020, un groupe de soldats fidèles au général libyen Khalifa Haftar a été attaqué par des drones agissant de manière autonome, selon un récent rapport du groupe d'experts du Conseil de sécurité de l'ONU sur la Libye. Le tableau préfigure des moyens susceptibles d’être déployés par les armées du monde dans les guerres du futur. Le général américain Marc Milley demande donc aux officiers formés à West Point de garder à l’esprit qu’ils doivent se tenir prêts à relever ces défis. La situation ravive le débat sur les robots tueurs.

« La maturité des diverses technologies qui existent aujourd'hui ou qui sont à un stade avancé de développement, lorsqu'elles sont combinées, sont susceptibles de changer le caractère de la guerre par elles-mêmes. Vous vous battrez avec des tanks, des bateaux et des avions robotisés. Nous avons assisté à une révolution dans la létalité et les munitions de précision. Ce qui était autrefois le domaine exclusif de l'armée américaine est désormais accessible à la plupart des États-nations qui ont l'argent et la volonté de les acquérir », lance-t-il à l’occasion de la sortie d’une cuvée d’officiers, ce, sans manquer de rappeler le contexte actuel fait d’affrontements militaires en Ukraine.


C’est le type de tableau auquel on aura de plus en plus droit tant les exemples qui illustrent le fait qu’une machine peut être mise sur pied pour surpasser un humain sur une tâche donnée peut être allongée à souhait. Pour ce qui est du cas spécifique des combats aériens, noter qu’Alpha, une intelligence artificielle mise sur pied par les laboratoires de recherche de l’armée américaine, a défait des experts de cette dernière dans le cadre de simulations de combats aériens.

« J’ai été surpris par la manière dont elle était consciente et réactive. Elle semblait être consciente de mes intentions et réagir instantanément à mes changements en vol et à mes déploiements de missiles. Elle savait comment déjouer le tir que je faisais. Elle changeait instantanément entre les actions défensives et offensives en fonction des besoins », avait souligné le colonel Gene Lee, décrivant Alpha comme étant l’intelligence artificielle la plus agressive, réactive, dynamique et crédible qu’il ait jamais vue.

Ces développements sont à placer dans la problématique générale des armes autonomes létales. Une publication parue en début d’année 2020 fait état de ce que bon nombre de pays sont en train de s’arrimer à la donne. Ainsi, les USA, la Chine, la Russie, Israël, etc. investissent dans le développement de systèmes d'armement autonomes qui peuvent identifier, cibler et tuer une personne par eux-mêmes. Combien de temps encore avant que les « anciens » systèmes d’armement ne cèdent de façon définitive leur place à ceux aux capacités dites améliorées par l’intelligence artificielle ?

Et vous ?

Quelle pertinence trouvez-vous aux prédictions de Mustafa Suleyman ? Sont-elles plus sensationnalistes qu’autre chose ?
Partagez-vous l’avis selon lequel l’humain menace plus la structure de l’Etat-nation que l’intelligence artificielle ?

Voir aussi :

Neuralink, le projet d'Elon Musk pour qu'un cerveau humain interagisse directement avec un PC, et l'Homme fusionne avec l'IA, aberration ou fiction ?
Neuralink d'Elon Musk annonce que l'interface cerveau - ordinateur est prête pour des tests sur les humains, et entend procéder aux premiers en 2020
L'apocalypse s'accomplira-t-elle avec la création de l'IA ? L'entrepreneur Elon Musk pense que l'IA est la plus grande menace de l'humanité
Neuralink d'Elon Musk, la discrète firme qui travaille sur des ordinateurs à implanter dans le cerveau, lève le voile sur le secret, sous peu
Il n'aura fallu que 10 minutes pour trouver des failles dans le chapelet « intelligent » lancé par le Pape, pour inviter les fidèles à la prière partout dans le monde

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 06/09/2023 à 8:33
Citation Envoyé par totozor Voir le message
Il y a peu d'ai entendu une de ces élite dire, que l'élite était l'élite parce que ce que nous trouvons inexplicable est une évidence pour eux. Que nous sommes aveugles et qu'ils sont clairvoyants. La réalité est que le monde virtuel (finance) sur lequel ils sont clairvoyant repose sur un monde physique duquels ils semblent être devenu aveugle, tant que la corrélation marche ils restent une élite mais le jour où elle se déchirera les plus déconnectés d'entre eux risquent de chuter de haut et finir fou.
l'élite est l'élite grâce à l'héritage de papa.

si tu nait dans une bonne famille, tu vas pouvoir bénéficier d'une bonne école privé, d'une bonne université privée ou papa te fera profiter de son réseau pour une fois terminer tes études être à un bon poste chez ton pote fils du pdg de total (ou autre boite du cac40)

une fois mort, papa te cèdera ces 5 apparts à paris et ces épargnes bien investie car comme il a fait de bonnes écoles il a appris a avoir une bonne gestion financière (chose que l'école publique n'apprends pas, meme le livret A le truc basique de chez basique n'y est pas enseigné)
5 appart ou plus, en France 3.5% de la population détient 50% du parc locatif.

partir de rien et devenir millionnaire ca a du arriver a 2-3 personnes mais au global ca reste un bon gros mythe pour faire rêver les gueux.

exemple tout con d'un manque d'éducation des gueux: en ce moment beaucoup croit que quand inflation ralentie = les prix baissent, ca aide bien Bruno Lemaire et le reste de l'élite que les Français soit au global des ignorants débile.
Plus t'es stupide plus tu es soumis a l'élite, tu leurs fait confiance car toi tu sais pas faire. Et tu te poses pas les bonnes questions aussi, ca aide bien à la stabilité politique.

L'élite sait prendre soin de l'élite, on te donnera toujours des postes bien payé bidons, Agnes Buzins est conseillère maître à la Cour des comptes, jean castex Président-directeur général de la Régie autonome des transports parisiens, pap ndiaye nommé ambassadeur auprès du Conseil de l'Europe...
suffit de regarder, tous on des noms de postes à rallonge bien bidons
6  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 19/09/2023 à 12:03
Citation Envoyé par Mathis Lucas Voir le message
Que pensez-vous des déclarations de Mustafa Suleyman ?
C'est l'andouille qui raconte tout et n'importe quoi sur les IA pour vendre les services de sa propre boîte, comme par exemple que "L'IA privera les élites de leur pouvoir".

Ses propos n'ont aucun intérêt. Ils sont adressés à ses actionnaires, même si je ne doute pas du fait que l'on va encore nous gaver de propos sur "L'IA".
6  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 03/06/2024 à 15:58
Citation Envoyé par RenarddeFeu Voir le message
L'IA va faire très mal à la caste des employés de bureau. Idem chez les devs, tous ne survivront pas même s'ils ne vont pas disparaître, loin de là. Par contre, les boulangers, carreleurs, maçons,plombiers n'ont a priori pas trop de souci à se faire.
Au que si ils ont a craindre car:
qui va acheter son pain et pâtisserie en boulangerie ?
Qui a les moyens de se payer les services d'un carreleur/macon/plombier ?
Qui va acheter les voitures électrique à plus de 30000€ ?

réponse: les csp+ qui font des métiers de bureaux pas les smicards.

les smicards achetent des vielles voiture d'occasion, font eux meme leurs travaux car pas les moyens de se payer un professionnel et achete leurs pains et gâteaux à lidl/autre grande surface discount et vivent dans des logements sociaux car ne peuvent pas se payer eux même un loyer sur le marché privé.

L'europe est le 1er pole de commerce dans le monde, bien loin devant les usa/chine/inde.
C'est grâce aux "gros" salaires qu'on peut se payer les produits chinois/indiens et des produits/prestations national (plombiers, boulanger...), si plus de gros salaire c'est le marché mondial qui va s'effondrer et le plombier va avoir bien moins client donc chute de son chiffre d'affaire et la fin va s'appauvrir comme tous le monde.

d'ailleurs si demain je suis au chômage j'aurais le temps de poser moi même mon carrelage et de fabriquer mon propre pain.
mais si je suis au chômage, de toute façon je vais pas dépenser de l'argent dans ces futilités, je vais bloquer mon épargne et dépenser le moins possible et donc créer une récession qui va rien arranger.
6  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 06/09/2023 à 7:53
Nous sommes confrontés à un changement radical de ce qu'il est possible de faire pour les individus, et ce à un rythme jusqu'ici impensable. L'IA devient plus puissante et radicalement moins chère chaque mois
Mais je travaille pour un industriel qui produit des pièces, les machines coutent de millions d'euros. Seule une élite est capable de se lancer dans ce marché. Jean Marc l'usineur sénior a beau avoir toute la conaissance pratique et avoir l'IA la plus développée du monde, il ne peut pas s'acheter un poste d'usinage moderne, il n'est pas capable de concevoir un produit innovant de façon rentable, et s'il en était capable la multinationale aura fait aussi bien, plus vite et moins cher que lui.

Je pense que ce monsieur ne se rend pas compte que la voiture qu'il conduit, les carottes qu'il mange, ou le café qu'il boit n'ont rien de conceptuels, ils sont bel et bien physique et l'IA a un impact limité la dessus. L'IA ne rendra pas les moyens de productions accessible à tous. Donc l'élite est encore bien confortable sur son piedestal.
A quel point faut il être déconnecté du monde pour ne pas intégrer, au moins un tout petit peu, de matérialisme la dessus.
Il y a peu d'ai entendu une de ces élite dire, que l'élite était l'élite parce que ce que nous trouvons inexplicable est une évidence pour eux. Que nous sommes aveugles et qu'ils sont clairvoyants. La réalité est que le monde virtuel (finance) sur lequel ils sont clairvoyant repose sur un monde physique duquels ils semblent être devenu aveugle, tant que la corrélation marche ils restent une élite mais le jour où elle se déchirera les plus déconnectés d'entre eux risquent de chuter de haut et finir fou.
5  0 
Avatar de onilink_
Membre émérite https://www.developpez.com
Le 25/08/2023 à 11:43
C'est une vision très naïve de la chose je trouve @totozor.

Il ne faut pas oublier que l'IA est aussi un outil de domination.

A terme elle permettra aux puissants (j'inclus la dedans les états, multinationales, milliardaires) d'avoir encore plus de contrôle:
- sur la population (reconnaissance faciale, propagande, filtrage d'internet, tracking etc)
- géopolitique (l'analyse des données et la data a grande echelle c'est le nerf de la guerre)
- guerre (cf drones autonomes etc) et cyber guerre (découverte de failles automatisées)
Puis dans l'absolu tout simplement de se passer d'avoir besoin de nous avec de la main d’œuvre capable de travailler 24h/24 sans aucune revendication et compensation. Ce qui permettra encore plus aux multinationales d'avoir du pouvoir sur les états et de façonner le monde selon leurs règles et leur vision.

Même actuellement, avec un état de l'art qui est ridicule comparé à ce que l'on verra dans quelque décennies on voit déjà la tendance.

Les seuls personnes qui se réjouissent de l'IA sont les mecs qui découvrent à peine les possibilités (y a un effet wow) et ne voient que les bénéfices que ça leur apporte directement (ex: ça me fait gagner du temps dans mon pissage de javascript, ou pour taper un mail chiant) sans aucune vision plus large et sur le long terme (à commencer généralement par: 'ça va remplacer mon taf').

Même ceux qui bossent dans le secteur savent très bien qu'on a ouvert la boite de pandore, mais on ne peut que continuer de progresser car c'est une guerre technologique. Si tu n'as pas une force de frappe équivalente à celle de tes ennemis/concurrents tu es finis.
4  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 06/02/2024 à 8:05
Citation Envoyé par petitours Voir le message
oui apprécier ne rien faire est un beau fantasme sauf que au delà de ça il y a le sens même de la vie qui est sur la balance.
J'observe une transformation intéressante chez mes parents, plus si jeunes retraités.
Les deux étaient très fiers de leur travail et de ce qu'ils "apportaient au monde" (plus ou moins grand suivant le cas).
Ils ne travaillent plus et ils sont encore plus fiers de leur vie, leurs loisirs apportent encore plus au monde d'après eux.
Ils ne travaillent plus mais leur vie a encore plus de sens pour eux (parce qu'ils choisissent ce qu'ils apportent).

Si demain je n'ai plus besoin d'être salarié pour vivre je ne m'arrêterais pas pour autant de travailler, mais je choisirais mes travaux (parce que je me disperserais surement plus qu'aujourd'hui).
Et je pense que ma vie aurait encore plus de sens pour moi.

Et je peux te présenter un paquets de caissiers, de femmes de ménage, d'opérateurs, de transporteurs dont le sens de la vie aujourd'hui est de se buter au travail pour espérer donner une vie digne à leurs enfants.
Je met ma main à couper que ces personnes auraient le sentiment que leur vie a 1000 fois plus de sens s'ils avaient les moyens de choisir leur travail. Et certains feraient le même travail, pas de la même façon, pas pour les mêmes personnes.
4  0 
Avatar de calvaire
Expert confirmé https://www.developpez.com
Le 03/06/2024 à 14:51
les clients qui paient les journaux, veulent des articles de qualités (sans faute, écrit de manière clair et concis sans blabla a rallonge et neutre politiquement), ca l'ia pourra le fournir.

par contre ceux qui paient veulent aussi une info vrai, le métier de journaliste doit évoluer sur cette voie, la rédaction d'article n'a pas vraiment de valeur, la vérification des faits par contre me semble importante !

Je vois pas l’intérêt de lire des articles qui raconte n'importe quoi, un site me ferait le coup, après 2-3 fois de fakenews je ne vais plus sur ce site. Cela fait longtemps que j'ai déserté tf1/bfm/cnews/lci pour cette raison.

A l'aube des élections, je liste tous les journaux qui font des articles sur "les danger de l’extrême droite" sans parler des autres partis politique, arte par exemple c'est terminé pour moi, c'est devenu une chaine de propagande de gauche et pro europe et plus du tous informative. J'évite les journaux orienté extrême droite du style Valeurs actuelle, c'est pas pour tomber dans le travers inverse. Ceux qui font que des articles pour dire que l'UE c'est bien c'est parfait, ne valent pas mieux que ceux qui écrivent H24 que l’Europe faut la quitter.
Chacun prêche sa paroisse en mentant sur les chiffres ou bien en oublient de donner ceux qu vont pas dans leurs sens.

vérifier des données/chiffres, vérifier l’authenticité d'une photo, en cas d'erreur découverte après publication mettre à jours l'article et prévenir les lecteurs.

Le mieux c'est les articles sur les sondages, je suis sur que je peux obtenir un sondage pour dire que 51% des français voudrait voudrait exterminer tous les vieux et handicapés pour réduire la dette. suffit de tourner bien comme il faut les questions, voir de poser des questions qui n'ont rien à voir et de bien choisir les répondants et d'en choisir peu (10 personnes par exemple).
Ca me fait un gros titre putaclic pour la journée, la méthode du sondage osef. en réalité c'est un sondage poser sur le forum 18-25 dans le topic troll et 200 personnes y ont répondu à la question: "doit on tout faire ce qui est possible de faire pour réduire la dette sans impacter les jeunes en bonne santé ?"

En ce moment, je recommande le journal Elucid, pour l'instant je ne suis pas déçu par le sérieux de leurs travail de qualité, que jamais une IA ne pourra faire !
la section économie est irréprochable, un exemple
4  0 
Avatar de RenarddeFeu
Membre habitué https://www.developpez.com
Le 03/06/2024 à 15:43
L'IA va faire très mal à la caste des employés de bureau. Idem chez les devs, tous ne survivront pas même s'ils ne vont pas disparaître, loin de là. Par contre, les boulangers, carreleurs, maçons,plombiers n'ont a priori pas trop de souci à se faire.
4  0 
Avatar de RenarddeFeu
Membre habitué https://www.developpez.com
Le 13/02/2024 à 13:41
L'IA est surtout une bonne excuse pour licencier sans avouer que l'entreprise connait des difficultés, très vrai actuellement dans la tech américaine.
3  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 24/08/2023 à 8:01
Citation Envoyé par Patrick Ruiz Voir le message
Il prévient que nos systèmes actuels ne sont pas prêts à faire face à l’intelligence artificielle compte tenu des avancées possibles dans une dizaine d’années.
Que l'IA envahisse tous les secteurs me parait assez évident, ça a été le cas pour toutes les avancées technlologiques qui ont mené à une révolution industrielle.
Mais quand on manipule un outil trop puissant pour nous, soit on l'utilise que partiellement, soit on se "brule". Et les corps qui ont un peu de sens de la survie évitent de reproduire ce qui mène à la brulure.

Donc l'IA dans la plupart des secteurs ne dervait pas être un gros problème à long terme.
Evidemment le domaine militaire semble plus résistant à la brulure que les autres et pourrait se lancer dans une course dangereuse mais Terminator semble encore loin.
2  0