IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

L'ancien PDG de Google, Eric Schmidt, affirme que les systèmes d'IA les plus puissants du futur devront être confinés dans des bases militaires, tant leurs capacités seront dangereuses

Le , par Anthony

12PARTAGES

4  1 
Dans une interview récente, Eric Schmidt, ancien PDG de Google, a souligné les dangers potentiels des futurs systèmes d'IA les plus puissants. Il a estimé que, à l'instar des niveaux de biosécurité en biologie, ces systèmes d'IA pourraient devoir être confinés dans des bases militaires et fortement surveillés en raison de leurs immenses capacités et des risques qu'ils posent s'ils sont utilisés à mauvais escient.

Eric Emerson Schmidt est un homme d'affaires américain et un ancien ingénieur logiciel qui a été PDG de Google de 2001 à 2011 et président exécutif de la société de 2011 à 2015. Il a également été président exécutif de la société mère Alphabet Inc. de 2015 à 2017 et conseiller technique d'Alphabet de 2017 à 2020. En avril 2022, le Bloomberg Billionaires Index a estimé sa valeur nette à 25,1 milliards de dollars américains.



Citation Envoyé par Eric Schmidt
Si vous réalisez une formation puissante [de l'IA], il est nécessaire d'établir des accords en matière de sécurité. En biologie, il existe une série de niveaux largement acceptés : BSL 1 à 4, pour le confinement de la biosécurité, ce qui est tout à fait logique, car ces choses sont dangereuses. Un jour, il y aura un petit nombre d'ordinateurs extrêmement puissants qui, je pense, se trouveront dans une base militaire et seront alimentés par une source d'énergie nucléaire dans cette base, et ils seront entourés d'encore plus de barbelés et de mitrailleuses parce que leur capacité d'invention, leur puissance, etc., dépasseront ce que nous voulons, en tant que nation, donner sans permission à nos propres citoyens ainsi qu'à nos concurrents. Il me semble logique qu'il y ait quelques-uns de ces systèmes et qu'il y en ait beaucoup d'autres qui soient plus largement disponibles.
Source : Eric Schmidt

Et vous ?

Qu'en pensez-vous ?
Selon vous, le point de vue de M. Schmidt est-il crédible ou pertinent ?

Voir aussi :

Eric Schmidt estime qu'on devrait développer l'IA aussi rapidement que possible, car son potentiel est très important, par exemple un médecin IA ou un tuteur IA

L'ancien PDG de Google, Eric Schmidt, s'exprime sur l'IA : "elle est sous-estimée et les entreprises vont changer grâce à elle"

Eric Schmidt, ancien PDG de Google, affirme que les États-Unis ont 2 à 3 ans d'avance sur la Chine en matière d'IA, tandis que l'Europe est trop occupée à réglementer pour être pertinente

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 24/05/2024 à 20:48
Citation Envoyé par SamuelLamour Voir le message
sition entre optimisme et pessimisme. Il s’agit de trouver un juste milieu, où nous pouvons encourager les innovations tout en mettant en place des gardes-fous appropriés pour prévenir les abus et les dangers potentiels.

Qu’en pensez-vous ? Est-ce que la comparaison de l’IA avec l’arme nucléaire vous semble justifiée ? Pensez-vous qu’on devrait privilégier une approche plus prudente ou plus optimiste dans le développement de l’IA ?
Qu'elle sont ridicule est sans aucun fondement scientifique.

Déjà parce qu'elle présupposent que ces IA sont dangereuse parce que peuvent être consciente, sauf que y'a aucune théorie là dessus.
Le second point , ça présuppose que les algos peuvent créer une conscience , préposition qui ne se base sur aucune observation...
Et troisième point qu'on oublie souvent , la conscient fait probablement partie du vivant , et donc que ça devrait plus de ce coté là qu'une théorie/explication viendrait.

Donc non heureusement qu'il y'a pas de débat sérieux sur ça , parce que ça serait ridicule.

Si on parle de L'IA ce qu'elle est , donc un outils statistique , oui mais bon pas sur que cette technologie ira aussi loin qu'elle le promettent.

Celà me fait penser à la génétique il y'a 20 ans :
https://www.courrierinternational.co...n-grand-public
(enfin meme 30 ans)

Au final , le résultat de tout ces investissements ?
Et la génétique souffrait du même problème que l'IA actuelle (enfin en moins pire) , pas de théorie solide et ds promesses de monts et merveilles avec !
1  0 
Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 28/05/2024 à 0:00
Citation Envoyé par Fluxgraveon Voir le message
Mmm, juste une question : à combien estimez-vous cette probabilité ?
Franchement je dirais pour moi facile 90%, et la chose pour moi la plus frappante est ceci :
Les neurones sont bien positionné , et malgré la différence des individus et la variation des connexions des neurones, celà créer toujours une sacré cohérence avec leur environnement.
Il y'a un autre systeme dans la nature qui a ce même mécanisme : la génétique

Et je pense que les deux sont les mêmes mécanismes.

Et le vivant à les mêmes problématique que la conscience, malgré qu'on connaît tout de leur processus physique , cela ne nous apprend rien sur "comment ça marche".

Et le dernier point souvent oublié , un neurone est une cellule avant tout (il a un code ADN, tout comme toute les cellules de notre corps).
1  0 
Avatar de marsupial
Expert éminent https://www.developpez.com
Le 09/06/2024 à 17:15
Je ne savais pas le 6 juin lorsque j'ai posté ceci :Mon avis sur le remplacement des emplois par l'IA que les entreprises technologiques de la Silicon Valley allaient faire du lobbying au près des sénateurs californiens pour empêcher le kill switch lors de certains résultats de l'IA. Oui l'IA américaine va devenir dangereuse à cause de ses hallucinations que nous ne pourrons détecter puisque inaccessibles à la compréhension humaine à la différence de certaines IA européennes qui resteront explicables et plus intelligentes que les IA américaines et chinoises.
1  0 
Avatar de Jules34
Membre chevronné https://www.developpez.com
Le 24/05/2024 à 11:45
Ce qui m'énerve autant que ça me fait rire c'est de voir à quel point cette caste de la sillicon valley est déconnectée de la réalité et des gens qui les entourent :

dépasseront ce que nous voulons, en tant que nation, donner sans permission à nos propres citoyens ainsi qu'à nos concurrents.
Depuis quand vous décidez ce que vous voulez "en tant que nation" donner aux citoyens (la nation) ?????

Les masques tombent d'eux même c'est pas croyable
0  0 
Avatar de SamuelLamour
Nouveau Candidat au Club https://www.developpez.com
Le 24/05/2024 à 15:39
Je trouve ce débat sur l’IA vraiment fascinant et important. Elon Musk et Bill Gates ont tous deux des points de vue très intéressants.

Personnellement, je comprends pourquoi Elon Musk compare l’IA à une menace nucléaire. C’est une façon très percutante de souligner à quel point les conséquences d’une IA incontrôlée pourraient être graves. Les armes nucléaires sont strictement régulées en raison de leur potentiel destructeur immédiat et massif. De la même manière, une super-intelligence numérique pourrait, en théorie, évoluer bien au-delà de notre contrôle et poser des risques existentielles. Cette comparaison, bien qu’alarmante, vise à nous faire prendre conscience de l’importance d’une régulation stricte dès maintenant, avant qu’il ne soit trop tard.

Cependant, je trouve aussi le point de vue de Bill Gates très pertinent. Il voit l’IA comme une technologie qui, tout comme l’énergie nucléaire, possède à la fois un potentiel immense pour le bien et des risques significatifs. Cette approche plus équilibrée me parle beaucoup, car elle reconnaît les opportunités tout en restant conscient des dangers. En effet, l’IA pourrait transformer positivement notre société à bien des égards, mais elle pourrait aussi être utilisée à des fins destructrices, notamment dans le domaine militaire.

Je pense que nous devons prendre au sérieux les mises en garde d’Elon Musk, même si elles peuvent sembler alarmistes. Son insistance sur la création d’un organisme de réglementation pour superviser le développement de l’IA me paraît être une mesure de précaution nécessaire. En même temps, adopter une perspective équilibrée comme celle de Bill Gates nous permet de ne pas sombrer dans une vision trop pessimiste et de reconnaître les nombreux avantages que l’IA peut offrir.

En fin de compte, je crois que le débat sur l’IA ne doit pas se limiter à une opposition entre optimisme et pessimisme. Il s’agit de trouver un juste milieu, où nous pouvons encourager les innovations tout en mettant en place des gardes-fous appropriés pour prévenir les abus et les dangers potentiels.

Qu’en pensez-vous ? Est-ce que la comparaison de l’IA avec l’arme nucléaire vous semble justifiée ? Pensez-vous qu’on devrait privilégier une approche plus prudente ou plus optimiste dans le développement de l’IA ?
0  0 
Avatar de Fluxgraveon
Nouveau membre du Club https://www.developpez.com
Le 27/05/2024 à 14:11
Et troisième point qu'on oublie souvent , la conscient fait probablement partie du vivant
Mmm, juste une question : à combien estimez-vous cette probabilité ?

Peut-être sommes-nous comme dans une expérience de Miller-Urey pour comprendre la nature de l'intellection en tentant de faire émerger de la "conscience" à partir d'une "soupe algorithmique" ? N'est-ce pas trop hérétique cela dit ?
0  0 
Avatar de Fluxgraveon
Nouveau membre du Club https://www.developpez.com
Le 28/05/2024 à 11:09
Et le vivant à les mêmes problématique que la conscience, malgré qu'on connaît tout de leur processus physique , cela ne nous apprend rien sur "comment ça marche".
Peut-être que le vivant n'est pas qu'un "mécanisme" (cela a quelque chose à voir avec le courant positiviste et le fait que la biologie a emprunté le même chemin que la physique). Aussi vous évoquez la génétique et quid de l'épigénétique (de ces comportements qui activent ou inhibent l'expression des gènes) ?
De quels neurones parlez-vous (cérébraux uniquement ?) ? les neurones entériques produisent la grande majorité des neuromédiateurs (95 % de la sérotonine), le cœur dispose de son propre réseau de neurones qualifiés de "semi-autonomes" et de mon point de vue le microbiote constitue un cerveau supplémentaire à part entière nous interfaçant avec l'environnement.
Quant au fameux code ADN, je le vois comme une base mnémotechnique pour le "Vivant" évoqué.

Et aussi :
Conclusion
L’IA offre d’immenses opportunités pour transformer notre économie et résoudre nos plus grands défis, mais nous devons également gérer les risques posés par cette technologie complexe. L’accord sur l’interrupteur d’arrêt est un pas dans la bonne direction, mais il reste encore beaucoup à faire pour garantir que l’IA reste bénéfique pour l’humanité. Comme l’a déclaré Michelle Donelan, secrétaire à la technologie du Royaume-Uni : « Ce potentiel complet ne peut être débloqué que si nous sommes capables de maîtriser les risques posés par cette technologie en constante évolution ».
Pour faire bref, le fait que l'inscription " Γνῶθι σεαυτόν" ("connais-toi toi même") soit gravée à l'entrée du temple de Delphes (c'est la plus ancienne) indique une condition initiale pour être en capacité de recevoir l'oracle proféré par la Πυθία (Pythie) et s'affranchir de l'interprétation des prêtres (voilà que je deviens hérétique, tiens).
L'IA (peu importe ici ce dont il s'agit) est une création humaine (comme le syndrome terminator), peut-être l'externalisation d'une fonctionnalité nécessaire à ce moment technologique, qui du fait même de la technologie (agressive pour le moins) risque de nous emporter tous (voire même par inadvertance) : sommes-nous capables de nous connaître nous-mêmes ?
0  0 
Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 28/05/2024 à 16:31
Citation Envoyé par Fluxgraveon Voir le message
Peut-être que le vivant n'est pas qu'un "mécanisme" (cela a quelque chose à voir avec le courant positiviste et le fait que la biologie a emprunté le même chemin que la physique). Aussi vous évoquez la génétique et quid de l'épigénétique (de ces comportements qui activent ou inhibent l'expression des gènes) ?
André Pichot ( biologiste et épistémologiste ) supposé lui aussi que la vision purement "mécanisme" était une impasse :

Selon lui la biologie moderne est dans une impasse théorique qu'elle masque à l'aide d'opérations médiatiques et de débauche technologique (Téléthon, annonces fracassantes de thérapies miracles, séquençage du génome humain, etc).

La domination du néo-darwinisme de la génétique et de la biologie moléculaire (constituée de « dogmes » selon certains biologistes, et notamment Francis Crick) aurait, selon Pichot, stérilisé presque toute tentative de penser le vivant autrement que comme une machine.
L'analogie mécaniste remonte au XVIIe siècle et n'était alors qu'une métaphore commode, faite faute de mieux ; aujourd'hui selon lui la machine serait devenue le modèle exclusif par lequel les scientifiques tentent d'appréhender le vivant.

Or une telle conception du vivant est très critiquable. Selon Pichot, tant que cette conception du vivant comme machine ne sera pas critiquée et tant qu'il n'y aura pas de théorie sur la nature des êtres vivants qui reconnaisse leur spécificité par rapport aux objets inanimés et aux machines, il ne sortira rien de la biologie moderne
Citation Envoyé par Fluxgraveon Voir le message
De quels neurones parlez-vous (cérébraux uniquement ?) ? les neurones entériques produisent la grande majorité des neuromédiateurs (95 % de la sérotonine), le cœur dispose de son propre réseau de neurones qualifiés de "semi-autonomes" et de mon point de vue le microbiote constitue un cerveau supplémentaire à part entière nous interfaçant avec l'environnement.
Quant au fameux code ADN, je le vois comme une base mnémotechnique pour le "Vivant" évoqué.
Je ne suis pas biologiste , je parlais des neurones du cerveau , mais j'ai presque envie de dire "peu imposte" , ce que je voulais relevé était qu'un neurone est un peu plus complexe que la vision actuel qu'on en fait qui est une sorte de multriplication de matrice (IA) , avec de simple "entre sortie" multiple.

Pareil pour l'ADN qui n'est pas un "programme" (que André Pichot critiquais d'ailleurs).

Je pense que nos grandes méconnaissance du vivant sur ces nombreux point sont quelque chose de plus significatif.
Le soucis de la vision mécanisme , ce n'est pas tant pour moi que le vivant n'est pas une "machine" , mais que nous la voyant comme des rouages qui ont chaqu'un leur propre mécanisme indépendant, comme une voiture qu'on pourrait changer de pièce , et que chaque pièce étant totalement indépendant.
Ce qui conduit à la conclusion actuel que le cerveau c'est juste un "algorithme" en effaçant toute la partie vivante comme si cela n'avait aucun impact.

Alors que j'ai des forts doutes sur cette vision, au contraire, j'ai l'impression que chaque rouage du vivant partage plus ou moins les mêmes "mécanismes" mais en plus sont fortement dépendant entre elle.
Et le cerveau et la conscience en font partie intégrante de ce mécanisme entremelée.
0  0 
Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 30/05/2024 à 8:21
Citation Envoyé par Fluxgraveon Voir le message
Comme une interdépendance des phénomènes ? Ce qui pourrait constituer un pas vers l'intégration de l'agentivité en question et court-circuiter la réification technologique (nécessaire à une configuration de type IoT cela dit) : il manque encore quelque chose disons "de plus rentable que la rentabilité elle-même", peut-être quelque chose de ... vital ?
Ce n'est pas trop compris , et qu’appeler vous "quelque chose de vital ? quel en serait sa forme ?
0  0 
Avatar de Fluxgraveon
Nouveau membre du Club https://www.developpez.com
Le 30/05/2024 à 9:42
Agencement, agentivité, génétique, épigénétique, etc. : il s'agit de recontextualiser en fait, sortir du laboratoire (quand bien même celui-ci est installé à ciel ouvert parfois) et "s'approprier" les dynamismes plutôt que les "choses".

qu’appeler vous "quelque chose de vital ? quel en serait sa forme ?
En substance et au vu de ce vers quoi les humains convergent, qui est pour le moins toxique, un risque d'extinction de l'espèce (cf. les expériences de cloaque comportemental : des "répliques" d'un séisme de dépopulation de masse amenant finalement l'extinction de la population toute entière).
0  0