IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Sam Altman se demande si nos compagnons d'IA personnalisés du futur pourraient être cités pour témoigner contre nous au tribunal
"imaginez une IA qui accès à un enregistrement complet de votre vie"

Le , par Jade Emy

11PARTAGES

6  0 
Sam Altman se demande si nos compagnons d'IA personnalisés du futur pourraient être cités à comparaître pour témoigner contre nous au tribunal.

Sam Altman, de son vrai nom "Samuel Harris Altman", est un entrepreneur et investisseur américain surtout connu comme PDG d'OpenAI depuis 2019 (il a été brièvement licencié et réintégré en novembre 2023). Il est considéré comme l'une des figures de proue du boom de l'IA

Voici une de ces déclarations :

Je peux imaginer un avenir dans lequel, si vous le souhaitez, vous disposez d'une IA personnalisée qui a lu tous les courriels, tous les textes, tous les messages que vous avez envoyés ou reçus, qui a accès à un enregistrement complet de votre vie, qui connaît tous les documents que vous avez consultés, toutes les émissions de télévision que vous avez lues, tout ce que vous avez lu, entendu ou vu, toutes vos entrées et sorties. Vous pouvez imaginer qu'il serait très utile d'en disposer.

Vous pouvez également imaginer les problèmes de protection de la vie privée que cela représenterait. Je pense que nous devrions nous en tenir à ce cadre et que nous ne disons pas "l'IA devrait-elle être capable de s'entraîner sur telle ou telle donnée". Mais comment allons-nous naviguer entre la vie privée, l'utilité et les compromis de sécurité qui en découlent ? Et qu'est-ce que cela signifie ? Avons-nous besoin d'une nouvelle définition des informations confidentielles pour que votre compagnon IA n'ait jamais à témoigner contre vous ou ne puisse pas être cité à comparaître par un tribunal ?

Je ne sais même pas quels seront les problèmes.
Et vous ?

Pensez-vous qu'il est crédible ou pertinent ?
Quel est votre avis sur le sujet ?

Voir aussi :

Sam Altman : « je me fiche de savoir si nous dépensons 50 milliards de dollars par an, nous construisons l'AGI et cela en vaudra la peine », ce montant dépasse largement le PIB de certains pays

Enjeux et avantages de l'IA générale : Sam Altman, PDG d'OpenAI, appel au changement de gouvernance, pour éviter la concentration du contrôle

Nous avons désormais plus de détails sur ce qui s'est passé à OpenAI et qui a conduit au licenciement de Sam Altman. Ce dernier a été accusé de monter les membres du conseil les uns contre les autres

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Gagaruine
Futur Membre du Club https://www.developpez.com
Le 09/05/2024 à 14:06
Discours marketeux à vomir.
1  0 
Avatar de _toma_
Membre averti https://www.developpez.com
Le 10/05/2024 à 20:51
Il ne parle pas d'IA, il parle d'une perte totale de vie privée due à la numérisation systématique de notre vie.

Il ajoute le mot IA dans la phrase parce qu'il faut qu'il en vende mais le problème n'a rien à voir avec l'IA.
1  0 
Avatar de Jules34
Membre chevronné https://www.developpez.com
Le 23/05/2024 à 10:36
Ils promettent de ne pas faire des choses qui sont déjà faîtes...
1  0 
Avatar de totozor
Membre expert https://www.developpez.com
Le 10/05/2024 à 8:06
Vous pouvez imaginer qu'il serait très utile d'en disposer
Ou très préjudiciable.
"M. Totozor nous voyons que vous vous êtes particulièrement renseigné sur le situation Israëlo-palestinienne avec une grande tendance à vers la défense de la Palestine. Vous avez lu ces articles [liste des articles et date de lecture] et regardé ces vidéos
[liste des vidéos et date de visionnage].
M. Totozor nous voyons que vous vous êtes particulièrement renseigné sur le black bloc. Vous avez lu ces articles [liste des articles et date de lecture] et regardé ces vidéos [liste des vidéos et date de visionnage].
Ce qui fait de vous à la fois un antisémite et un violent anarchiste.
Vous avez récemment fait l'acquisition d'un chien de catégorie 3 mais dont la race a néanmoins une réputation d'excellents chiens de garde et d'attaque.
Avec ce faisceau de preuve je veux mettre l'accent sur la radicalisation évidente de cette personne et sur la preuve évidente de la glissade de cette personne d'un bobo radicool vers un dangereux terroriste".
0  0 
Avatar de Jules34
Membre chevronné https://www.developpez.com
Le 24/05/2024 à 11:45
Ce qui m'énerve autant que ça me fait rire c'est de voir à quel point cette caste de la sillicon valley est déconnectée de la réalité et des gens qui les entourent :

dépasseront ce que nous voulons, en tant que nation, donner sans permission à nos propres citoyens ainsi qu'à nos concurrents.
Depuis quand vous décidez ce que vous voulez "en tant que nation" donner aux citoyens (la nation) ?????

Les masques tombent d'eux même c'est pas croyable
0  0 
Avatar de SamuelLamour
Nouveau Candidat au Club https://www.developpez.com
Le 24/05/2024 à 15:39
Je trouve ce débat sur l’IA vraiment fascinant et important. Elon Musk et Bill Gates ont tous deux des points de vue très intéressants.

Personnellement, je comprends pourquoi Elon Musk compare l’IA à une menace nucléaire. C’est une façon très percutante de souligner à quel point les conséquences d’une IA incontrôlée pourraient être graves. Les armes nucléaires sont strictement régulées en raison de leur potentiel destructeur immédiat et massif. De la même manière, une super-intelligence numérique pourrait, en théorie, évoluer bien au-delà de notre contrôle et poser des risques existentielles. Cette comparaison, bien qu’alarmante, vise à nous faire prendre conscience de l’importance d’une régulation stricte dès maintenant, avant qu’il ne soit trop tard.

Cependant, je trouve aussi le point de vue de Bill Gates très pertinent. Il voit l’IA comme une technologie qui, tout comme l’énergie nucléaire, possède à la fois un potentiel immense pour le bien et des risques significatifs. Cette approche plus équilibrée me parle beaucoup, car elle reconnaît les opportunités tout en restant conscient des dangers. En effet, l’IA pourrait transformer positivement notre société à bien des égards, mais elle pourrait aussi être utilisée à des fins destructrices, notamment dans le domaine militaire.

Je pense que nous devons prendre au sérieux les mises en garde d’Elon Musk, même si elles peuvent sembler alarmistes. Son insistance sur la création d’un organisme de réglementation pour superviser le développement de l’IA me paraît être une mesure de précaution nécessaire. En même temps, adopter une perspective équilibrée comme celle de Bill Gates nous permet de ne pas sombrer dans une vision trop pessimiste et de reconnaître les nombreux avantages que l’IA peut offrir.

En fin de compte, je crois que le débat sur l’IA ne doit pas se limiter à une opposition entre optimisme et pessimisme. Il s’agit de trouver un juste milieu, où nous pouvons encourager les innovations tout en mettant en place des gardes-fous appropriés pour prévenir les abus et les dangers potentiels.

Qu’en pensez-vous ? Est-ce que la comparaison de l’IA avec l’arme nucléaire vous semble justifiée ? Pensez-vous qu’on devrait privilégier une approche plus prudente ou plus optimiste dans le développement de l’IA ?
0  0 
Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 24/05/2024 à 20:48
Citation Envoyé par SamuelLamour Voir le message
sition entre optimisme et pessimisme. Il s’agit de trouver un juste milieu, où nous pouvons encourager les innovations tout en mettant en place des gardes-fous appropriés pour prévenir les abus et les dangers potentiels.

Qu’en pensez-vous ? Est-ce que la comparaison de l’IA avec l’arme nucléaire vous semble justifiée ? Pensez-vous qu’on devrait privilégier une approche plus prudente ou plus optimiste dans le développement de l’IA ?
Qu'elle sont ridicule est sans aucun fondement scientifique.

Déjà parce qu'elle présupposent que ces IA sont dangereuse parce que peuvent être consciente, sauf que y'a aucune théorie là dessus.
Le second point , ça présuppose que les algos peuvent créer une conscience , préposition qui ne se base sur aucune observation...
Et troisième point qu'on oublie souvent , la conscient fait probablement partie du vivant , et donc que ça devrait plus de ce coté là qu'une théorie/explication viendrait.

Donc non heureusement qu'il y'a pas de débat sérieux sur ça , parce que ça serait ridicule.

Si on parle de L'IA ce qu'elle est , donc un outils statistique , oui mais bon pas sur que cette technologie ira aussi loin qu'elle le promettent.

Celà me fait penser à la génétique il y'a 20 ans :
https://www.courrierinternational.co...n-grand-public
(enfin meme 30 ans)

Au final , le résultat de tout ces investissements ?
Et la génétique souffrait du même problème que l'IA actuelle (enfin en moins pire) , pas de théorie solide et ds promesses de monts et merveilles avec !
0  0 
Avatar de Fluxgraveon
Membre à l'essai https://www.developpez.com
Le 27/05/2024 à 14:11
Et troisième point qu'on oublie souvent , la conscient fait probablement partie du vivant
Mmm, juste une question : à combien estimez-vous cette probabilité ?

Peut-être sommes-nous comme dans une expérience de Miller-Urey pour comprendre la nature de l'intellection en tentant de faire émerger de la "conscience" à partir d'une "soupe algorithmique" ? N'est-ce pas trop hérétique cela dit ?
0  0 
Avatar de Kannagi
Expert éminent sénior https://www.developpez.com
Le 28/05/2024 à 0:00
Citation Envoyé par Fluxgraveon Voir le message
Mmm, juste une question : à combien estimez-vous cette probabilité ?
Franchement je dirais pour moi facile 90%, et la chose pour moi la plus frappante est ceci :
Les neurones sont bien positionné , et malgré la différence des individus et la variation des connexions des neurones, celà créer toujours une sacré cohérence avec leur environnement.
Il y'a un autre systeme dans la nature qui a ce même mécanisme : la génétique

Et je pense que les deux sont les mêmes mécanismes.

Et le vivant à les mêmes problématique que la conscience, malgré qu'on connaît tout de leur processus physique , cela ne nous apprend rien sur "comment ça marche".

Et le dernier point souvent oublié , un neurone est une cellule avant tout (il a un code ADN, tout comme toute les cellules de notre corps).
0  0 
Avatar de Fluxgraveon
Membre à l'essai https://www.developpez.com
Le 28/05/2024 à 11:09
Et le vivant à les mêmes problématique que la conscience, malgré qu'on connaît tout de leur processus physique , cela ne nous apprend rien sur "comment ça marche".
Peut-être que le vivant n'est pas qu'un "mécanisme" (cela a quelque chose à voir avec le courant positiviste et le fait que la biologie a emprunté le même chemin que la physique). Aussi vous évoquez la génétique et quid de l'épigénétique (de ces comportements qui activent ou inhibent l'expression des gènes) ?
De quels neurones parlez-vous (cérébraux uniquement ?) ? les neurones entériques produisent la grande majorité des neuromédiateurs (95 % de la sérotonine), le cœur dispose de son propre réseau de neurones qualifiés de "semi-autonomes" et de mon point de vue le microbiote constitue un cerveau supplémentaire à part entière nous interfaçant avec l'environnement.
Quant au fameux code ADN, je le vois comme une base mnémotechnique pour le "Vivant" évoqué.

Et aussi :
Conclusion
L’IA offre d’immenses opportunités pour transformer notre économie et résoudre nos plus grands défis, mais nous devons également gérer les risques posés par cette technologie complexe. L’accord sur l’interrupteur d’arrêt est un pas dans la bonne direction, mais il reste encore beaucoup à faire pour garantir que l’IA reste bénéfique pour l’humanité. Comme l’a déclaré Michelle Donelan, secrétaire à la technologie du Royaume-Uni : « Ce potentiel complet ne peut être débloqué que si nous sommes capables de maîtriser les risques posés par cette technologie en constante évolution ».
Pour faire bref, le fait que l'inscription " Γνῶθι σεαυτόν" ("connais-toi toi même") soit gravée à l'entrée du temple de Delphes (c'est la plus ancienne) indique une condition initiale pour être en capacité de recevoir l'oracle proféré par la Πυθία (Pythie) et s'affranchir de l'interprétation des prêtres (voilà que je deviens hérétique, tiens).
L'IA (peu importe ici ce dont il s'agit) est une création humaine (comme le syndrome terminator), peut-être l'externalisation d'une fonctionnalité nécessaire à ce moment technologique, qui du fait même de la technologie (agressive pour le moins) risque de nous emporter tous (voire même par inadvertance) : sommes-nous capables de nous connaître nous-mêmes ?
0  0