IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Eric Schmidt prévient que les copines IA « parfaites » pourraient causer des problèmes aux jeunes hommes.
Pour l'ancien PDG de Google, il faudra une catastrophe pour provoquer un changement de réglementation

Le , par Stéphane le calme

45PARTAGES

11  0 
Eric Schmidt, ancien PDG de Google, a récemment mis en garde contre une nouvelle tendance inquiétante : les "petites amies parfaites" créées par des modèles d'IA avancés. Lors d’une conférence, Schmidt a souligné que ces outils, capables de générer des interactions émotionnelles convaincantes, pourraient avoir des conséquences néfastes, notamment sur les jeunes hommes.

Une relation illusoire avec la technologie

Les chatbots dotés d’intelligence artificielle et de capacités de conversation sophistiquées gagnent en popularité, promettant des interactions humaines virtuelles réalistes. Ils vont jusqu’à simuler des relations affectives, en offrant une « compagnie » sans les aléas des relations humaines réelles. Pour Schmidt, ce concept de « perfection » dans une relation simulée pourrait causer des problèmes sociaux et psychologiques profonds.

L'ancien PDG de Google, a récemment fait part de ses inquiétudes concernant les jeunes hommes qui créent des partenaires romantiques à l'aide de l'IA : « Les jeunes hommes, particulièrement vulnérables à ces influences, pourraient se détourner des relations réelles », a-t-il averti. Il estime que ces applications de l’IA risquent de creuser davantage le fossé social et émotionnel en exacerbant l’isolement ou en alimentant des attentes irréalistes envers les relations humaines : « C'est un bon exemple d'un problème inattendu lié à une technologie existante », a déclaré Schmidt lors d'une conversation sur les dangers de l'IA et la réglementation dans le cadre de l'émission “The Prof G Show” avec Scott Galloway, diffusée dimanche.

Schmidt a déclaré qu'une petite amie IA « parfaite » sur le plan émotionnel et physique pourrait créer un scénario dans lequel un jeune homme deviendrait obsédé et laisserait l'IA prendre le contrôle de sa pensée : « Ce type d'obsession est possible », a déclaré Schmidt dans l'interview. « Surtout pour les personnes qui ne sont pas complètement formées ».


Rendez-vous à 4:51

Bien entendu, les jeunes hommes ne sont pas les seuls à être impliqués dans des relations fondées sur l'IA. Le PDG de l'application Replika, un compagnon de l'IA, a déclaré que la plupart des utilisateurs de l'application avaient plus de 35 ans. Mais Schmidt estime que les jeunes hommes sont particulièrement vulnérables, en partie parce qu'ils ne sont pas aussi éduqués que les femmes en moyenne. Une étude de Pew Research réalisée en 2024 a révélé que les femmes américaines étaient plus nombreuses que les hommes à terminer leurs études.

Schmidt a déclaré que dans les cas extrêmes, les jeunes hommes peuvent « se tourner vers le monde en ligne pour se divertir et se nourrir, mais aussi, en raison des algorithmes des médias sociaux, trouver des personnes partageant les mêmes idées qui finissent par les radicaliser ».

L'ancien dirigeant de Google s'est également dit « particulièrement préoccupé » par l'impact de la technologie sur le psychisme humain lorsque les utilisateurs sont isolés et que les ordinateurs leur fournissent des informations qui ne sont pas nécessairement centrées sur les valeurs humaines, un sujet qu'il a abordé dans son dernier livre.

De nombreuses personnes sont de plus en plus préoccupées par les effets néfastes que peuvent avoir les chatbots d'IA

En octobre, une mère a intenté un procès à la startup Character.AI, spécialisée dans les chatbots, après le suicide de son fils de 14 ans. L'adolescent avait échangé des messages sexuels avec le chatbot. Les journaux de conversation ont montré que le chatbot a encouragé à plusieurs reprises les idées suicidaires, tandis que d'autres ont montré des conversations hypersexualisées « qui constitueraient un abus si elles étaient entamées par un adulte humain », selon un communiqué de presse de l'équipe juridique de Garcia. Le plus troublant est peut-être que Setzer a développé un attachement romantique pour le chatbot. Dans son dernier acte avant sa mort, Setzer s'est connecté à Character.AI où le chatbot l'a incité à « rentrer à la maison » et à la rejoindre en dehors de la réalité.

Character AI, une startup basée à Menlo Park, en Californie, se décrit comme ayant pour mission de « donner à chacun les moyens d'agir dans le monde entier grâce à l'IA personnalisée ». Son système offre aux utilisateurs la possibilité de discuter avec des personnages IA issus de genres tels que les animes, les « assistants numériques » traditionnels ou même les détectives privés de la vieille école. Et si vous n'aimez pas ce qui vous est proposé, vous pouvez créer votre propre chatbot personnalisé en choisissant sa « voix, ses débuts de conversation, son ton » et bien d'autres choses encore.

Selon Schmidt, les parents doivent s'impliquer davantage, mais ils ne peuvent contrôler ce que font leurs enfants que dans une certaine mesure. Bien qu'il existe « toutes sortes de règles sur l'âge » pour les plateformes en ligne, Schmidt estime qu'elles ne suffisent pas à empêcher les adolescents d'accéder à des contenus préjudiciables.

« Si vous mettez un enfant de 12 ou 13 ans devant ces outils, il aura accès à tous les maux et à tous les biens du monde », a déclaré Schmidt. « Et ils ne sont pas prêts à y faire face ».


Des services IA pour atteindre différents objectifs

Des sites web comme Romance.AI proposent des partenaires de rencontre virtuels grâce à une technologie capable d'imiter les interactions humaines réelles. Une application telle que Romantic AI « vous aide à créer la petite amie idéale avec laquelle vous partagez des intérêts et des points de vue. Vous pouvez parler de tout, obtenir du soutien et vous sentir utile ». Une autre application, Forever Companion, offre aux utilisateurs la possibilité de discuter avec des bots basés sur des influenceurs populaires des médias sociaux.

Replika, le logiciel de chatbot d'IA, offre aux utilisateurs la possibilité de créer leur propre petit ami ou mari pour quelques centaines de dollars seulement.

Des plateformes telles que Nomi.ai et Soulmate encouragent même les jeux de rôle érotiques. Les utilisateurs peuvent personnaliser l'avatar du chatbot IA et lui donner des traits de personnalité selon qu'ils souhaitent un ami, un mentor ou un partenaire romantique. La nature des messages pourrait s'apparenter à des "sextos", de sorte que toute conversation érotique devrait comporter des instructions explicites sur ce que l'utilisateur aimerait qu'il se passe.

Contrairement à Replika, qui dispose de filtres pour empêcher les gens d'utiliser un langage ouvertement sexuel, Nomi.ai permet aux utilisateurs d'adapter le robot d'IA à leurs préférences en décidant des vêtements que l'avatar porte et de leur degré d'ouverture à l'activité sexuelle.
Les utilisateurs ont également la possibilité de rendre leurs chatbots soumis ou dominants.

Un homme a avoué dépensé 10 000 dollars par mois en petites amies IA

Greg Isenberg, PDG de Late Checkout, a prédit un marché de l'intelligence artificielle (IA) d'un milliard de dollars pour les applications de rencontres après avoir remarqué que les utilisateurs s'engageaient avec des partenaires générés par l'IA, suscitant ainsi une conversation sur les relations virtuelles et l'avenir des rencontres.

Le 9 avril, le dirigeant du secteur technologique a publié sur son compte X un article relatant sa rencontre avec un homme de Miami, aux États-Unis, qui lui a avoué dépenser « 10 000 dollars par mois » pour des « petites amies créées par l'IA ».

Après avoir annoncé que la capitalisation boursière de Match Group, la société qui possède Tinder, Match.com, Meetic, OkCupid, Hinge, Plenty of Fish, OurTime et d'autres marques mondiales de rencontres, s'élevait à 9 milliards de dollars, Greg a prédit que quelqu'un construirait probablement la version IA de Match Group et gagnerait également des milliards.

« Il faudra probablement une catastrophe pour provoquer un changement de réglementation ».

Schmidt a investi dans diverses entreprises d'IA depuis qu'il a quitté Google, et il a déclaré que la réglementation de la technologie ne devrait pas étouffer l'innovation.

Dans son entretien avec Galloway, il a déclaré que les lois américaines telles que l'article 230, qui libère largement les entreprises technologiques de toute responsabilité juridique pour le contenu que les utilisateurs publient sur leurs plateformes, devraient être modifiées « pour permettre une responsabilité dans les pires cas possibles, de sorte que lorsque quelqu'un subit un préjudice du fait de cette technologie, nous devons avoir une solution pour empêcher tout préjudice supplémentaire ».

Le candidat choisi par le président élu Donald Trump pour présider la FTC, Brendan Carr, s'est prononcé en faveur d'une limitation de l'article 230.

Schmidt a déclaré qu'il ne s'attendait pas à ce qu'il y ait beaucoup de réglementation en matière d'IA au cours des quatre prochaines années, car l'administration de Trump aura probablement d'autres priorités. Il a également déclaré que, comme les entreprises technologiques disposent de bataillons d'avocats qui protègent leur propriété intellectuelle et leurs objectifs, « il faudra probablement une catastrophe pour provoquer un changement de réglementation ».

Cette inaction est typique des innovations technologiques : les décideurs politiques peinent souvent à comprendre et à suivre le rythme effréné des avancées, laissant ainsi le secteur privé largement libre de ses décisions. Schmidt souligne que cette inertie pourrait aggraver les conséquences négatives à long terme.


Vers une réflexion sociétale de cet aspect de l’IA

L’avertissement d’Eric Schmidt s’ajoute à une liste croissante de préoccupations liées à l’IA. De nombreux experts demandent un débat plus large sur les implications sociétales de ces innovations. La question n’est pas seulement technologique : elle touche à des problématiques fondamentales comme l’identité, les relations humaines et la santé mentale.

Bien que ces « petites amies IA » puissent sembler inoffensives, elles posent des questions cruciales sur les limites de l’utilisation de l’IA dans des sphères aussi intimes. Ces technologies doivent-elles être freinées pour protéger la société, ou bien leur usage peut-il être encadré sans en brider le potentiel créatif et commercial ?

En conclusion, si l’avertissement de Schmidt est à prendre au sérieux, il souligne une réalité encore plus large : dans la course à l’innovation, l’équilibre entre progrès technologique et bien-être humain reste un défi de taille.

Source : entretien avec Schmidt (vidéo dans le texte)

Et vous ?

Ces “petites amies IA” risquent-elles réellement de dissuader les jeunes hommes de s’investir dans des relations humaines ?

Peut-on établir un lien entre l’utilisation de ces technologies et l’aggravation de problèmes comme l’isolement ou la dépression ?

Quels groupes sociaux sont les plus vulnérables face à ces technologies et comment les protéger ?

Une relation simulée peut-elle offrir des bénéfices thérapeutiques ou émotionnels pour certaines personnes ?

Jusqu’où les entreprises devraient-elles aller dans la personnalisation de ces « relations » avec les IA pour satisfaire les utilisateurs sans compromettre leur santé mentale ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de Fluxgraveon
Membre actif https://www.developpez.com
Le 29/11/2024 à 11:08
Schmidt a déclaré qu'une petite amie IA « parfaite » sur le plan émotionnel et physique pourrait créer un scénario dans lequel un jeune homme deviendrait obsédé et laisserait l'IA prendre le contrôle de sa pensée : « Ce type d'obsession est possible », a déclaré Schmidt dans l'interview. « Surtout pour les personnes qui ne sont pas complètement formées ».
Des personnes meurent à un âge avancé sans être "complètement formées".
Et j'en ai rencontré quelques-unes ...
Et puis, de mon point de vue, cela ne s'arrête jamais : il n'y a pas un moment au sein du contexte de l'article, à partir duquel on peut se dire que " ça y est, j'y suis ".
Donc, il y a du grid development intensif et une recherche toute aussi intensive concernant la mise au point d'une A.G.I superviseure pour nous assister et faciliter notre élévation d'esprit ?
Cela ne correspond pas à ce qui est observé.
1  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 29/11/2024 à 17:00
Citation Envoyé par Stéphane le calme Voir le message
L'ancien PDG de Google, a récemment fait part de ses inquiétudes concernant les jeunes hommes qui créent des partenaires romantiques à l'aide de l'IA : « Les jeunes hommes, particulièrement vulnérables à ces influences, pourraient se détourner des relations réelles », a-t-il averti. Il estime que ces applications de l’IA risquent de creuser davantage le fossé social et émotionnel en exacerbant l’isolement ou en alimentant des attentes irréalistes envers les relations humaines : « C'est un bon exemple d'un problème inattendu lié à une technologie existante », a déclaré Schmidt lors d'une conversation sur les dangers de l'IA et la réglementation dans le cadre de l'émission “The Prof G Show” avec Scott Galloway, diffusée dimanche.
Je trouve qu'ils expriment le problème à l'envers.
Ce n'est pas parce qu'il y a l'IA que des jeunes hommes se détournent des relations réelles.
C'est parce qu'ils n'arrivent pas à avoir de relations réelles qui se replient sur l'IA.

Le problème c'est "pourquoi les jeunes hommes n'arrivent plus à faire de rencontre et se mettre en couple ?".
Pourquoi c'est aussi difficile aujourd'hui de rencontrer quelqu'un ?

J'ai une théorie, qui n'explique pas tout, mais qui doit être un peu vrai quand même : sur les applications de rencontre, les femmes sont beaucoup plus difficile que les hommes.
Pour les femmes il est beaucoup plus facile de matcher que pour les hommes.
Donc chaque femme se retrouve avec un large choix.

C'est un peu comme une entreprise, il y a 650 candidatures et un poste à pourvoir. (enfin la comparaison ne fonctionne pas, puisqu'une femme peut jongler avec plusieurs hommes en même temps, alors que l'entreprise n'a vraiment besoin que d'une personne)
Il y a des hommes qui ont du abandonner à force. Le gars a 1 match par an, la fille parle à 26 gars en parallèle toute l'année, les femmes n'ont à fournir aucun effort, c'est rarement elles qui animent les conversations.

====
Il y a des femmes qui veulent absolument un homme ambitieux, t'arrives tu te présentes tu dis "je suis sous payé et j'ai la flemme de chercher mieux, parce que je ne supporte pas la cherche d'emploi" et elle répond "Nous allons nous arrêter là" à part dire "Ok, salut", il n'y a rien que tu puisses faire.
Dommage que l'ensemble des femmes ne soient pas fan de l'autodérision (self-deprecating).

Alors que si une fille dit à un gars "Je suis au RSA et je n'ai qu'un BAC S", le gars va rarement stopper la conversation à ce moment là.
1  0 
Avatar de calvaire
Expert éminent https://www.developpez.com
Le 29/11/2024 à 19:54
les jeunes baisent plus et reste vierge malgré eux de plus en plus longtemps.
10% des hommes baisent et peuvent avoir facilement une relation avec 1 femme, les autres galère, ça date surtout depuis les applis de rencontre et internet.

Les robots ia auront je pense l'avantage pour ces hommes d'avoir une solution contre la misère sexuel ET la solitude, qui sont tous deux des maux aux conséquence grave sur le corps humain.

On ne changera pas la biologie: les hommes ont trop de libido comparer aux femmes (ils sont dans le besoin) et les femmes sont hypergame donc ne répondrons jamais aux besoins de la masse.

cependant ce robot ia n'est absolument pas une bonne idée.
si malgré le sport + travail pour gagner plus de fric ne vous permette pas d’accéder a des femmes, pour moi la meilleur solution c'est pas le robot femme ia, mais plutôt le passeport Bro avec une belle ukrainienne/biélorusse ou une asiatique du sud ouest ou une palestinienne en fonction des préférences de chacun. Cela reste la meilleur option.
Il y'a un gros mouvement aux usa, en Corée du sud ou même en chine qui importe des femmes de ces pays. En chine et en corée du sud, des sociétés 100% légale existe meme et permette carrément de choisir sur catalogue et d'en rencontrer plusieurs pour voir avec laquelle sa match le mieux.
les européens s'y mettront aussi.

je trouve que c'est une bonne chose, je vois un homme qui va combler sa solitude et de l'autre une femme qui va sortir de la misère et de la pauvreté pour avoir une vie meilleur, et elle peut toujours refuser si l'homme lui plait pas.
et avec de la chance ca débouchera sur des enfants, ce qui ne peux que booster la natalité mortifère de l’Europe

En tous cas, ce n'est pas le dernier film du ministère de la culture francaise payer par nos impôts et qui aggrave la dette française, "Toutes pour une" qui va donner envie d'avoir une relation avec quelqu'un.
1  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 29/11/2024 à 10:49
Pour une fois, je suis d'accord avec Eric Schmidt.

Après, le danger est aussi valable pour les femmes, et les petits amis IA. Des deux côtés, il y a une idéalisation beaucoup trop fortes des relations, notamment à cause du consumérisme. Une vrai relation, c'est en réalité tout l'inverse du consumérisme...

Le problème est que si c'est politiquement correct de constater cette réalité du côté masculin (c'est bien vu de lutter contre l'objectivisation du corps des femmes, et tant mieux) c'est moins politiquement correct de constater cette réalité du côté féminin.
0  0 
Avatar de OrthodoxWindows
Membre expert https://www.developpez.com
Le 29/11/2024 à 11:52
Citation Envoyé par Fluxgraveon Voir le message
Des personnes meurent à un âge avancé sans être "complètement formées".
Et j'en ai rencontré quelques-unes ...
Et puis, de mon point de vue, cela ne s'arrête jamais : il n'y a pas un moment au sein du contexte de l'article, à partir duquel on peut se dire que " ça y est, j'y suis ".
Donc, il y a du grid development intensif et une recherche toute aussi intensive concernant la mise au point d'une A.G.I superviseure pour nous assister et faciliter notre élévation d'esprit ?
Cela ne correspond pas à ce qui est observé.
Je suis totalement d'accord. C'est même absurde de se dire "complètement formées" sur le plan émotionnel. Le sage est celui qui sais reconnaître qu'i ne pourra jamais l'être complètement ; celui qui pense l'être est plus mégalomane que sage.
0  0