IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les chatbots IA peuvent donner des réponses « convaincantes mais complètement fictives »
Prévient le patron du moteur de recherche Google tandis qu'Alphabet prépare Bard, sa réponse à ChatGPT

Le , par Stéphane le calme

0PARTAGES

3  0 
Le patron du moteur de recherche de Google a mis en garde contre les pièges de l'intelligence artificielle dans les chatbots dans une interview à un journal publiée samedi, alors que la société mère de Google Alphabet se bat pour concurrencer l'application à succès ChatGPT. « Ce type d'intelligence artificielle dont nous parlons en ce moment peut parfois conduire à ce que nous appelons des hallucinations », a déclaré Prabhakar Raghavan, vice-président senior de Google et responsable de la recherche Google, au journal allemand Welt am Sonntag.

La capacité de ChatGPT à proposer une réponse concise et fidèle à une question pourrait faire gagner aux utilisateurs le temps qu'ils passent généralement à parcourir les liens sur Google pour trouver la même information. D'ailleurs, Microsoft a intégré une version améliorée de ChatGPT à certains de ses produits à l'instar de Teams ou de Bing, pour avoir une plus value sur la concurrence.

Pour ne pas être en reste, Google a accéléré son travail sur Apprentice Bard, l'une de ses réponses à ChatGPT.

Des membres anonymes du personnel ont expliqué aux médias que l'implémentation d'Apprentice Bard ressemble à ChatGPT (le bot fournit des réponses détaillées aux invites et aux questions des utilisateurs). Cependant, au lieu d'utiliser le code GPT-3.5 développé par Microsoft, Bard utilise LaMDA (ou Language Model for Dialogue Applications), le modèle de langage de Google pour l'application de dialogue.

LaMDA est le système de Google pour créer des chatbots basés sur ses grands modèles de langage les plus avancés, ainsi appelés parce qu'ils imitent la parole en ingérant des milliards de mots provenant d'Internet. La grande enseigne de la recherche a présenté publiquement LaMDA à l'édition 2021 de la Google I/O, sa conférence dédiée aux développeurs, avec l'objectif d'améliorer ses assistants d'intelligence artificielle conversationnelle et de rendre les conversations plus naturelles. La société utilise déjà une technologie de modèle de langage similaire pour la fonctionnalité Smart Compose de Gmail ou pour les requêtes des moteurs de recherche.

La semaine dernière, Google a annoncé son chatbot AI Bard. Mais le bot n'a pas pris un bon départ, les experts notant que Bard a fait une erreur factuelle dans sa toute première démo.

Un GIF partagé par Google montre Bard répondant à la question : « De quelles nouvelles découvertes du télescope spatial James Webb puis-je parler à mon enfant de 9 ans ? » Bard propose une liste à puces de trois éléments, parmi lesquels un élément indiquant que le télescope « a pris les toutes premières images d'une planète en dehors de notre propre système solaire ».


La toute première réponse de Bard contenait une erreur factuelle

Cependant, un certain nombre d'astronomes sur Twitter ont souligné que c'était incorrect et que la première image d'une exoplanète avait été prise en 2004 - comme indiqué sur le site Web de la NASA : « Ce n'est pas pour faire mon connard (en fait, si finalement) et je suis sûr que Bard sera impressionnant, mais pour mémoire : JWST n'a pas pris 'la toute première image d'une planète en dehors de notre système solaire' », a tweeté l'astrophysicien Grant Tremblay.

Aussi, les employés ont exprimé leur mécontentement contre la direction de l'entreprise, en particulier le PDG, pour s'être précipitée et ne pas avoir réfléchi avant de communiquer sur la sortie du chatbot rival de ChatGPT. Ils ont estimé que cela n'avait pas été bien géré et que cela pourrait s'avérer une erreur coûteuse à long terme.

Sur Memegen, un forum interne populaire, ils ont qualifié de « précipitée », « bâclée » et « non Googley » cette stratégie de communication alors que des mèmes concernant la situation commençaient à apparaître en ligne.

Alors que les employés de Google se tournent souvent vers Memegen pour se moquer avec humour des bizarreries et des faux pas de l'entreprise, les messages après l'annonce de Bard ont pris un ton plus sérieux et sont même allés directement après Pichai.

« Cher Sundar, le lancement de Bard et les licenciements ont été précipités, bâclés et myopes », indiquait un mème qui comprenait une photo de Pichai. « Veuillez revenir à une perspective à long terme ». Le message a reçu de nombreux votes positifs de la part des employés.

« Sundar et le leadership méritent un Perf NI », était-il indiqué un autre mème très apprécié, faisant référence à la catégorie la plus basse du système d'évaluation des performances des employés de l'entreprise. « Ils sont comiquement myopes et non-Googlely dans leur quête d'accentuation de la netteté ».

Certaines personnes pensent que c'était une mauvaise tentative du PDG d'essayer de dire au monde qu'il était toujours dans la course avec les autres en termes de sa propre offre. N'oubliez pas que Microsoft a déjà rendu public son chatbot Bing et maintenant, tous les regards sont tournés vers la sortie de Google.

Le patron de Google invite à la prudence

C'est dans ce contexte que le patron du moteur de recherche de Google, Raghavan, conseille la prudence lors de l'utilisation de chatbots avec intelligence artificielle : « Ce type d'intelligence artificielle dont nous parlons peut parfois conduire à ce que nous appelons des hallucinations », a déclaré le patron du moteur de recherche de Google, Prabhakar Raghavan, à WELT AM SONNTAG.

Il a ajouté : « Ceci est alors exprimé de telle manière qu'une machine délivre une réponse convaincante mais complètement fictive ». Selon lui, l'une des tâches de base est de réduire cela au minimum.

Microsoft a récemment annoncé qu'il boosterait son moteur de recherche Bing avec une version améliorée de ChatGPT dans l'optique de mieux faire concurrence à Google. Bard, l'homologue de ChatGPT développé dans les cuisines internes de Google, est actuellement testé par certains utilisateurs. « De plus, nous réfléchissons à la manière dont nous pouvons intégrer ces options dans nos fonctions de recherche, en particulier pour les questions auxquelles il n'y a pas qu'une seule réponse », a expliqué Raghavan.

Le groupe n'a pas encore révélé quand Google rendra public son chatbot : « Bien sûr, nous ressentons l'urgence, mais nous ressentons aussi la grande responsabilité », a déclaré Raghavan. « Nous ne voulons certainement pas induire le public en erreur ».


Le patron du moteur de recherche de Google, Prabhakar Raghavang, lors d'une conférence à San Francisco en 2018

Certaines personnes pensent que la présentation « précipitée » de Bard était une mauvaise tentative du PDG d'essayer de dire au monde qu'il était toujours dans la course avec les autres en termes de sa propre offre. N'oubliez pas que Microsoft a déjà rendu public son chatbot Bing et maintenant, tous les regards sont tournés vers la sortie de Google.

D'autre part, Google a récemment mentionné lors de son événement de diffusion en direct jeudi comment fonctionne exactement la technologie de chatbot. Mais pendant ce temps, nous avons également vu Microsoft faire sa présentation et lancer son moteur de recherche tout en envoyant des invitations à d'autres pour venir voir comment tout cela fonctionne personnellement.

« Les énormes modèles de langage derrière cette technologie empêchent les humains de surveiller tous les comportements imaginables du système », a déclaré Raghavan à WELT AM SONNTAG. « Mais nous voulons le tester à une échelle suffisamment grande pour qu'en fin de compte nous soyons satisfaits des mesures que nous utilisons pour vérifier la factualité des réponses ».

Les gens doivent toujours être vigilants lorsqu'ils sont confrontés aux résultats qui leur sont présentés par un chatbot boosté par l'intelligence artificielle, a déclaré le dirigeant de Google. Il est important que les utilisateurs disposent des outils nécessaires pour vérifier les résultats. Cela inclut également la divulgation des sources.

« Nous nous tenons à un niveau très élevé », a affirmé Raghavan. « Et c'est aussi notre objectif d'être un leader des chatbots en termes d'intégrité de l'information mais aussi des responsabilités que nous prenons. C'est la seule façon de conserver la confiance du public. »

Conclusion

Les actions d'Alphabet ont chuté de plus de 9% la semaine dernière en raison des inquiétudes concernant la menace de ChatGPT pour l'activité de recherche principale de Google et de la réaction précipitée de l'entreprise à l'événement de Microsoft. « Précipiter Bard sur le marché dans la panique a validé la peur du marché à notre sujet », était-il marqué sur un mème très apprécié.

Pour Maarten Bosma, un ancien ingénieur de recherche de Google Brain, division AI d'Alphabet, la présentation de Google a montré que l'entreprise ne prenait pas suffisamment l'IA au sérieux : « Je pense que la présentation de Google a signalé (à tort ou à raison) qu'ils ne le prenaient pas vraiment au sérieux*: c'était moins de 5 minutes, c'était présenté entre autre, c'était à Paris au lieu du siège, le PDG n'était pas là. Bing, d'autre part, a changé la page d'accueil ».

La position de Google dans l'intelligence artificielle est une préoccupation familière. Lors d'une réunion générale en décembre, les employés ont posé des questions sur l'avantage concurrentiel de l'entreprise en matière d'IA alors que ChatGPT prenait son essor aux yeux du public. Les dirigeants ont répondu en disant que la réputation de l'entreprise pourrait en pâtir si elle évoluait trop rapidement sur la technologie AI-chat, qui est loin d'être parfaite.

Un mème très lu la semaine dernière a montré une image d'un incendie de benne à ordures avec le logo Google "G" dessus. Le texte disait: « Comment tout s'est ressenti depuis l'année dernière ».

Un autre mème faisait référence aux licenciements annoncés le mois dernier, qui ont entraîné la perte de 12 000 emplois, soit 6 % des effectifs de l'entreprise. Le mème comportait une photo de l'acteur Nicolas Cage souriant et disait: « Le licenciement de 12 000 personnes fait augmenter la capitalisation boursière de 3%, une présentation précipitée de l'IA la fait baisser de 8% ».

Source : Welt Am Sonntag

Et vous ?

Que pensez-vous des propos du patron de Google ?
Sont-ils, selon vous, motivés par la faille aperçue par le public, ajoutée à la colère des employés de l'entreprise qui ont critiqué le PDG Sundar Pichai pour l'annonce « précipitée et bâclée » de Bard, ou alors pas une observation froide de la réalité concernant ces outils en général ? Dans quelle mesure ?

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de
https://www.developpez.com
Le 04/09/2024 à 21:19
Citation Envoyé par Stéphane le calme Voir le message
Quels compromis seriez-vous prêt à accepter pour permettre l’innovation en IA tout en protégeant les droits des auteurs ?
Aucun, pourquoi un générateur de médiocrité (nivelage de tout le contenu) pourrait voler le travail des producteurs de valeur pour que OpenAI puisse "gagner de l'argent" en empêchant le dit producteur de valeur d'en gagner ? La réponse à votre question est dans la question en fait, il suffit de remplacer "innovation" par ce qu'est réellement un tel moteur conversationnel qui répond tout et n'importe quoi et de se rappeler le sens de "droit" et de "auteur"

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que les entreprises technologiques devraient payer une redevance pour utiliser des contenus protégés par le droit d’auteur ? Si oui, comment cette redevance devrait-elle être calculée ?
Sur la base d'une négociation avec chaque auteur. s'ils ont besoin des ces données il doivent la respecter et donc respecter ceux qui la produise.

Citation Envoyé par Stéphane le calme Voir le message
Comment les créateurs de contenu peuvent-ils collaborer avec les entreprises d’IA pour garantir une utilisation éthique de leurs œuvres ?
C'est leur droit, c'est aux entreprises d'IA de faire les efforts nécessaires.

Citation Envoyé par Stéphane le calme Voir le message
L’utilisation de matériaux protégés par le droit d’auteur sans autorisation pourrait-elle nuire à la diversité et à la qualité des contenus disponibles en ligne ?
C'est déjà le cas, il suffit d'interroger ChatGPT ou Mistral ou autre sur n'importe quel sujet que l'on connait bien pour constater le massacre qui est fait de l'information, vaguement reformulées, avec très souvent des hallucinations ubuesques. En enseignement c'est terrible aujourd'hui, on doit passer 4h sur un sujet qui en prenait 1 avant pour faire désapprendre aux étudiants des trucs faux qui les empêchent de comprendre la notion.

Citation Envoyé par Stéphane le calme Voir le message
Quelles mesures législatives pourraient être mises en place pour équilibrer les besoins des développeurs d’IA et les droits des créateurs ?
Mais pourquoi équilibrer ? les entreprises d'IA n'ont rien à imposer. Si tel était le cas ce serait la fin de tout. Les auteurs n'auraient plus de revenus donc ne produiraient plus et il ne resterait que la soupe mal interprétées par ces "IA" sur la base de l'existant, grande victoire pour les entreprises d'IA qui deviendraient riche pendant un certain temps, une catastrophe pour l'humanité qui deviendrait comme les gros bonhommes dans Wall-e.

Citation Envoyé par Stéphane le calme Voir le message
Pensez-vous que l’accès libre aux informations et aux œuvres culturelles est essentiel pour le progrès technologique, ou cela devrait-il être strictement réglementé ?
si le progrés technologique n'apporte qu'une baisse de qualité et une perte de travail dans une société où on est de plus en plus nombreux il est évident que la réglementation doit empêcher la désignation de "progrés" ce qui n'est qu'un simple moteur conversationnel qui répond coute que coute même quand il ne sait pas. La Justice doit par ailleurs vivement condamner les atteintes au droit d'auteur, sinon ça veut dire que les grosses boites sont plus fortes que l’état de droit...gros soucis.

Citation Envoyé par Stéphane le calme Voir le message
Comment les utilisateurs finaux des technologies d’IA peuvent-ils influencer les pratiques des entreprises en matière de respect des droits d’auteur ?
Quand ils se rendront compte que ça ne leur apporte rien à part le "plaisir" de participer au truc fun du moment, quand ils se lasseront des images toutes identiques, quand ils se lasseront des contenus plats au goût de réchauffé, ils se mordront les doigts et se retourneront vers les gens qui produisent du contenu qui les élève ou les fait rêver.
15  1 
Avatar de thamn
Membre averti https://www.developpez.com
Le 19/02/2023 à 21:59
Citation Envoyé par Erviewthink Voir le message
Si il n'est pas content il change de boulot, personne ne l'a obligé à faire ça.

Pas compliqué si ? C'est à cause des personnes comme ça qu'il y a du dumping social.

Si les gens refusaient ces boulots sous payés il n'y aurait pas ce problème.

Mais bon comme la majorité des gens n'ont pas ou peu de dignité...
Ah oui bien sur, pour changer de boulot suffit de traverser la rue comme disait l'autre.
Essaye de changer de job sans debaler ton joli diplome qui t'aurais couté un bras au US, et revient nous en causer apres.
13  0 
Avatar de electroremy
Membre expérimenté https://www.developpez.com
Le 02/03/2023 à 9:28
Bonjour,

Le problème avec ChatGPT, ou plus généralement à notre époque, c'est qu'on a énormément d'informations à disposition MAIS il y a de bonnes et de fausses informations mélangées.
De plus, un certain nombre de bonnes informations sont parfois méconnues.

C'est vrai dans tous les domaines.

J'ai 42 ans, ingénieur généraliste, passionné de bricolage, j'en apprends encore tous les jours, et notamment des choses que "j'aurais dû savoir avant"

Quelques exemples :

J'ai fait moi-même mon chauffage central il y a 15 ans.
J'ai découvert il y a 2 ou 3 ans qu'un mitigeur thermostatique n'était pas compatible avec une chaudière à production d'eau chaude instantanée
Et qu'il fallait ajuster la température de l'eau chaude au minimum, de façon à ne se doucher qu'avec de l'eau chaude (qui est en fait tiède)
La chaudière (modèle à condensation) fonctionne mieux, avec un meilleur rendement, et il n'y a pas de risque sanitaire car il n'y a pas d'accumulation d'eau chaude, étant donné que la production d'eau chaude est instantanée. C'est uniquement quand de l'eau chaude stagne (cumulus) qu'il faut qu'elle soit suffisamment chaude pour éviter un risque sanitaire.
Cette information, beaucoup de gens, y compris "du métier", ne la connaissent pas ou pire disent qu'elle est fausse.

Autre sujet : le béton.
La meilleure façon de bien couler du béton c'est :
- de mettre la quantité d'eau minimum : quand sur le sac c'est écrit "2,7 à 3 litres d'eau" il faut mettre 2,7 litres d'eau pas plus
- d'ajouter du fluidifiant (produit spécifique)
- de vibrer le béton une fois coulé
Beaucoup de gens l'ignorent, et notamment mettent trop d'eau => le béton est fragile, il y a un risque de malfaçon importante voir un danger si la structure est porteuse...
Même en magasin de bricolage, j'ai vu des vendeurs conseiller de doser l'eau au pifomètre !
Même des "professionnels" ajoutent de l'eau dans la toupie pour travailler plus facilement
Ces gens sont incompétents, ce sont des escrocs qui mettent des vies en danger.

ChatGPT se base sur Internet.
Internet est démocratique.
Mais, comme l'a dit mon prof de physique en 1re année de prépa (cela m'avait choqué à l'époque) :
"Le problème avec la démocratie, c'est quand 10 personnes se trompent et 9 personnes ont juste, et bien on donne raison aux 10 personnes qui se trompent"
Les réseaux sociaux, en permettant à n'importe qui de publier très facilement n'importe quoi, ont amplifié le phénomène.
Avant les réseaux sociaux, créer un site demandait un minimum de travail, et pour avoir des visiteurs il fallait publier des contenus intéressants, ça faisait office de filtre (même si il pouvait y avoir pas mal de conneries quand même mais nettement moins qu'aujourd'hui )
D'autant que les algorithmes des réseaux sociaux sont conçus pour amplifier les contenus émotionnels négatifs.
ChatGPT va juste faire la moyenne de tout.
Certes pour quelqu'un qui n'y connais rien sur un sujet, ChatGPT va probablement apporter une réponse.
Mais par rapport aux experts de chaque domaine, ChatGPT est clairement en dessous.
L'IA aboutit donc à un nivellement par le bas

Ainsi le créationnisme en vient à être enseigné dans certains pays comme théorie aussi valable que la théorie de l'évolution
Et on voit, en 2023, des gens croire que la terre est plate.

Que dire de l'IA ? On devrait plutôt parler de connerie artificielle
11  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 05/09/2024 à 9:55
Citation Envoyé par Stéphane le calme Voir le message
Controverse autour du droit d'auteur : OpenAI assure ne pas pouvoir gagner de l'argent sans utiliser gratuitement du matériel protégé
Que se passe-t-il quand un entreprise a un business model qui n'est pas viable?
Elle vire son CEO
Elle met la clé sous la porte
Elle est rachetée
Elle peut aussi sortir de la loi mais à ses risques et péril
etc

C'est quand même incroyable que des entreprises hégémoniques se permettent ce genre de discours et qu'en plus elles fasse du quasi-esclavage en parallèle de ça.
Vous êtes dans la une bulle financière, technique et technologique incroyable et vous ne pouvez pas respecter la loi? Il y a une chose qui cloche dans votre gestion!
11  0 
Avatar de schlebe
Membre actif https://www.developpez.com
Le 08/06/2023 à 19:26
La moindre des choses à exiger des articles publiés par ChatGPT et qu'il les signe afin de permettre aux lecteurs de connaître la véritable source des articles.

Il faudrait également sanctionner les sociétés qui publient des articles générés par ChatGPT avec du contenus inventés ou mensongers.

Une amende de 2% du chiffre d'affaire par articles mensongers publiés et une amende de 2% du chiffre d'affaire par jour et par articles mensongers constatés et toujours publiés plus d'une semaine après le constat.

Dans moins d'un mois, on ne parlera plus de ChatGPT de la même façon et il faudra engager du personnel pour vérifier tout ce qu'il aura écrit.
12  2 
Avatar de steel-finger
Membre confirmé https://www.developpez.com
Le 20/02/2023 à 13:07
Citation Envoyé par Erviewthink Voir le message
Si il n'est pas content il change de boulot, personne ne l'a obligé à faire ça.

Pas compliqué si ? C'est à cause des personnes comme ça qu'il y a du dumping social.

Si les gens refusaient ces boulots sous payés il n'y aurait pas ce problème.

Mais bon comme la majorité des gens n'ont pas ou peu de dignité...
La vie ne fonctionne pas comme ça, il faut que tu sortes de ton cocon pour t'en rendre compte.
Malheureusement, il y a des personnes qui préfèrent nourrir leur enfant en prenant les boulots qui nuise à la dignité plutôt que de n'avoir aucune rentrée d'argent !
8  0 
Avatar de walfrat
Membre émérite https://www.developpez.com
Le 07/04/2023 à 9:55
"Hey chatGPT, voilà toutes les donneés confidentielles économiques de mon entreprises, fait moi le rapport financier stp, j'ai la flème".
8  0 
Avatar de Jon Shannow
Membre extrêmement actif https://www.developpez.com
Le 09/06/2023 à 14:59
Citation Envoyé par coolspot Voir le message
Macron si on peut dire c'est un Poutine avec 20 ans de moins. Il se prépare deja à vouloir bidouiller la constitution ou faire comme la presse commence à le dire une "Poutine/Medvedev" pour etre président à vie
Heu ! Tu as des infos la dessus ? Non seulement sur la préparation, mais aussi la faisabilité...
8  0 
Avatar de totozor
Expert confirmé https://www.developpez.com
Le 09/06/2023 à 15:48
Citation Envoyé par Ryu2000 Voir le message
C'est pas marrant d'être sans emploi.
C'est pas marrant d'être sans emploi dans un système capitaliste.
Que se passerait il si les gens n'avaient plus besoin de se salarier pour vivre?
La plupart travailleraient.
Par exemple que font les retraités qui ont la santé?
Il s'investissent dans les associations, ils gardent leurs petits enfants, ils investissent dans leur quartier, ils s'entreaident etc.
(Et ceux qui revaient d'être rentiers partent en voyage)

Pourquoi ceci n'est pas souhaitable?
Comment nos dirigeants s'assureraient d'avoir de la main d'oeuvre (au sens large)?
Bernard Arnault perdrait "de la valeur" (je ne dit pas qu'il n'en aurait plus) et Gérard l'éboueur, Géraldine l'aide soignante, Marcel le passionné d'astronomie en gagneraient

Oui le monde que je décrit est peut être idéaliste mais il y a des faisceau de pistes qui suggèrent que c'est viable
Et ce n'est qu'un monde à envisager parmi d'autres
Celui dans lequel on vit ne semble pas viable pour la majorité.
9  1 
Avatar de e-ric
Membre expert https://www.developpez.com
Le 16/06/2023 à 9:42
Salut à tous

Ok pour l'estimation, mais le vrai de problème est de savoir qui va capter tout cet argent. Perso, je pense que cela ne va pas ruisseler et que bien au contraire, cela va mettre beaucoup de gens (comme nous) sur la paille.

tchüss
8  0