IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Pourquoi Vivaldi ne suivra-t-il pas la tendance actuelle en matière d'IA ?
Alors que les navigateurs Web intègrent cette tendance avec la fonctionnalité LLM, celle-ci pose des problèmes fondamentaux

Le , par Anthony

0PARTAGES

25  0 
ChatGPT est apparu au grand jour il y a un an et quelques mois. Depuis lors, on observe une tendance croissante dans de nombreux secteurs à essayer de l'utiliser pour remplacer certaines choses que les gens font, ou pour fournir un nouveau moyen d'aider les gens à trouver des réponses à leurs questions.

Le monde des navigateurs web n'a pas été épargné par cette tendance, avec de nombreux exemples de navigateurs web intégrant la fonctionnalité LLM (Large Language Model) d'une manière ou d'une autre.

Pourtant, même s'ils le font au nom de la construction de l'avenir, aucun d'entre eux ne semble prendre en compte le défaut flagrant de ces fonctionnalités : les LLM eux-mêmes ne sont tout simplement pas adaptés comme interlocuteurs, comme moteurs de résumé, et ne peuvent aider à générer un langage qu'avec un risque significatif de plagiat.

Pour comprendre pourquoi il s'agit là de problèmes fondamentaux, et non de problèmes qui finiront par être résolus, la nature même des LLM doit être examinée.

Se lancer dans une explication très longue des subtilités des LLM n'est pas le but recherché. On se contentera plutôt d'offrir une explication courte. Il se peut que certaines mises en garde soient omises, mais tout ce qui est dit ici s'applique aux LLM génériques les plus populaires. D'ailleurs, de nombreux experts dans ce domaine ont déjà fait un excellent travail à ce sujet.


Qu'est-ce qu'un LLM ?

Les LLM sont simplement un modèle de ce à quoi ressemble un langage écrit. Il s'agit d'une description mathématique de ce à quoi cela ressemble. Il est construit à partir de l'examen d'une grande variété de sources et se concentre sur la description du mot qui a le plus de chances de suivre un grand nombre d'autres mots. Une part d'aléatoire est ajoutée au système pour le rendre plus intéressant, puis le résultat est filtré par un second modèle qui détermine à quel point ce résultat est "agréable". Dans plusieurs cas, ce second modèle a été élaboré en demandant à de nombreuses personnes (sous-payées) d'examiner les résultats de la première étape et de décider s'ils les apprécient ou non et s'ils semblent plausibles.

Cela pose deux problèmes fondamentaux :

Violation des droits d'auteur et de la vie privée

Pour avoir une bonne idée du mot qui est susceptible de suivre une série de mots, il est nécessaire d'examiner un grand nombre de textes. Plus il y a de texte, mieux c'est, car chaque morceau de texte permet d'affiner le modèle afin d'obtenir une représentation plus précise d'une langue. En outre, une grande partie du texte utilisé doit être relativement récente pour refléter l'usage actuel de la langue.

Cela signifie qu'il y a une énorme incitation à consommer du texte à partir de toutes les sources récentes disponibles, des médias sociaux aux articles et aux livres. Malheureusement, ce texte étant intégré au modèle, il est possible de l'amener à produire le même texte mot pour mot. Cela se produit si, pour une séquence d'entrée donnée, il n'y a pas de meilleur choix que de régurgiter ce texte original. Par conséquent, ces modèles ne feront dans certains cas que répéter du matériel protégé par le droit d'auteur, ce qui conduit au plagiat.

De même, la masse de texte provenant des médias sociaux et d'autres sources fournies par les utilisateurs peut très bien contenir des informations sensibles et privées qui peuvent être régurgitées de la même manière. Certaines personnes astucieuses ont trouvé des moyens de déclencher ce type de comportement, et il est peu probable qu'il soit possible de s'en protéger totalement. Conscient du risque que représente l'exposition d'informations privées, Vivaldi n'a jamais été enthousiasmé par l'idée que ces informations puissent être intégrées dans ces modèles.

Des mensonges qui paraissent plausibles

Étant donné que le texte d'un LLM provient en grande partie de l'internet en général, cela signifie qu'une grande partie de ce texte est complètement bidon. Cela va de la simple prose mal écrite à l'erreur factuelle, en passant par le contenu offensant. Les premières expériences menées avec cette technologie ont abouti à la création de chatbots qui se sont rapidement mis à cracher eux-mêmes des propos offensants, prouvant ainsi qu'ils n'étaient pas adaptés à l'objectif visé. C'est pourquoi les LLM modernes sont modérés par une deuxième étape de filtrage de leur résultat.

Malheureusement, comme cela a été mentionné plus haut, cette deuxième étape est construite par des personnes qui évaluent les résultats de la première étape. Pour que cela soit utile, ils doivent examiner d'énormes quantités de résultats. Même les personnes les mieux informées au monde ne peuvent espérer vérifier l'exactitude de tous les résultats et même si elles le pouvaient, elles ne peuvent pas connaître tous les résultats qui seront jamais produits. Pour ces personnes, le filtre ne fait qu'aider à donner le ton. Tout cela conduit à favoriser le type de résultat que les gens aiment voir, c'est-à-dire un texte qui a l'air sûr de lui, quelle que soit sa précision. Ils auront raison la plupart du temps sur des faits largement connus, mais pour le reste, c'est un pari. Le plus souvent, ils se contenteront de proférer des mensonges dignes d'un politicien.

Ce qu'il faut faire

Comme indiqué précédemment, les LLM sont essentiellement des machines à mentir qui ont l'air sûres d'elles et qui ont tendance à divulguer occasionnellement des données privées ou à plagier des travaux existants. Ce faisant, ils consomment également de grandes quantités d'énergie et sont heureux d'utiliser tous les GPU que vous pouvez leur lancer, un problème qui s'est déjà posé dans le domaine des crypto-monnaies.

En tant que tel, il n'est pas judicieux d'intégrer une telle solution dans Vivaldi. Il y a suffisamment d'informations erronées qui circulent pour risquer d'en rajouter. Vivaldi n'utilisera pas de LLM pour ajouter un chatbot, une solution pour les résumés ou un moteur de suggestions pour remplir des formulaires à votre place jusqu'à ce que des moyens plus rigoureux de faire ces choses soient disponibles.

Mais Vivaldi, c'est aussi la possibilité de choisir et il continuera à permettre aux gens d'utiliser tous les LLM qu'ils souhaitent en ligne.

Malgré tout, Vivaldi estime que le domaine de l'apprentissage automatique en général reste passionnant et qu'il peut déboucher sur des fonctionnalités réellement utiles. À l'avenir, Vivaldi espère que cela lui permettra d'offrir à ses utilisateurs des fonctionnalités respectueuses de la vie privée, en mettant l'accent sur l'amélioration de la découvrabilité et de l'accessibilité.

Vivaldi continuera à faire des efforts pour offrir une expérience de navigation éthique et riche en fonctionnalités.

Source : Vivaldi

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous la décision de Vivaldi crédible ou pertinente ?

Voir aussi :

Opera annonce être le premier navigateur majeur avec un accès intégré aux modèles d'IA locaux, cependant les utilisateurs ont peur des spywares depuis le rachat d'Opera par un consortium chinois

Google Chrome se dote de fonctions d'IA, notamment d'une aide à l'écriture, d'un créateur de thèmes et d'un organisateur d'onglets

Microsoft rebaptise son navigateur web iOS et Android en "Microsoft Edge : AI Browser"

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 05/07/2024 à 22:18
Citation Envoyé par Anthony Voir le message
Trouvez-vous la décision de Vivaldi crédible ou pertinente ?
C'est la décision la plus pertinente que j'ai pu lire sur le sujet depuis bien longtemps! Ça fait du bien de lire un raisonnement intelligent
2  0 
Avatar de eddy72
Membre régulier https://www.developpez.com
Le 12/07/2024 à 12:25
Qu'elle parts de marché pour Vivaldi ?
0  0