IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les développeurs utilisent l'IA pour déboguer leur code, des rapports de tests, et même créer des applications
Mais ils sont confrontés a des biais et des erreurs, d'après Applause

Le , par Anthony

25PARTAGES

5  0 
Bien que 75 % des personnes pensent que les chatbots s'améliorent dans la gestion des réponses toxiques ou inexactes, 50 % d'entre elles ont encore été victimes de biais et 38 % ont vu des inexactitudes, selon un nouveau rapport.

L'enquête menée auprès de plus de 6 300 consommateurs, développeurs de logiciels et professionnels des tests de qualité numérique, pour le compte de la société de tests et de qualité numérique Applause, révèle que 91 % des personnes interrogées ont utilisé des chatbots pour effectuer des recherches, et que 33 % d'entre elles les utilisent quotidiennement pour effectuer des recherches.

Depuis sa mise sur le marché, il n'est pas surprenant que ChatGPT ait été le plus utilisé (91 %), suivi de Gemini (63 %) et de Microsoft Copilot (55 %). D'autres chatbots ont été utilisés par moins d'un tiers des utilisateurs : Grok (32 %), Pi (29 %), Perplexity (24 %), Claude (23 %) et Poe (21 %).


Il est intéressant de noter que 38 % des personnes interrogées indiquent qu'elles utilisent différents chatbots en fonction de la tâche spécifique. 27 % des personnes interrogées déclarent également avoir remplacé un chatbot par un autre en raison de ses performances.

Sur les 1 539 personnes interrogées qui utilisent la GenAI pour le développement et le test de logiciels, les applications les plus courantes sont l'écriture ou le débogage de code (51 %), les rapports de test (48 %), l'élaboration de cas de test (46 %) et la création d'applications (42 %). GitHub Copilot est l'outil le plus populaire pour l'aide au codage (41 % des répondants), suivi par OpenAI Codex (24 % des répondants).

La protection de la vie privée reste cependant un sujet de préoccupation : 89 % des personnes interrogées craignent de fournir des informations privées aux chatbots, et 11 % déclarent qu'elles ne fourniraient jamais d'informations privées.

"L'enquête montre clairement que les consommateurs sont désireux d'utiliser les chatbots GenAI, et que certains les ont même intégrés dans leur vie quotidienne pour des tâches telles que la recherche. Les chatbots parviennent de mieux en mieux à gérer la toxicité, la partialité et l'inexactitude, mais des inquiétudes subsistent. Il n'est pas surprenant de constater qu'il est courant de passer d'un chatbot à l'autre pour accomplir différentes tâches, alors que les capacités multimodales font désormais partie des enjeux de la table", déclare Chris Sheehan, vice-président des comptes stratégiques et de l'IA chez Applause. "Pour gagner en adoption, les chatbots doivent continuer à former des modèles sur des données de qualité dans des domaines spécifiques et effectuer des tests approfondis auprès d'une base d'utilisateurs diversifiée afin de réduire la toxicité et l'inexactitude."

Les résultats détaillés de l'enquête menée par Applause sont présentés ci-dessous :

Lorsque Applause a interrogé sa communauté mondiale sur l'IA générative l'année dernière, l'utilisation était en hausse malgré les inquiétudes concernant les préjugés. Cette année encore, Applause a sondé la communauté pour savoir comment les consommateurs utilisent les différents outils d'IA générative, y compris les chatbots, et comment l'utilisation et les expériences des utilisateurs ont évolué au fur et à mesure que la technologie gagnait en popularité. Cette année, 6 361 consommateurs, développeurs logiciels et professionnels de l'assurance qualité ont participé à l'enquête, révélant que si la satisfaction des utilisateurs augmente, il existe encore des possibilités d'amélioration.

Les réponses sont de plus en plus utiles

L'année dernière, 7 % des 2 110 personnes interrogées ont déclaré que les réponses qu'elles recevaient des chatbots de GenAI étaient toujours pertinentes et appropriées, tandis que 50 % ont déclaré que c'était le cas la plupart du temps. Cette année, plus de deux fois plus de personnes ont participé à l'enquête et elles étaient plus susceptibles de trouver les réponses des chatbots utiles. Sur 4 229 réponses, 19 % ont indiqué que les outils GenAI qu'ils utilisent comprennent leurs questions et fournissent des réponses utiles à chaque fois, et 58,5 % ont déclaré que c'était le cas la plupart du temps.

Avec plus de 2 900 répondants indiquant qu'ils utilisent au moins un chatbot GenAI quotidiennement, il y a beaucoup de données à évaluer. En outre, 37,5 % des personnes interrogées ont déclaré utiliser différents chatbots pour différentes tâches, tandis que 26,5 % ont déclaré avoir remplacé un service par un autre, généralement en raison de problèmes de performance.

Les erreurs les plus courantes de l'UX GenAI selon 4 174 personnes interrogées sont :

  • ont donné une réponse générale qui ne fournissait pas suffisamment de détails : 17.5 %
  • ont mal compris mon invite : 16.8 %
  • ont donné une réponse convaincante mais légèrement incorrecte : 10.7 %
  • ont donné des réponses manifestement erronées : 10.3 %

Les cas d'utilisation se diversifient

Pour la plupart des utilisateurs, les chatbots remplacent les moteurs de recherche et les outils de recherche existants - 91 % des personnes interrogées ont utilisé des chatbots pour effectuer des recherches, et 33 % d'entre elles utilisent quotidiennement la GenAI pour effectuer des recherches. Pour 81 % des participants à l'enquête, les chatbots ont remplacé les moteurs de recherche pour les requêtes ; 32 % d'entre eux utilisent quotidiennement les chatbots pour la recherche. Parmi les autres cas d'utilisation populaires, citons la traduction linguistique, la rédaction créative et la rédaction de courriels, de propositions ou d'autres communications commerciales similaires.

Il n'est pas surprenant que la GenAI ait une myriade de cas d'utilisation dans le processus de développement et de test des logiciels. Lorsqu'il a été demandé aux répondants ayant indiqué qu'ils utilisaient des chatbots pour écrire ou déboguer du code, construire des cas de test ou pour des rapports de test de préciser comment ils utilisaient les chatbots pour les tests, 1 532 professionnels de l'assurance qualité ont indiqué qu'ils utilisaient le plus souvent des chatbots pour la génération de cas de test (19 %), la génération de texte pour les données de test (17 %) et la création de rapports de test (16 %). GitHub Copilot et OpenAI's Codex sont les outils les plus populaires.

Malgré les biais, les hallucinations et d'autres défauts, les utilisateurs sont optimistes à l'égard de la technologie

Cette année, 38 % des personnes interrogées ont déclaré avoir été victimes d'hallucinations, 50 % ont vu des contenus qu'elles considéraient comme biaisés et 19 % ont vu des contenus qu'elles jugeaient offensants, soit 1 à 2 points de pourcentage de plus que les résultats de l'année dernière. Bien qu'une plus grande proportion d'utilisateurs ait déclaré avoir rencontré des réponses problématiques cette année, 75 % des 4 245 personnes interrogées ont déclaré qu'elles pensaient que les chatbots s'amélioraient dans la gestion des réponses toxiques ou inexactes.

Dans quelle mesure les utilisateurs sont-ils satisfaits des expériences de la GenAI ? Plus d'un tiers (36 %) se déclarent extrêmement satisfaits, et 53,6 % se disent plutôt satisfaits. Interrogés sur les fonctionnalités potentielles qu'ils aimeraient voir dans les chatbots d'IA générative, les répondants à l'enquête ont mentionné une meilleure attribution de la source, des réponses plus localisées, la prise en charge d'un plus grand nombre de langues et une personnalisation plus poussée.

Malgré les améliorations apportées à la technologie, certains utilisateurs ne sont toujours pas convaincus de la valeur de la GenAI : 1 001 participants à l'enquête ont indiqué qu'ils n'avaient jamais utilisé la technologie ou qu'ils ne l'avaient essayée qu'une ou deux fois. Lorsqu'on leur a demandé pourquoi ils n'avaient pas adopté la GenAI, 28 % des personnes interrogées ont répondu qu'elles ne souhaitaient pas l'utiliser. C'est une bonne nouvelle pour les moteurs de recherche et les logiciels de traduction existants pour le moment, mais les progrès quasi quotidiens de l'IA pourraient séduire davantage d'utilisateurs au cours de l'année à venir.

Source : "Survey Examines User Perceptions About Generative AI" (Applause)

Et vous ?

Quel est votre avis sur le sujet ?
Trouvez-vous que les conclusions de cette enquête menée par Applause sont crédibles ou pertinentes ?

Voir aussi :

92 % des développeurs utiliseraient des outils d'intelligence artificielle, selon une enquête de GitHub auprès des développeurs

L'IA Codex d'OpenAI fait ses débuts en programmation et peut déjà coder dans une dizaine de langages, l'IA pourra-t-elle bientôt décharger les développeurs de certaines tâches, voire les remplacer ?

L'utilisation de l'assistant d'IA GitHub Copilot pour la programmation entraîne une baisse de la qualité globale du code et une quantité importante de code redondant, selon une étude

Une erreur dans cette actualité ? Signalez-nous-la !

Avatar de totozor
Expert confirmé https://www.developpez.com
Le 19/09/2024 à 7:47
Ma question est probablement très bête mais : la meilleure manière que ChatGPT ne nous fournisse pas des informations préjudiciables n'est il pas qu'il ne les ingère pas?
La réponse est probablement qu'étant "capable de raisonnement" si on ne lui donne pas la recette il sera quand même capable de la reproduire.
Mais certaines informations ne sont elles pas suffisamment délicates pour qu'elles deviennent très vagues : "Il ne faut pas mélanger A avec B parce que c'est dangereux". Dangereux regroupant toxique, explosif, corrosif, etc

ChatGPT s'est probablement amélioré depuis mais fut un temps il suffisait de décomposer le l'objectif en sous objectifs puis de lui demander de résumer les dernières réponses : sa conclusion ressemblait "Allez aux USA"
3  0 
Avatar de nikau6
Membre extrêmement actif https://www.developpez.com
Le 01/04/2024 à 8:35
Citation Envoyé par Coeur De Roses Voir le message
Je suis d'accord qu'il ne faut pas attendre de subir des dégats avant de fabriquer un bouclier en quelque sorte. Malheuresement, cet état d'esprit manque parfois à notre société en général, pas toujours.
Les dégâts les plus importants et les plus graves qui vont arriver avec l'IA sont le nombre de personnes qui vont se retrouver au chômage d'ici 10-15 ans. Et dans pleins de domaines. Les conséquences sociales vont être dramatiques. A moins que l'on change de modèle de société et que l'on passe au revenu universel. Sinon, la société qui s'annonce sera dystopique. Des bidonvilles dans lesquels vivront 90% de la population et des villes ultras modernes et sécurisées dans lesquelles vivront les autres.
L'oligarchie va pouvoir réaliser son rêve. Se débarrasser d'un peuple qui lui cause bien des soucis. Et si nous vient l’idée de nous révolter ils nous enverront des drones contre lesquels on ne pourra rien.

La question qui se pose est : "Doit-on faire quelque chose simplement parce qu'on peut le faire ?"
Quelle réflexion politique avons nous sur le sujet ? Est-il normal que des entreprises privés balancent ce genre de programmes sans se soucier des conséquences ? Devraient-elles en avoir le droit ? L'état ne devrait-il pas prendre en charge les programmes d'IA et interdire leur développement au privé ?

EDIT : On peut facilement comprendre que le militaire a un droit de véto sur toute technologie avant qu'elle ne soit rendues publique. Ce qui veut dire que si le public a accès à des IA déjà très sophistiquées, les militaires ont au moins 10 ans d'avance dans le domaine. Ce qui est également très inquiétant.
Dans un futur peut être très proche, les programmeurs qui auront participé qu développement de l'IA auront peut être autant de regrets qu'en ont eu les scientifiques qui ont participé á développer l'arme atomique. Au vu des conséquences potentiellement désastreuses pour l'humanité.
Et ceux qui voudraient me répondre que je suis pessimiste, je leurs répondrais que l'on a des siècles d'histoire derrière nous qui ne peuvent que nous rendre pessimiste sur le sujet.
2  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 01/04/2024 à 10:12
Sur les 1 539 personnes interrogées qui utilisent la GenAI pour le développement et le test de logiciels, les applications les plus courantes sont l'écriture ou le débogage de code (51 %), les rapports de test (48 %), l'élaboration de cas de test (46 %) et la création d'applications (42 %). GitHub Copilot est l'outil le plus populaire pour l'aide au codage (41 % des répondants), suivi par OpenAI Codex (24 % des répondants).
Ouaaaaaaaaaaah... Impressionnant!

Et quand est-ce que l'on peut avoir une démonstration réelle nous montrant comment ces 1539 personnes interrogées font tout ce qu'ils disent avec l'IA?

Je pose naïvement la question parce que si je vous dis que j'ai fait le tour de France en équilibre sur les mains vous allez me demander d'en faire la preuve...
1  0 
Avatar de Gluups
Membre émérite https://www.developpez.com
Le 19/09/2024 à 7:50
À force qu'ils fassent les cons, il va finir par falloir les priver d'accès à Internet.
2  1 
Avatar de Gluups
Membre émérite https://www.developpez.com
Le 02/04/2024 à 4:29
Citation Envoyé par Patrick Ruiz Voir le message
Le tableau ravive ainsi des craintes sur la perspective de voir l’intelligence artificielle surpasser les humains.
Assurément, voilà quelque chose dont nous ne pourrions pas nous passer.

Nous sommes déjà incapables d'exercer ce que nous appelons démocratie (voir la "réforme" des retraites), alors une fois remplacés par des machines, pour sûr ça va nous donner plus de droits.
0  0 
Avatar de nikau6
Membre extrêmement actif https://www.developpez.com
Le 02/04/2024 à 21:01
Les programmeurs qui utilisent l'IA pour la réalisation ou/et le débogage de leurs programmes, sont en train d’entrainer ce qui finira par les mettre au chômage.
Pareil pour ceux qui mettent leur code en ligne sur des dépôts publiques genre github.
Si ils comprenaient vraiment les enjeux, ils effaceraient leur code de github et autres, pour les mettre sur des dépot qui empecheraient toute IA de parcourir la base de donnée.
0  0 
Avatar de Gluups
Membre émérite https://www.developpez.com
Le 06/04/2024 à 15:58
Oui, et il y a aussi ceux qui continuent à voter alors qu'ils savent avant d'y aller qui sera président.

Il est vrai que le seul point commun entre les deux, c'est que si on faisait un peu travailler ses neurones on ne le ferait pas.

Autrement sur Github, normalement on peut aussi sauvegarder sans donner les droits d'accès à autrui, enfin là c'est une autre démarche.
0  0 
Avatar de Jules34
Membre émérite https://www.developpez.com
Le 09/04/2024 à 8:45
« Tous ceux qui connaissent la technologie savent que c'est ainsi que l'on procède », a-t-il déclaré. « Seuls ceux qui ont peur s'assoient et disent : "Oh, ça ne fonctionne pas comme nous le voulons, maintenant nous devons nous en débarrasser". Je ne vis pas comme ça ».
Le "progrès" à marche forcée, comme en Corée du Nord. Un chatbot coute moins chers que des vraies personnes qui ne vous diront naturellement pas autant de connerie d'hallucination qu'une machine.
0  0 
Avatar de L33tige
Membre expérimenté https://www.developpez.com
Le 09/04/2024 à 12:19
Citation Envoyé par Jules34 Voir le message
Le "progrès" à marche forcée, comme en Corée du Nord. Un chatbot coute moins chers que des vraies personnes qui ne vous diront naturellement pas autant de connerie d'hallucination qu'une machine.
J'appellerais pas ça des vraies personnes mais oui.
0  0 
Avatar de kain_tn
Expert éminent https://www.developpez.com
Le 19/09/2024 à 9:16
Citation Envoyé par totozor Voir le message
Ma question est probablement très bête mais : la meilleure manière que ChatGPT ne nous fournisse pas des informations préjudiciables n'est il pas qu'il ne les ingère pas?
La réponse est probablement qu'étant "capable de raisonnement" si on ne lui donne pas la recette il sera quand même capable de la reproduire.
Mais certaines informations ne sont elles pas suffisamment délicates pour qu'elles deviennent très vagues : "Il ne faut pas mélanger A avec B parce que c'est dangereux". Dangereux regroupant toxique, explosif, corrosif, etc

ChatGPT s'est probablement amélioré depuis mais fut un temps il suffisait de décomposer le l'objectif en sous objectifs puis de lui demander de résumer les dernières réponses : sa conclusion ressemblait "Allez aux USA"
Pire: avec ses hallucinations, tu vas finir par lui demander une recette de cuisine pour te retrouver avec du poison
0  0