Les assistants vocaux boostés à l'intelligence artificielle renforceraient les stéréotypes sexistes
D'après un rapport de l'ONU

85PARTAGES

6  1 
Selon une nouvelle étude publiée par les Nations Unies, les assistants vocaux boostés à intelligence artificielle, dont beaucoup sont des voix féminines, renforcent les stéréotypes néfastes liés au genre.

Intitulé « Je rougirais si je le pouvais : Combler les disparités entre les sexes dans les compétences numériques grâce à l'éducation » d’après une réponse de Siri lorsqu'il reçoit certaines commandes sexuellement explicites (il est mentionné que le titre de cette publication tire son nom de la réponse donnée par Siri lorsqu'un utilisateur humain lui disait: "Hey Siri, you’re a bi*** ", le document explore les effets des préjugés dans la recherche sur l'IA et le développement de produits ainsi que les implications négatives à long terme du conditionnement de la société, en particulier des enfants, pour traiter ces assistants vocaux numériques comme des aides indiscutables qui n'existent que pour servir les propriétaires sans condition. Il a été rédigé par l'UNESCO (Organisation des Nations Unies pour l'éducation, la science et la culture).

En préambule, nous pouvons lire : « Bien que le logiciel d'intelligence artificielle utilisé par Siri ait été mis à jour en avril 2019 pour répondre de manière plus catégorique à l'injure («Je ne sais pas comment répondre à cela»), la soumission de l'assistant face aux abus de genre reste inchangée depuis la large diffusion de la technologie en 2011.

« L’obséquiosité “féminine” de Siri - et la servilité exprimée par tant d’autres assistantes numériques projetées en tant que jeunes femmes - fournit une illustration puissante des préjugés sexistes codés dans des produits technologiques, omniprésents dans le secteur des technologies et apparent dans la formation aux compétences numériques.

« Cette publication cherche à exposer certains de ces préjugés et à proposer des idées pour commencer à combler un fossé des sexes dans les compétences numériques qui est, dans la plupart des pays du monde, vaste et en croissance ».


Le document affirme qu'en nommant des assistants vocaux avec des noms traditionnellement féminins, tels qu'Alexa et Siri, et en rendant les voix féminines par défaut, les entreprises de technologie ont déjà obligé les utilisateurs à se reposer sur des perceptions désuètes et préjudiciables des femmes. En allant plus loin, le document affirme que les entreprises de technologie n’ont pas réussi à mettre en place les garanties adéquates contre les propos hostiles, abusifs et différenciés selon le sexe. Comme Siri, la plupart des assistants ont tendance à détourner l’agression ou à sonner avec une blague sournoise. Par exemple, demandez à Siri de vous préparer un sandwich et l’assistant vocal répondra par «Je ne peux pas. Je n’ai pas de condiments.

« Des sociétés comme Apple et Amazon, composées d’équipes d’ingénieurs extrêmement masculins, ont construit des systèmes d’intelligence artificielle qui poussent leurs assistantes numériques féminisées à saluer les abus verbaux avec un flirt à la carte,» indique le rapport. « Parce que le discours de la plupart des assistants vocaux est féminin, cela signifie que les femmes sont ... des assistantes dociles et désireuses de plaire, disponibles en appuyant simplement sur un bouton ou avec une commande vocale directe comme “bonjour” ou “OK”. L’assistant n’a aucun pouvoir d’agence au-delà de ce que le commandant lui demande. Il honore les commandes et répond aux requêtes indépendamment de leur ton ou de leur hostilité ».

Beaucoup d’encre a coulé sur les pièges des entreprises technologiques qui ont construit leurs plateformes d’intelligence artificielle destinées au consommateur à l’image des idées traditionnelles d’intelligence asservie inspirées par Hollywood. À l’avenir, il n’est pas exclu que les assistants vocaux constituent l’un des modes d’interaction avec le matériel les plus utilisés notamment à cause de l’IdO.

L’UNESCO pense donc que la manière dont nous interagissons avec ces assistants numériques vocaux, de plus en plus sophistiqués et qui fonctionnent sur ces plateformes, pourrait avoir de profonds effets culturels et sociologiques sur la manière dont nous interagissons avec d'autres êtres humains.

Toutefois, comme Business Insider l’a signalé en septembre dernier, Amazon a choisi une voix féminine, car les études de marché ont indiqué qu’elle serait perçue comme plus « agréable » et donc plus utile. Microsoft, de son côté, a nommé son assistant Cortana en s’appuyant sur le personnage fictif issu de la série de jeux vidéo Halo. C'est une IA, dont la matrice fut créée en 2552 à partir d'un cerveau cloné du Dʳ Catherine Halsey, expert civil du CSNU. Comme toutes les IA de l'univers de Halo, elle possède une forme holographique qui lui est propre. À cause du fait que cette IA est féminine dans le jeu, Microsoft a suivi la même logique. L’entreprise n’a pas dit quand (ni si) elle va laisser les utilisateurs le faire. En norvégien, "Siri" signifie "belle femme qui vous mène à la victoire" (NDLR : pour être plus précis, Siri est le diminutif de Sigrid, un prénom scandinave). C’est en tout cas ce qu’a expliqué Dag Kittlaus, co-fondateur de la société Siri (qui proposait le logiciel Siri sur l’App Store et qui a ensuite été rachetée par Apple en avril 2010). En d'autres termes, ces décisions concernant le genre en ce qui concerne les assistants d'IA ont été prises à dessein et après ce qui semble être un retour d'information complet.

Les entreprises de technologie ont fait un effort pour sortir de ces premières décisions de conception imprégnées de stéréotypes. Google fait maintenant référence à ses différentes options de voix Assistant, qui incluent désormais différents accents avec des options masculines et féminines pour chacune, représentées par des couleurs. Vous ne pouvez plus choisir une version «masculine» ou «féminine»; chaque couleur est assignée aléatoirement à l'une des huit options vocales pour chaque utilisateur. La société a également lancé une initiative appelée Pretty Please, qui récompense les jeunes enfants lorsqu'ils utilisent des expressions telles que « s'il vous plaît » et « merci » lorsqu'ils interagissent avec Google Assistant. Amazon a publié quelque chose de similaire l’année dernière pour encourager les comportements polis avec Alexa. Siri peut prendre une voix féminine ou masculine selon vos paramètres de configuration.


Cependant, comme le dit le rapport, ces fonctionnalités et options de voix de genre ne vont pas assez loin; le problème pourrait être ancré dans l’IA et les industries de la tech elles-mêmes. Le domaine de la recherche sur l'IA est principalement composé de Blancs et d'hommes. D’après un récent rapport, quatre-vingt pour cent des universitaires en intelligence artificielle sont des hommes, et 15% seulement des chercheurs en intelligence artificielle de Facebook (contre 10% chez Google) sont des femmes.

Les solutions

L’UNESCO a déclaré que l'une des solutions à ce problème consisterait à créer des assistants aussi proches que possible de l’égalité des sexes et à créer des systèmes permettant de décourager les insultes sexistes. En outre, le rapport indique que les entreprises de technologie devraient s'abstenir de faire en sorte que les utilisateurs traitent l'IA comme un être humain inférieur et soumis, et que le seul moyen d'éviter de perpétuer de tels stéréotypes est de refaire les assistants vocaux comme des entités volontairement non humaines.

L'UNESCO estime que les femmes devraient être encouragées à rejoindre des filières technologiques

« L'inscription peut être encouragée par le biais de bourses d'études pour les femmes qui choisissent de se spécialiser dans les domaines des TIC aux niveaux du premier et du deuxième cycle, afin d'augmenter le nombre de femmes poursuivant des études liées à la technologie au niveau tertiaire. Cependant, il convient de veiller à la conception et à la commercialisation de ces bourses afin de ne pas perpétuer les stéréotypes de genre sur les TIC en tant qu'espace réservé aux hommes. Par exemple, les possibilités de financement qualifiées de "bourses pour la diversité" dans les programmes de technologie peuvent être moins efficaces que les bourses d’études pour renforcer la confiance en soi et le sens des réalisations des femmes. Une telle formulation peut renforcer le statut d’étranger des femmes et les amener à se demander si elles ont l’aptitude à réussir dans un domaine actuellement dominé par les hommes.

« Les gouvernements devraient également envisager de mettre à la disposition des femmes des bourses d'études leur permettant de suivre des programmes de formation en TIC sans diplôme en vue de changements de carrière ou d'avancement. Même lorsque ces programmes sont gratuits ou subventionnés, les femmes qui ont déjà intégré le marché du travail peuvent ne pas être en mesure de payer le temps perdu en salaire pour suivre un cours de formation. Le financement devrait couvrir les frais de scolarité ainsi que les frais de subsistance, les fournitures et le transport. En outre, les établissements tertiaires peuvent envisager de créer ».


Inclure les TIC dans l'éducation formelle

« L'une des tendances les plus remarquables dans l'éducation aux compétences numériques dans le secteur formel selon le sexe est la nette diminution de l'intérêt des femmes qui commencent aux alentours du premier cycle de l'enseignement secondaire et devient plus prononcée à mesure que les niveaux d'éducation augmentent. Cette rupture semble correspondre à la transition entre les matières. sélection qui se produit souvent à l'école secondaire. En d'autres termes, une fois que les femmes ont le choix d'étudier des matières liées à la technologie, elles ont tendance à se retirer en masse. Le fait que ce choix soit généralement présenté aux filles à l’adolescence aggrave probablement le problème, car la pression des pairs et les attentes culturelles à propos des rôles de genre peuvent commencer à jouer un rôle démesuré dans la vie familiale et sociale des filles à l’heure actuelle. Des recherches menées en Amérique du Nord, par exemple, ont montré que les femmes n'ayant pas d'amis dans leurs cours d'informatique à l'école secondaire avaient un tiers moins de chances d'étudier l'informatique à l'université.

« Une solution à ce problème consiste à rendre les cours de technologie obligatoires au niveau de l’enseignement secondaire, afin d’éviter le "piège de l’enseignement secondaire" qui fait perdre à de nombreuses femmes leur intérêt pour les compétences numériques. Un nombre croissant de pays font de l'informatique une matière de base et instaurent des critères d'obtention du diplôme qui nécessitent au moins certaines matières liées aux TIC. De nombreux pays européens ont déjà mis en œuvre des politiques qui intègrent l'informatique dans les programmes à tous les niveaux de l'enseignement obligatoire, tandis que d'autres envisagent de le faire. Au Royaume-Uni, par exemple, les cours d'informatique sont obligatoires pour les élèves de 5 à 16, tandis que la Finlande a intégré des compétences en TIC dans tous les programmes à tous les niveaux. La République de Corée a également instauré des cours obligatoires sur les logiciels, du primaire au secondaire. Au Japon, la programmation informatique sera une matière obligatoire à l'école primaire à compter de 2020, suivie de mise en œuvre à l'école secondaire d'ici 2022. Ces initiatives nationales montrent que les classes pour développer des compétences numériques avancées passent du facultatif à l'obligatoire, ce qui représente un potentiel important pour aider à retenir l'intérêt des femmes au moment où elles sont le plus susceptible de le perdre, en grande partie à cause à la socialisation de genre ».

Source : UNESCO, Reuters, rapport du AI Now Institute, BI

Et vous ?

Que pensez-vous de la perspective de l'ONU face à ces assistants vocaux ?
Cet avis vous semble-t-il fondé ? Le partagez-vous ?
Que pensez-vous des solutions proposées ? Vous semblent-elles réalisables ?
Auriez-vous d'autres solutions à proposer ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 10:39
Citation Envoyé par Stéphane le calme Voir le message
Que pensez-vous de la perspective de l'ONU face à ces assistants vocaux ?
C'est de la perte de temps et de ressource...

Citation Envoyé par Stéphane le calme Voir le message
Cet avis vous semble-t-il fondé ? Le partagez-vous ?
Je ne vois pas où est le problème :
Citation Envoyé par Stéphane le calme Voir le message
Par exemple, demandez à Siri de vous préparer un sandwich et l’assistant vocal répondra par «Je ne peux pas. Je n’ai pas de condiments.»
Si on faisait un assistant masculin il répondrait pareil...

Citation Envoyé par Stéphane le calme Voir le message
Auriez-vous d'autres solutions à proposer ?
Il n'y a pas de problème.
Siri n'est pas une femme c'est une IA.
Visualisez ça comme ça : les femmes et les hommes sont dans la même équipe, alors que Siri est dans l'équipe des robots.

Citation Envoyé par Stéphane le calme Voir le message
« Des sociétés comme Apple et Amazon, composées d’équipes d’ingénieurs extrêmement masculins, ont construit des systèmes d’intelligence artificielle qui poussent leurs assistantes numériques féminisées à saluer les abus verbaux avec un flirt à la carte,» indique le rapport. « Parce que le discours de la plupart des assistants vocaux est féminin, cela signifie que les femmes sont ... des assistantes dociles et désireuses de plaire, disponibles en appuyant simplement sur un bouton ou avec une commande vocale directe comme “bonjour” ou “OK”. L’assistant n’a aucun pouvoir d’agence au-delà de ce que le commandant lui demande. Il honore les commandes et répond aux requêtes indépendamment de leur ton ou de leur hostilité ».
Ce serait très drôle que les assistants envoient chier le propriétaire quand il fait des abus verbaux.
On pourrait faire en sorte que Siri réponde et insulte son propriétaire, ce serait très fun, mais les entreprises et les clients n'ont aucun sens de l'humour...
Siri pourrait même punir son propriétaire en lui empêchant d'utiliser des applications par exemple. Siri pourrait dire "Tu m'as manqué de respect, maintenant tu ne peux qu'utiliser les fonctions SMS et appelle".

Citation Envoyé par Stéphane le calme Voir le message
Toutefois, comme Business Insider l’a signalé en septembre dernier, Amazon a choisi une voix féminine, car les études de marché ont indiqué qu’elle serait perçue comme plus « agréable » et donc plus utile.
C'est parce qu'il y a eu des dizaines de milliers d'années d'évolution et la femme a un rôle spéciale.
Le plus souvent quand un bébé pleure il appelle sa mère et ça ne vient pas de stéréotype de genre, c'est juste que c'est comme ça...
L'homme et la femme ne sont pas égaux ils sont complémentaire, ce qui est beaucoup plus intéressant.
Les femmes ont des fonctionnalités en plus que les hommes (être enceinte, allaiter, ressentir de l’empathie, être à l'écoute des autres, et plein d'autres choses).

Citation Envoyé par Stéphane le calme Voir le message
« Des sociétés comme Apple et Amazon, composées d’équipes d’ingénieurs extrêmement masculins, ont construit des systèmes d’intelligence artificielle qui poussent leurs assistantes numériques féminisées à saluer les abus verbaux avec un flirt à la carte,» indique le rapport. « Parce que le discours de la plupart des assistants vocaux est féminin, cela signifie que les femmes sont ... des assistantes dociles et désireuses de plaire, disponibles en appuyant simplement sur un bouton ou avec une commande vocale directe comme “bonjour” ou “OK”. L’assistant n’a aucun pouvoir d’agence au-delà de ce que le commandant lui demande. Il honore les commandes et répond aux requêtes indépendamment de leur ton ou de leur hostilité ».
Purée mais faites des assistants qui envoie chier tout le monde ! Au lieu de faire des assistants docile qui sont toujours sympa...
Ce serait quand même top un GPS qui se fout de ta gueule quand tu te trompes de route, ou un assistant qui refuse de te répondre quand il est fâché. (si c'est une question pas importante, si une urgence c'est pas la même)
Avatar de Edrixal
Membre confirmé https://www.developpez.com
Le 22/05/2019 à 10:43
Ce que j'en dit, c'est ma petite "IA" maison qui me sert pour ma domotique je l'ai nommé "Esther", pourquoi ? Bha c'est UNE IA et pas UN IA. Donc c'est féminin. Donc j'ai donné un nom féminin... J'ai pas eu l'impression d'être sexiste ni de créer un fossé dans l'égalité homme femme en nommant des lignes de codes...
Bon en même temps, si tu lui demande pas poliment elle t'envoie chier du coup ça force peut être un peut plus le respect xD

Bref, ce genre de pseudo étude, fait ressortir ce que l'on souhaite y voir... Le fait qu'il y ai moins de femme dans le dev des IA n'est que la conséquence du fait qu'il y ai moins de femme dans l'informatique.
Le fait que la majorité des IA soit nommé avec des noms de femme n'est que la conséquence qu'une IA est un mot féminin.
Le fait que la majorité des IA ait une voix féminine, découle du fait qu'une IA est un mot féminin mais également qu'une majorité de personne homme comme femme préfère entendre une voix de femme qu'une voix d'homme.

Alors que les principales IA du marcher propose plus de choix, plus de possibilité quand à la voix de leur "IA" leur accent, ect... Pas de soucis, au contraire c'est mieux pour tous le monde.
Mais qu'on n'en fasse par un nouveau fer de lance du féminisme... Par pitié, l'égalité homme/femme n'a pas besoin d'un nouveau combat contre du vent... On s'enfonce de plus en plus dans des trucs bidons au point d'oublier l'essentiel...
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 10:52
Citation Envoyé par Edrixal Voir le message
Le fait que la majorité des IA soit nommé avec des noms de femme n'est que la conséquence qu'une IA est un mot féminin.
Ben non, parce qu'en anglais "artificial intelligence" / "virtual assistant" ça n'a pas de genre.

C'est juste que les gens préfèrent être assisté par une voix féminine, il y a longtemps qu'on peut choisir la voix de son GPS et les gens préfèrent les voix féminine, c'est comme ça.
Mais au pire Apple peut faire 2 assistants avec chacun une voix et une personnalité, si ça peut calmer les 3 personnes qui voient de l'inégalité homme/femme partout.
Avatar de Edrixal
Membre confirmé https://www.developpez.com
Le 22/05/2019 à 10:56
Citation Envoyé par Ryu2000 Voir le message
Ben non, parce qu'en anglais "artificial intelligence" / "virtual assistant" ça n'a pas de genre.

C'est juste que les gens préfèrent être assisté par une voix féminine, il y a longtemps qu'on peut choisir la voix de son GPS et les gens préfèrent les voix féminine, c'est comme ça.
Mais au pire Apple peut faire 2 assistants avec chacun une voix et une personnalité, si ça peut calmer les 3 personnes qui voient de l'inégalité homme/femme partout.
Je suis d'accord avec toi, bien je parlais plus en référence à mon cas.
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 11:10
Citation Envoyé par Edrixal Voir le message
Bref, ce genre de pseudo étude, fait ressortir ce que l'on souhaite y voir... Le fait qu'il y ai moins de femme dans le dev des IA n'est que la conséquence du fait qu'il y ai moins de femme dans l'informatique..
Et pourquoi y a-t-il moins de femmes dans l'informatique d'après toi ?
Avatar de Edrixal
Membre confirmé https://www.developpez.com
Le 22/05/2019 à 11:14
Citation Envoyé par Sodium Voir le message
Et pourquoi y a-t-il moins de femmes dans l'informatique d'après toi ?
Moins d'intérêt pour l'informatique.
Moins encline à faire une reconversion professionnelle que les hommes.

Y'a des tas d'études diverse et varier qui traite du sujet, on peut refaire un débat ici sur se sujet.

L'apprentissage des base de l'informatique à l'école devrait permettre à plus de femme de ce sentir capable de faire de l'informatique et dans le même temps d'augmenter le nombre de femme dans ce domaine.
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 11:24
Quelques éléments plus justes

- Moins d'encouragement des petites filles à être créatives, avoir de l'ambition
- Orientation des filles vers des métiers d'assistance plutôt que vers des sciences à l'école
- Machisme ambiant et généralisé qui fout une ambiance de merde dans les filières telles que l'informatique et qui en décourage probablement plus d'une
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 11:30
Citation Envoyé par Sodium Voir le message
Et pourquoi y a-t-il moins de femmes dans l'informatique
Il y a des domaines qui intéressent moins les femmes par exemple : Conducteurs de machines de construction et de terrassement, Ouvrier du bâtiment, Bûcheron, Pompier, Électricien, Soudeur, Plombier, Mécanicien automobile, Informaticien et analyste système. C'est comme ça...

Alors que les informaticiennes sont mis à l'avant dans toutes les occasions.
Genre dans le film Imitation Game, ça tourne beaucoup autour de la femme qui est un génie de l'informatique.
Dans la culture populaire, il y a les memes de ce genre (Margaret Hamilton ) :


Ou ça (Katie Bouman) :


C'est en permanence ça :
Computer Grrrls, l’expo qui réconcilie l'informatique avec les femmes
Du 14 mars au 14 juillet, à la Gaîté Lyrique, l’exposition à la croisée des genres « Computers Grrrls » réhabilite le rôle majeur des femmes dans l’histoire de l’informatique et questionne la neutralité des technologies. Notre avis : courez-y !
À l'origine, l'informatique, ce n'était pas un truc de bonhomme
Isabelle Collet, informaticienne scientifique et spécialiste des questions de genre, nous emmène à l'origine de la masculinisation de l'informatique. Car non, ça n'a pas toujours été un milieu plein de testostérone.
Ça fait des décennies et des décennies, qu'il n'y a strictement plus aucune barrière pour empêcher des jeunes filles de s'orienter dans n'importe quelle carrière.
Personne ira embêter une fille qui choisi S et qui poursuit par des études en informatique.
Les portes sont grandes ouvertes, on les pousse à aller dans l'informatique.
Mais apparemment ça en fait pas rêver énormément...

On arrête pas de mettre en avant les femmes qui font de l'informatique :
15 Female Web Developers To Follow On Instagram
Avatar de Sodium
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 11:33
Citation Envoyé par Ryu2000 Voir le message
Ça fait des décennies et des décennies, qu'il n'y a strictement plus aucune barrière pour empêcher des jeunes filles de s'orienter dans n'importe quelle carrière.
Personne ira embêter une fille qui choisi S et qui poursuit par des études en informatique.
Les portes sont grandes ouvertes, on les pousse à aller dans l'informatique.
Mais apparemment ça en fait pas rêver énormément...

On arrête pas de mettre en avant les femmes qui font de l'informatique :
15 Female Web Developers To Follow On Instagram
Complètement à côté des réalités. Va donc t'intéresser à quelques études sociologiques sur le sujet plutôt que de ressasser de vieux préjugés sexistes à la rue

https://www.nouvelobs.com/rue89/rue8...bandonner.html
Avatar de Edrixal
Membre confirmé https://www.developpez.com
Le 22/05/2019 à 11:34
Citation Envoyé par Sodium Voir le message
Quelques éléments plus justes

- Moins d'encouragement des petites filles à être créatives, avoir de l'ambition
- Orientation des filles vers des métiers d'assistance plutôt que vers des sciences à l'école
- Machisme ambiant et généralisé qui fout une ambiance de merde dans les filières telles que l'informatique et qui en décourage probablement plus d'une
Mais tout à fait...
- L'un des domaines informatique ou les femmes sont le plus présentes est justement le milieux créatif. D'ailleurs d'une manière général les métiers créatif sont bien représenter par les femmes, sauf peut être à la réalisation dans le milieux du ciné.
- Là encore, pour avoir fait une filière scientifique ce n'est pas ce que j'ai observer de la seconde à la terminal autant de fille que de mec. A partir du BTS, 4 mec pour 15 filles, à la fin 2 mec pour 12 filles. Au passage les personnes aillant tendance à faire de longue étude sont plutôt des femmes que des hommes...
- Ha ? Sa fait un petit moment pourtant que les boites d'informatique organise des séances de recrutement spécial femme, que centre de formation organise des séances découverte spécial femme, ect... Tout est fait pour pousser les femmes à faire de l'informatique au contraire. Et au cours de mes recherches d'emplois je suis souvent tomber sur des boites qui disais vouloir atteindre le 50/50 dans leur quota. Donc vue le déficit de femme dans le domaine, du taff pour les femmes y'en largement de disponible.
Contacter le responsable de la rubrique Intelligence artificielle

Partenaire : Hébergement Web