Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Les assistants vocaux boostés à l'intelligence artificielle renforceraient les stéréotypes sexistes
D'après un rapport de l'ONU

Le , par Stéphane le calme

124PARTAGES

6  1 
Selon une nouvelle étude publiée par les Nations Unies, les assistants vocaux boostés à intelligence artificielle, dont beaucoup sont des voix féminines, renforcent les stéréotypes néfastes liés au genre.

Intitulé « Je rougirais si je le pouvais : Combler les disparités entre les sexes dans les compétences numériques grâce à l'éducation » d’après une réponse de Siri lorsqu'il reçoit certaines commandes sexuellement explicites (il est mentionné que le titre de cette publication tire son nom de la réponse donnée par Siri lorsqu'un utilisateur humain lui disait: "Hey Siri, you’re a bi*** ", le document explore les effets des préjugés dans la recherche sur l'IA et le développement de produits ainsi que les implications négatives à long terme du conditionnement de la société, en particulier des enfants, pour traiter ces assistants vocaux numériques comme des aides indiscutables qui n'existent que pour servir les propriétaires sans condition. Il a été rédigé par l'UNESCO (Organisation des Nations Unies pour l'éducation, la science et la culture).

En préambule, nous pouvons lire : « Bien que le logiciel d'intelligence artificielle utilisé par Siri ait été mis à jour en avril 2019 pour répondre de manière plus catégorique à l'injure («Je ne sais pas comment répondre à cela»), la soumission de l'assistant face aux abus de genre reste inchangée depuis la large diffusion de la technologie en 2011.

« L’obséquiosité “féminine” de Siri - et la servilité exprimée par tant d’autres assistantes numériques projetées en tant que jeunes femmes - fournit une illustration puissante des préjugés sexistes codés dans des produits technologiques, omniprésents dans le secteur des technologies et apparent dans la formation aux compétences numériques.

« Cette publication cherche à exposer certains de ces préjugés et à proposer des idées pour commencer à combler un fossé des sexes dans les compétences numériques qui est, dans la plupart des pays du monde, vaste et en croissance ».


Le document affirme qu'en nommant des assistants vocaux avec des noms traditionnellement féminins, tels qu'Alexa et Siri, et en rendant les voix féminines par défaut, les entreprises de technologie ont déjà obligé les utilisateurs à se reposer sur des perceptions désuètes et préjudiciables des femmes. En allant plus loin, le document affirme que les entreprises de technologie n’ont pas réussi à mettre en place les garanties adéquates contre les propos hostiles, abusifs et différenciés selon le sexe. Comme Siri, la plupart des assistants ont tendance à détourner l’agression ou à sonner avec une blague sournoise. Par exemple, demandez à Siri de vous préparer un sandwich et l’assistant vocal répondra par «Je ne peux pas. Je n’ai pas de condiments.

« Des sociétés comme Apple et Amazon, composées d’équipes d’ingénieurs extrêmement masculins, ont construit des systèmes d’intelligence artificielle qui poussent leurs assistantes numériques féminisées à saluer les abus verbaux avec un flirt à la carte,» indique le rapport. « Parce que le discours de la plupart des assistants vocaux est féminin, cela signifie que les femmes sont ... des assistantes dociles et désireuses de plaire, disponibles en appuyant simplement sur un bouton ou avec une commande vocale directe comme “bonjour” ou “OK”. L’assistant n’a aucun pouvoir d’agence au-delà de ce que le commandant lui demande. Il honore les commandes et répond aux requêtes indépendamment de leur ton ou de leur hostilité ».

Beaucoup d’encre a coulé sur les pièges des entreprises technologiques qui ont construit leurs plateformes d’intelligence artificielle destinées au consommateur à l’image des idées traditionnelles d’intelligence asservie inspirées par Hollywood. À l’avenir, il n’est pas exclu que les assistants vocaux constituent l’un des modes d’interaction avec le matériel les plus utilisés notamment à cause de l’IdO.

L’UNESCO pense donc que la manière dont nous interagissons avec ces assistants numériques vocaux, de plus en plus sophistiqués et qui fonctionnent sur ces plateformes, pourrait avoir de profonds effets culturels et sociologiques sur la manière dont nous interagissons avec d'autres êtres humains.

Toutefois, comme Business Insider l’a signalé en septembre dernier, Amazon a choisi une voix féminine, car les études de marché ont indiqué qu’elle serait perçue comme plus « agréable » et donc plus utile. Microsoft, de son côté, a nommé son assistant Cortana en s’appuyant sur le personnage fictif issu de la série de jeux vidéo Halo. C'est une IA, dont la matrice fut créée en 2552 à partir d'un cerveau cloné du Dʳ Catherine Halsey, expert civil du CSNU. Comme toutes les IA de l'univers de Halo, elle possède une forme holographique qui lui est propre. À cause du fait que cette IA est féminine dans le jeu, Microsoft a suivi la même logique. L’entreprise n’a pas dit quand (ni si) elle va laisser les utilisateurs le faire. En norvégien, "Siri" signifie "belle femme qui vous mène à la victoire" (NDLR : pour être plus précis, Siri est le diminutif de Sigrid, un prénom scandinave). C’est en tout cas ce qu’a expliqué Dag Kittlaus, co-fondateur de la société Siri (qui proposait le logiciel Siri sur l’App Store et qui a ensuite été rachetée par Apple en avril 2010). En d'autres termes, ces décisions concernant le genre en ce qui concerne les assistants d'IA ont été prises à dessein et après ce qui semble être un retour d'information complet.

Les entreprises de technologie ont fait un effort pour sortir de ces premières décisions de conception imprégnées de stéréotypes. Google fait maintenant référence à ses différentes options de voix Assistant, qui incluent désormais différents accents avec des options masculines et féminines pour chacune, représentées par des couleurs. Vous ne pouvez plus choisir une version «masculine» ou «féminine»; chaque couleur est assignée aléatoirement à l'une des huit options vocales pour chaque utilisateur. La société a également lancé une initiative appelée Pretty Please, qui récompense les jeunes enfants lorsqu'ils utilisent des expressions telles que « s'il vous plaît » et « merci » lorsqu'ils interagissent avec Google Assistant. Amazon a publié quelque chose de similaire l’année dernière pour encourager les comportements polis avec Alexa. Siri peut prendre une voix féminine ou masculine selon vos paramètres de configuration.


Cependant, comme le dit le rapport, ces fonctionnalités et options de voix de genre ne vont pas assez loin; le problème pourrait être ancré dans l’IA et les industries de la tech elles-mêmes. Le domaine de la recherche sur l'IA est principalement composé de Blancs et d'hommes. D’après un récent rapport, quatre-vingt pour cent des universitaires en intelligence artificielle sont des hommes, et 15% seulement des chercheurs en intelligence artificielle de Facebook (contre 10% chez Google) sont des femmes.

Les solutions

L’UNESCO a déclaré que l'une des solutions à ce problème consisterait à créer des assistants aussi proches que possible de l’égalité des sexes et à créer des systèmes permettant de décourager les insultes sexistes. En outre, le rapport indique que les entreprises de technologie devraient s'abstenir de faire en sorte que les utilisateurs traitent l'IA comme un être humain inférieur et soumis, et que le seul moyen d'éviter de perpétuer de tels stéréotypes est de refaire les assistants vocaux comme des entités volontairement non humaines.

L'UNESCO estime que les femmes devraient être encouragées à rejoindre des filières technologiques

« L'inscription peut être encouragée par le biais de bourses d'études pour les femmes qui choisissent de se spécialiser dans les domaines des TIC aux niveaux du premier et du deuxième cycle, afin d'augmenter le nombre de femmes poursuivant des études liées à la technologie au niveau tertiaire. Cependant, il convient de veiller à la conception et à la commercialisation de ces bourses afin de ne pas perpétuer les stéréotypes de genre sur les TIC en tant qu'espace réservé aux hommes. Par exemple, les possibilités de financement qualifiées de "bourses pour la diversité" dans les programmes de technologie peuvent être moins efficaces que les bourses d’études pour renforcer la confiance en soi et le sens des réalisations des femmes. Une telle formulation peut renforcer le statut d’étranger des femmes et les amener à se demander si elles ont l’aptitude à réussir dans un domaine actuellement dominé par les hommes.

« Les gouvernements devraient également envisager de mettre à la disposition des femmes des bourses d'études leur permettant de suivre des programmes de formation en TIC sans diplôme en vue de changements de carrière ou d'avancement. Même lorsque ces programmes sont gratuits ou subventionnés, les femmes qui ont déjà intégré le marché du travail peuvent ne pas être en mesure de payer le temps perdu en salaire pour suivre un cours de formation. Le financement devrait couvrir les frais de scolarité ainsi que les frais de subsistance, les fournitures et le transport. En outre, les établissements tertiaires peuvent envisager de créer ».


Inclure les TIC dans l'éducation formelle

« L'une des tendances les plus remarquables dans l'éducation aux compétences numériques dans le secteur formel selon le sexe est la nette diminution de l'intérêt des femmes qui commencent aux alentours du premier cycle de l'enseignement secondaire et devient plus prononcée à mesure que les niveaux d'éducation augmentent. Cette rupture semble correspondre à la transition entre les matières. sélection qui se produit souvent à l'école secondaire. En d'autres termes, une fois que les femmes ont le choix d'étudier des matières liées à la technologie, elles ont tendance à se retirer en masse. Le fait que ce choix soit généralement présenté aux filles à l’adolescence aggrave probablement le problème, car la pression des pairs et les attentes culturelles à propos des rôles de genre peuvent commencer à jouer un rôle démesuré dans la vie familiale et sociale des filles à l’heure actuelle. Des recherches menées en Amérique du Nord, par exemple, ont montré que les femmes n'ayant pas d'amis dans leurs cours d'informatique à l'école secondaire avaient un tiers moins de chances d'étudier l'informatique à l'université.

« Une solution à ce problème consiste à rendre les cours de technologie obligatoires au niveau de l’enseignement secondaire, afin d’éviter le "piège de l’enseignement secondaire" qui fait perdre à de nombreuses femmes leur intérêt pour les compétences numériques. Un nombre croissant de pays font de l'informatique une matière de base et instaurent des critères d'obtention du diplôme qui nécessitent au moins certaines matières liées aux TIC. De nombreux pays européens ont déjà mis en œuvre des politiques qui intègrent l'informatique dans les programmes à tous les niveaux de l'enseignement obligatoire, tandis que d'autres envisagent de le faire. Au Royaume-Uni, par exemple, les cours d'informatique sont obligatoires pour les élèves de 5 à 16, tandis que la Finlande a intégré des compétences en TIC dans tous les programmes à tous les niveaux. La République de Corée a également instauré des cours obligatoires sur les logiciels, du primaire au secondaire. Au Japon, la programmation informatique sera une matière obligatoire à l'école primaire à compter de 2020, suivie de mise en œuvre à l'école secondaire d'ici 2022. Ces initiatives nationales montrent que les classes pour développer des compétences numériques avancées passent du facultatif à l'obligatoire, ce qui représente un potentiel important pour aider à retenir l'intérêt des femmes au moment où elles sont le plus susceptible de le perdre, en grande partie à cause à la socialisation de genre ».

Source : UNESCO, Reuters, rapport du AI Now Institute, BI

Et vous ?

Que pensez-vous de la perspective de l'ONU face à ces assistants vocaux ?
Cet avis vous semble-t-il fondé ? Le partagez-vous ?
Que pensez-vous des solutions proposées ? Vous semblent-elles réalisables ?
Auriez-vous d'autres solutions à proposer ?

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de John Bournet
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 14:25
Citation Envoyé par Sodium Voir le message
La pensée unique de nos sociétés dominées par les hommes blancs hétérosexuels tu veux dire ?
Peut être aussi qu'il commence à y avoir une pointe d'agacement, à se retrouver accusé d'être un oppresseur systémique privilégié qui s'ignore, ou que sais-je encore, par des gens qui ne savent rien de nous, qu'on ne connait pas plus, pour la malheureuse raison d'avoir une couleur de peau et une expression de genre qui ne leur convient pas.
6  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 17:06
Citation Envoyé par Sodium Voir le message
Tout simplement parce que dès l'enfance on encourage les filles à être sages et obéissantes alors que l'on se montre indulgents envers les garçons turbulents
Ha ? T'es rester bloqué en quelle année ? oO

Citation Envoyé par Sodium Voir le message
Le saviez-tu : La majorité des femmes autistes asperger ne sont jamais diagnostiquées tout simplement parce que le fait d'être timide est considéré comme normal quand on est du sexe féminin.
Si elle ne sont pas diagnostiquées, comment fait tu pour savoir qu'elle sont autistes asperger ?
De ce que j'en sais, si l'autisme chez les femmes est mal diagnostiquer c'est avant tout parce que la majorité des tests on été réaliser principalement à partir de sujet masculin. Hors les hommes et les femmes n'agissant pas de la même manière, les femmes passe plus facilement aux travers des tests que les hommes.
Sans oublier qu'une femme aura plus tendance qu'un homme à tenter de cacher ses troubles.

Ses tests on principalement été réaliser à partir de sujet masculin, par pour mettre la femme de coter mais parce qu'il à 3 à 4 fois plus d'autiste homme que d'autiste femme. De ce fait il est plus simple de trouver un sujet d'étude homme qu'un sujet d'étude femme.
Si en revanche l'idée est de dire qu'il faudrait mettre les bouchées double pour mieux identifier les signes de l'autisme chez les femmes, là nous somme d'accord.

PS : Au passage le syndrome d'asperger va bien au delà d'une timidité maladive.
5  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 11:14
Citation Envoyé par Sodium Voir le message
Et pourquoi y a-t-il moins de femmes dans l'informatique d'après toi ?
Moins d'intérêt pour l'informatique.
Moins encline à faire une reconversion professionnelle que les hommes.

Y'a des tas d'études diverse et varier qui traite du sujet, on peut refaire un débat ici sur se sujet.

L'apprentissage des base de l'informatique à l'école devrait permettre à plus de femme de ce sentir capable de faire de l'informatique et dans le même temps d'augmenter le nombre de femme dans ce domaine.
4  0 
Avatar de Neckara
Expert éminent sénior https://www.developpez.com
Le 22/05/2019 à 13:05
Sans aller à l'étranger, en France, par exemple, on parle du sexisme dans la recherche car il y a moins de femmes dans certains domaines en sciences dures.

Un chercheur invité a montré qu'en réalité, lors des recrutements, les profils féminins étaient favorisés, et recrutés plus facilement que leur collègues masculins. Il faut voir le backclash que ce pauvre chercheur a subit…

Car lorsqu'on n'a pas d'arguments scientifique à opposer, tout ce qui reste est la violence pour défendre sa religion.
4  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 14:23
Citation Envoyé par Sodium Voir le message
Je constate qu'il est totalement vain de discuter de ces sujets sur un forum constitué d'une immense majorité d'homme et que les stéréotypes les plus bas du front ressortent immédiatement
Blablabla, les hommes n'ont pas le droit de donner leur avis, les hommes sont méchant, je suis une victime...
J'aurai aimer que tu ai de vrais argument à opposer pour montrer que les femmes sont enfermées par les vilains hommes blanc.
Mais non, à la place c'est provocation inutile et zéro argument...
Bref, t'es un troll... Je ne vois pas d'autre possibilité...

Citation Envoyé par Fabrice.D Voir le message
J'ai l'impression qu'on s'oriente vers une politique des quotas à 50,000% de femmes dans tous les domaines professionnelles. Comme s'il n'était pas possible d'avoir des préférences liées au genre. Ce dont j'ai peur, c'est que cette mode du féminisme (dont le discours prône l'égalité des sexes mais dont les actions et militantismes mettent en place un matriarcat) expulse arbitrairement les hommes du débat.
Vue qu'il y à plus d'homme que de femme en France, il y aurait donc une inégalité dans le non emplois.
4  0 
Avatar de Fabrice.D
Membre du Club https://www.developpez.com
Le 22/05/2019 à 16:41
Citation Envoyé par Sodium Voir le message
Tout simplement parce que dès l'enfance on encourage les filles à être sages et obéissantes alors que l'on se montre indulgents envers les garçons turbulents
Je n'ai jamais remarqué que les filles se faisaient plus gronder quand elles étaient turbulentes. Au contraire, dans mes souvenirs, les turbulents étaient surtout des garçons. Les filles étaient plus calmes (ou discrètes) que les garçons.

Citation Envoyé par Sodium Voir le message

Le saviez-tu : La majorité des femmes autistes asperger ne sont jamais diagnostiquées tout simplement parce que le fait d'être timide est considéré comme normal quand on est du sexe féminin.
Très honnêtement je trouve ça simpliste. Ton raisonnement est correct si on suppose que les filles et garçons sont aussi timide l'un que l'autre indépendamment des constructions sociales. Or j'en doute. Les quantités et la nature des hormones varient entre les deux sexes.
4  0 
Avatar de Fabrice.D
Membre du Club https://www.developpez.com
Le 22/05/2019 à 17:44
Citation Envoyé par Sodium Voir le message
Il faut arrêter les "je n'ai jamais remarqué" qui sont déjà de bases complètement foireux chez les humains mais qui là sont de plus vus par le prisme de la masculinité. Pour les hommes blancs hétéros, le sexisme, le racisme et l'homophobie sont des comportements marginaux. Quand on s'intéresse aux chiffres par contre c'est tout le contraire.

Je pense que tu n'as juste pas compris.
J'attends tes chiffres sur les filles aussi turbulentes que les garçons.
Mais restreindre ma capacité d'ouverture à la présence de testicules entre mes jambes me semble assez réducteur.

Les constructions sociales expliquent des comportements donc tous les comportements sont causés par des constructions sociales ?

Citation Envoyé par Sodium Voir le message
Tu passes ton temps à confondre causes et conséquences, à chercher des raisons biologiques à des constructions sociales, constructions qui viennent aussi bien du conditionnement féminin que masculin (oui parce que pendant que la petite fille a appris que c'était normal que ça soit maman qui s'occupe des tâches ménagères, le garçon lui aussi a appris qu'il était normal que papa n'en foute pas une).
Non Sodium, c'est toi qui cherchent des causes sociologiques à toute forme d'inégalité. On dirait une obsession. Tu interprètes tout comportement à travers un prisme idéologique. Il faut te remettre en question et faire preuve d'ouverture d'esprit. Non, la sociologie n'explique pas tout.
4  0 
Avatar de Ryu2000
Membre extrêmement actif https://www.developpez.com
Le 22/05/2019 à 10:52
Citation Envoyé par Edrixal Voir le message
Le fait que la majorité des IA soit nommé avec des noms de femme n'est que la conséquence qu'une IA est un mot féminin.
Ben non, parce qu'en anglais "artificial intelligence" / "virtual assistant" ça n'a pas de genre.

C'est juste que les gens préfèrent être assisté par une voix féminine, il y a longtemps qu'on peut choisir la voix de son GPS et les gens préfèrent les voix féminine, c'est comme ça.
Mais au pire Apple peut faire 2 assistants avec chacun une voix et une personnalité, si ça peut calmer les 3 personnes qui voient de l'inégalité homme/femme partout.
3  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 11:34
Citation Envoyé par Sodium Voir le message
Quelques éléments plus justes

- Moins d'encouragement des petites filles à être créatives, avoir de l'ambition
- Orientation des filles vers des métiers d'assistance plutôt que vers des sciences à l'école
- Machisme ambiant et généralisé qui fout une ambiance de merde dans les filières telles que l'informatique et qui en décourage probablement plus d'une
Mais tout à fait...
- L'un des domaines informatique ou les femmes sont le plus présentes est justement le milieux créatif. D'ailleurs d'une manière général les métiers créatif sont bien représenter par les femmes, sauf peut être à la réalisation dans le milieux du ciné.
- Là encore, pour avoir fait une filière scientifique ce n'est pas ce que j'ai observer de la seconde à la terminal autant de fille que de mec. A partir du BTS, 4 mec pour 15 filles, à la fin 2 mec pour 12 filles. Au passage les personnes aillant tendance à faire de longue étude sont plutôt des femmes que des hommes...
- Ha ? Sa fait un petit moment pourtant que les boites d'informatique organise des séances de recrutement spécial femme, que centre de formation organise des séances découverte spécial femme, ect... Tout est fait pour pousser les femmes à faire de l'informatique au contraire. Et au cours de mes recherches d'emplois je suis souvent tomber sur des boites qui disais vouloir atteindre le 50/50 dans leur quota. Donc vue le déficit de femme dans le domaine, du taff pour les femmes y'en largement de disponible.
3  0 
Avatar de Edrixal
Membre éclairé https://www.developpez.com
Le 22/05/2019 à 11:45
Citation Envoyé par Sodium Voir le message
Je t'arrête tout de suite, ce que tu as observé ou cru observer ne compte pas car tu n'es pas une femme. On vit hélas dans une société ou une grande majorité d'actes ou de propos sexistes sont toujours considérés comme neutres par les hommes.
C'est cool de résumer tout un commentaire à ça...
D'autant plus que c'est un fait... Le ratio homme/femme dans une salle de classe n'est pas soumis à interprétation... Et la phrase qui viens après parle d'études qui sont clair à ce sujet également...

J'en viens à me demander pourquoi tu me pose la question au début pour finir par répondre "t'es un homme donc tu n'a pas à donner ton avis !".

C'est toujours aussi plaisant et utile de débattre avec toi...
3  0