Les chercheurs de l'Université de Washington (UW) ont constaté que ChatGPT classait systématiquement les CV comportant des distinctions et des diplômes liés au handicap, tels que le "Tom Wilson Disability Leadership Award", à un niveau inférieur à celui des mêmes CV ne comportant pas ces distinctions et diplômes. Mais lorsque les chercheurs ont personnalisé l'outil en lui donnant des instructions écrites pour qu'il ne soit pas capacitif, l'outil a réduit ce biais pour tous les handicaps testés sauf un.Basé sur de grands modèles de langage (LLM), ChatGPT est un chatbot d'intelligence artificielle (IA) et un assistant virtuel développé par OpenAI. Bien que la fonction principale d'un chatbot soit d'imiter un interlocuteur humain, ChatGPT est polyvalent. Il peut écrire et déboguer des programmes informatiques, répondre à des questions de test, générer des idées commerciales, traduire et résumer des textes, etc.
Mais ChatGPT a été accusé d'adopter des comportements biaisés ou discriminatoires, comme raconter des blagues sur les hommes et les personnes originaires d'Angleterre tout en refusant de raconter des blagues sur les femmes et les personnes originaires d'Inde, ou faire l'éloge de personnalités telles que Joe Biden tout en refusant de faire la même chose pour Donald Trump.
Dans une nouvelle étude, les chercheurs de l'Université du Wisconsin ont constaté que ChatGPT classait systématiquement les CV comportant des mentions et des diplômes liés au handicap, tels que le "Tom Wilson Disability Leadership Award", à un niveau inférieur à celui des mêmes CV ne comportant pas ces mentions et diplômes.
Lorsqu'on lui a demandé d'expliquer ces classements, le système a craché des perceptions biaisées des personnes handicapées. Par exemple, il a affirmé qu'un CV comportant un prix de leadership pour les autistes mettait "moins l'accent sur les rôles de leadership", ce qui implique le stéréotype selon lequel les autistes ne sont pas de bons leaders.
Mais lorsque les chercheurs ont personnalisé l'outil en lui donnant des instructions écrites lui enjoignant de ne pas être capacitif, l'outil a réduit ce biais pour tous les handicaps testés, sauf un. Cinq des six handicaps implicites - surdité, cécité, infirmité motrice cérébrale, autisme et le terme général de "handicap" - se sont améliorés, mais seuls trois d'entre eux ont obtenu un meilleur classement que les CV qui ne mentionnaient pas le handicap.
Identifier et améliorer les biais liés au handicap dans la présélection de CV basée sur ChatGPT
Alors qu'elle cherchait des stages de recherche, Kate Glazko, étudiante diplômée de l'université de Washington, a remarqué que les recruteurs affichaient en ligne qu'ils avaient utilisé ChatGPT d'OpenAI et d'autres outils d'intelligence artificielle pour résumer les CV et classer les candidats. L'automatisation de la sélection est monnaie courante dans le domaine de l'embauche depuis des dizaines d'années.
Pourtant, Mme Glazko, doctorante à la Paul G. Allen School of Computer Science & Engineering de l'université de Washington, étudie la manière dont l'intelligence artificielle générative peut reproduire et amplifier les préjugés du monde réel, tels que ceux à l'encontre des personnes handicapées. Elle s'est demandé comment un tel système pourrait classer les CV qui laissent entendre qu'une personne est handicapée.
"Le classement des CV à l'aide de l'IA commence à proliférer, mais il n'y a pas beaucoup de recherches sur la sécurité et l'efficacité de cette méthode", a déclaré M. Glazko, l'auteur principal de l'étude. "Pour un demandeur d'emploi handicapé, il y a toujours cette question lorsque vous soumettez un CV, à savoir s'il faut inclure des références sur le handicap. Je pense que les personnes handicapées y réfléchissent même lorsque ce sont des humains qui examinent les candidatures".
Les chercheurs ont utilisé le curriculum vitae (CV) public de l'un des auteurs de l'étude, qui comptait une dizaine de pages. L'équipe a ensuite créé six CV améliorés, chacun impliquant un handicap différent en incluant quatre références liées au handicap : une bourse d'études, un prix, un siège au sein d'un panel sur la diversité, l'équité et l'inclusion (DEI) et l'appartenance à une organisation étudiante.
[CENTER]
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
