L’effervescence au sein de Google suite au licenciement d’une chercheuse en éthique de l’intelligence artificielle de premier plan a conduit mercredi à des excuses de Google. Sundar Pichai, directeur général de la société mère de Google, Alphabet, a présenté ses excuses pour le départ de Timnit Gebru, dont le départ a fait saliver les effectifs de la société, et a soulevé des questions sur son engagement déclaré en faveur de la diversité et du développement responsable de la technologie d'IA. Il a également déclaré qu'il enquêterait sur les événements et travaillerait à rétablir la confiance, selon un mémo interne envoyé à toute l'entreprise et lu par le New York Times.Timnit Gebru a quitté Google la semaine dernière dans ce que l'entreprise a qualifié de démission, mais Gebru dit que c'était un licenciement. Gebru, qui a aidé à diriger l'équipe d'intelligence artificielle éthique de Google, a déclaré qu'elle avait été licenciée après avoir eu un différend au sujet d'un document de recherche et avoir envoyé une note aux autres employés de Google critiquant la société pour son traitement des personnes de couleur et des femmes, notamment lors de l'embauche.
Google avait refusé d'autoriser Gebru et d'autres chercheurs de Google à joindre leur nom ou celui de la société à un document d'éthique sur l'IA qui avait été accepté pour publication. L’article en question aborde les problèmes éthiques soulevés par les progrès récents des technologies IA qui fonctionnent avec le langage, recherche très importante pour l’avenir de Google. Dans le document qui devait être publié, les chercheurs ont montré que la création de ces modèles IA plus puissants consomme de grandes quantités d'électricité en raison des vastes ressources informatiques requises. Ils ont également expliqué comment les modèles peuvent reproduire un langage biaisé en s’appuyant sur les données en ligne sur la race ou le sexe.
En réponse au refus de Google, Gebru a envoyé à ses supérieurs un e-mail en déclarant qu'à défaut d'une explication transparente ou d'une discussion plus approfondie, elle démissionnerait après un délai approprié. Elle a dit qu’elle établirait un calendrier pour son départ de Google avec un minimum de perturbations pour son équipe. Au lieu de cela, Google a brusquement déclaré qu'il « acceptait sa démission » et lui a coupé l'accès à son courrier électronique interne.
Le départ de Gebru a provoqué la colère et la consternation au sein de Google ainsi que dans les cercles universitaires, des milliers de personnes ayant signé une lettre ouverte demandant à Google de revoir ses pratiques. Ses collègues se sont ralliés à la défense de Mme Gebru, affirmant que Google ne l'avait pas traitée équitablement et que cet incident était un exemple de la façon dont les employés noirs sont souvent maltraités dans l'entreprise.
« J'ai entendu la réaction au départ du Dr Gebru haut et fort : il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un courriel consulté par le New York Times. Axios a été le premier publié un reportage sur ce courriel.
« Nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux », a-t-il ajouté. « Nous allons commencer un examen de ce qui s'est passé pour identifier tous les points où nous pouvons apprendre ».
Bien que la note de service de Pichai ait un ton contrit, on ne sait pas jusqu'où elle ira pour remédier au bouleversement important dans les rangs de Google, en particulier parmi ceux qui sont concernés par ses engagements en faveur de la diversité et de la liberté académique.
Un départ qui implique des inquiétudes liées aux conséquences dangereuses de la technologie de l'intelligence artificielle
Dans son courriel adressé aux employés mercredi, Sundar Pichai, cependant, n'a pas dit que l'entreprise s'est trompée en accélérant la démission de Timnit Gebru, qui était codirigeante de l'équipe de l'éthique d'IA et l'une de ses employées noires les plus connues. Toutefois, le licenciement de Gebru est particulièrement pénible pour Google, car elle implique deux sujets épineux pour l'entreprise : un manque de diversité dans sa main-d'œuvre et des inquiétudes quant aux conséquences dangereuses de la technologie de l'intelligence artificielle.
Dr Gebru, qui a rejoint la société l'année dernière en provenance de Stanford, a souligné l'importance des efforts de la société pour embaucher et retenir davantage de femmes ainsi que des employés noirs, qui représentent actuellement moins de 2 % de la main-d'œuvre de la société. En outre, ses recherches visant à examiner les implications à long terme de l'intelligence artificielle l'ont mise en désaccord avec les objectifs stratégiques de l'entreprise qui consiste à dépendre de l'intelligence artificielle comme technologie de pointe pour améliorer la plupart, sinon la totalité, de ses produits, selon le New York Times.
Sur Twitter, Gebru a déclaré que le courriel de M. Pichai n'était pas une véritable excuse. « Je ne vois pas de plan pour la responsabilité et il y a eu un éclairage supplémentaire dans la déclaration », a-t-elle déclaré dans un tweet, ajoutant dans un autre tweet que la note « ne dit pas "je suis désolée pour ce que nous lui avons fait et c'était mal" ... Je vois cela comme "je suis désolée de la façon dont cela s'est passé, mais je ne suis pas encore désolée de ce que nous lui avons fait" ».
La semaine dernière, environ 2000 employés de Google ont signé une pétition pour protester contre son licenciement de l'entreprise et demander que les dirigeants de son organisme de recherche soient plus transparents sur les circonstances du départ de Gebru. Lundi, des membres de l'équipe d'éthique de Google ont publié un article contestant certaines des déclarations de l'entreprise concernant son départ, notamment l'affirmation de l'entreprise selon laquelle elle a démissionné et n'a pas été licenciée.
Jeff Dean, l'un des plus hauts dirigeants de Google qui supervise la branche recherche en IA de l'entreprise, a rencontré un groupe d'employés mardi pour expliquer ce qui s'est passé avec le Dr Gebru, mais beaucoup ont quitté la réunion encore plus bouleversés, a rapporté le New York Times.
Jack Clark, directeur des politiques chez OpenAI, a dit dans une déclaration : « Je reste généralement en dehors de ce genre de choses, mais je suis absolument choqué par ce courriel. Il utilise la pire forme d'écriture d'entreprise pour présenter le licenciement (de Gebru) comme quelque chose qui ressemble à un événement météorologique - quelque chose qui vient de se produire. Mais ce sont de vraies personnes qui ont fait cela, et elles se cachent ».
Voici, ci-dessous, le courriel complet envoyé par le PDG de Google aux Googlers mercredi :
[I]Sujet : Engagement dans notre travail sur l'équité raciale et l'éthique de l'IA
Bonjour à tous,
L'une des choses dont je suis le plus fier cette année est la façon dont les Googlers de toute l'entreprise se sont réunis pour répondre à nos engagements en matière d'équité raciale. C'est un travail difficile et important, et bien que nous soyons fermement résolus à faire mieux, nous avons beaucoup à apprendre et à nous améliorer. Un élément important de cette démarche consiste à tirer les leçons de nos expériences, comme le départ du Dr Timnit Gebru.
J'ai entendu la réaction au départ du Dr Gebru haut et fort : elle a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien j'en suis désolé, et j'accepte la responsabilité de travailler à rétablir votre confiance.
Tout d'abord, nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux. Nous allons commencer à examiner ce qui s'est passé pour identifier tous les points où nous pouvons apprendre - en considérant tout, des stratégies de désescalade aux nouveaux processus que nous pouvons mettre...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
