L’effervescence au sein de Google suite au licenciement d’une chercheuse en éthique de l’intelligence artificielle de premier plan a conduit mercredi à des excuses de Google. Sundar Pichai, directeur général de la société mère de Google, Alphabet, a présenté ses excuses pour le départ de Timnit Gebru, dont le départ a fait saliver les effectifs de la société, et a soulevé des questions sur son engagement déclaré en faveur de la diversité et du développement responsable de la technologie d'IA. Il a également déclaré qu'il enquêterait sur les événements et travaillerait à rétablir la confiance, selon un mémo interne envoyé à toute l'entreprise et lu par le New York Times.Timnit Gebru a quitté Google la semaine dernière dans ce que l'entreprise a qualifié de démission, mais Gebru dit que c'était un licenciement. Gebru, qui a aidé à diriger l'équipe d'intelligence artificielle éthique de Google, a déclaré qu'elle avait été licenciée après avoir eu un différend au sujet d'un document de recherche et avoir envoyé une note aux autres employés de Google critiquant la société pour son traitement des personnes de couleur et des femmes, notamment lors de l'embauche.
Google avait refusé d'autoriser Gebru et d'autres chercheurs de Google à joindre leur nom ou celui de la société à un document d'éthique sur l'IA qui avait été accepté pour publication. L’article en question aborde les problèmes éthiques soulevés par les progrès récents des technologies IA qui fonctionnent avec le langage, recherche très importante pour l’avenir de Google. Dans le document qui devait être publié, les chercheurs ont montré que la création de ces modèles IA plus puissants consomme de grandes quantités d'électricité en raison des vastes ressources informatiques requises. Ils ont également expliqué comment les modèles peuvent reproduire un langage biaisé en s’appuyant sur les données en ligne sur la race ou le sexe.
En réponse au refus de Google, Gebru a envoyé à ses supérieurs un e-mail en déclarant qu'à défaut d'une explication transparente ou d'une discussion plus approfondie, elle démissionnerait après un délai approprié. Elle a dit qu’elle établirait un calendrier pour son départ de Google avec un minimum de perturbations pour son équipe. Au lieu de cela, Google a brusquement déclaré qu'il « acceptait sa démission » et lui a coupé l'accès à son courrier électronique interne.
Le départ de Gebru a provoqué la colère et la consternation au sein de Google ainsi que dans les cercles universitaires, des milliers de personnes ayant signé une lettre ouverte demandant à Google de revoir ses pratiques. Ses collègues se sont ralliés à la défense de Mme Gebru, affirmant que Google ne l'avait pas traitée équitablement et que cet incident était un exemple de la façon dont les employés noirs sont souvent maltraités dans l'entreprise.
« J'ai entendu la réaction au départ du Dr Gebru haut et fort : il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un courriel consulté par le New York Times. Axios a été le premier publié un reportage sur ce courriel.
« Nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux », a-t-il ajouté. « Nous allons commencer un examen de ce qui s'est passé pour identifier tous les points où nous pouvons apprendre ».
Bien que la note de service de Pichai ait un ton contrit, on ne sait pas jusqu'où elle ira pour remédier au bouleversement important dans les rangs de Google, en particulier parmi ceux qui sont concernés par ses engagements en faveur de la diversité et de la liberté académique.
Un départ qui implique des inquiétudes liées aux conséquences dangereuses de la technologie de l'intelligence artificielle
Dans son courriel adressé aux employés mercredi, Sundar Pichai, cependant, n'a pas dit que l'entreprise s'est trompée en accélérant la démission de Timnit Gebru, qui était codirigeante de l'équipe de l'éthique d'IA et l'une de ses employées noires les plus connues. Toutefois, le licenciement de Gebru est particulièrement pénible pour Google, car elle implique deux sujets épineux pour l'entreprise : un manque de diversité dans sa main-d'œuvre et des inquiétudes quant aux conséquences dangereuses de la technologie de l'intelligence artificielle.
Dr Gebru, qui a rejoint la société l'année dernière en provenance de Stanford, a souligné l'importance des efforts de la société pour embaucher et retenir davantage de femmes ainsi que des employés noirs, qui représentent actuellement moins de 2 % de la main-d'œuvre de la société. En outre, ses recherches visant à examiner les implications à long terme de l'intelligence artificielle l'ont mise en désaccord avec les objectifs stratégiques de l'entreprise qui consiste à dépendre de l'intelligence artificielle comme technologie de pointe pour améliorer la plupart, sinon la totalité, de ses produits, selon le New York Times.
Sur Twitter, Gebru a déclaré que le courriel de M. Pichai n'était pas une véritable excuse. « Je ne vois pas de plan pour la responsabilité et il y a eu un éclairage supplémentaire dans la déclaration », a-t-elle déclaré dans un tweet, ajoutant dans un autre tweet que la note « ne dit pas "je suis désolée pour ce que nous lui avons fait et c'était mal" ... Je vois cela comme "je suis désolée de la façon dont cela s'est passé, mais je ne suis pas encore désolée de ce que nous lui avons fait" ».
La semaine dernière, environ 2000 employés de Google ont signé une pétition pour protester contre son licenciement de l'entreprise et demander que les dirigeants de son organisme de recherche soient plus transparents sur les circonstances du départ de Gebru. Lundi, des membres de l'équipe d'éthique de Google ont publié un article contestant certaines des déclarations de l'entreprise concernant son départ, notamment l'affirmation de l'entreprise selon laquelle elle a démissionné et n'a pas été licenciée.
Jeff Dean, l'un des plus hauts dirigeants de Google qui supervise la branche recherche en IA de l'entreprise, a rencontré un groupe d'employés mardi pour expliquer ce qui s'est passé avec le Dr Gebru, mais beaucoup ont quitté la réunion encore plus bouleversés, a rapporté le New York Times.
Jack Clark, directeur des politiques chez OpenAI, a dit dans une déclaration : « Je reste généralement en dehors de ce genre de choses, mais je suis absolument choqué par ce courriel. Il utilise la pire forme d'écriture d'entreprise pour présenter le licenciement (de Gebru) comme quelque chose qui ressemble à un événement météorologique - quelque chose qui vient de se produire. Mais ce sont de vraies personnes qui ont fait cela, et elles se cachent ».
Voici, ci-dessous, le courriel complet envoyé par le PDG de Google aux Googlers mercredi :
Sujet : Engagement dans notre travail sur l'équité raciale et l'éthique de l'IA
Bonjour à tous,
L'une des choses dont je suis le plus fier cette année est la façon dont les Googlers de toute l'entreprise se sont réunis pour répondre à nos engagements en matière d'équité raciale. C'est un travail difficile et important, et bien que nous soyons fermement résolus à faire mieux, nous avons beaucoup à apprendre et à nous améliorer. Un élément important de cette démarche consiste à tirer les leçons de nos expériences, comme le départ du Dr Timnit Gebru.
J'ai entendu la réaction au départ du Dr Gebru haut et fort : elle a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien j'en suis désolé, et j'accepte la responsabilité de travailler à rétablir votre confiance.
Tout d'abord, nous devons évaluer les circonstances qui ont conduit au départ du Dr Gebru, en examinant les points que nous aurions pu améliorer et mener un processus plus respectueux. Nous allons commencer à examiner ce qui s'est passé pour identifier tous les points où nous pouvons apprendre - en considérant tout, des stratégies de désescalade aux nouveaux processus que nous pouvons mettre en place. Jeff et moi avons discuté et nous sommes pleinement engagés à le faire. L'un des meilleurs aspects de la culture d'ingénierie de Google est notre désir sincère de comprendre où les choses vont mal et comment nous pouvons nous améliorer.
Deuxièmement - nous devons accepter la responsabilité du fait qu'une éminente dirigeante noire, femme de talent, a quitté Google avec regret. Cette perte a eu un effet d'entraînement sur certaines de nos communautés les moins représentées, qui se sont vues refléter, ainsi que certaines de leurs expériences à travers Dr Gebru. Cette perte a également été ressentie avec acuité, car Dr Gebru est un expert dans un domaine important de l'éthique de l'IA sur lequel nous devons continuer à progresser - progrès qui dépend de notre capacité à nous poser des questions stimulantes.
Il est incroyablement important pour moi que nos Googlers noirs, femmes et sous-représentés sachent que nous vous apprécions et que vous avez votre place chez Google. Et le fardeau de nous pousser à faire mieux ne doit pas vous retomber sur les épaules. Nous avons entamé une conversation ensemble au début de cette année lorsque nous avons annoncé un vaste ensemble d'engagements en matière d'équité raciale afin de jeter un regard neuf sur tous nos systèmes, de l'embauche et du nivellement, à la promotion et au maintien en poste, et de répondre au besoin de responsabilisation des dirigeants à toutes ces étapes. Les événements de la semaine dernière sont un rappel douloureux, mais important des progrès qu'il nous reste à faire.
Il s'agit d'une priorité absolue pour moi et pour les dirigeants de Google, et je veux m'engager à nouveau à traduire l'énergie que nous avons constatée cette année en changements réels à l'approche de 2021 et au-delà.
-- Sundar
Source : Mémo du PGD de Google
Et vous ?
Quel est votre commentaire concernant le mémo de Sundar Pichai pour s’excuser pour le licenciement de Timnit Gebru de Google ? Que vous inspire ce remous dans l'équipe de l'éthique de l'IA de Google ?Voir aussi :
Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise, au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA IA : un guide éthique en développement chez Google, pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone Google décide d'offrir son aide pour la gestion des aspects controversés en matière d'éthique de l'intelligence artificielle via un service dédié que l'entreprise entend lancer avant la fin d'année Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires 
