Après le licenciement l'année dernière de Timnit Gebru, première responsable de l'équipe de recherche en IA éthique (Ethical AI – une équipe qui se charge de rechercher et d'éliminer les biais dans les algorithmes d'intelligence artificielle et d'orienter le développement dans le bon sens), Google se sépare maintenant d'une autre figure importante de cette équipe. Vendredi, Alphabet Inc., la maison mère de Google, a licencié la scientifique Margaret Mitchell, un geste qui a eu pour effet d'attiser les divisions sur la liberté académique et la diversité qui étaient apparues au sein de l'entreprise depuis le licenciement en décembre Timnit Gebru.Tension entre Google et ses employés à propos de la notion de diversité
Margaret Mitchell, coresponsable de l'équipe d'IA éthique de Google, a été licenciée en fin de semaine dernière, environ trois mois après que sa collègue Timnit Gebru a subi le même sort. Pourquoi ? La chercheuse se serait servie d'un script ou d'un logiciel automatisé pour parcourir ses e-mails dans l'espoir de trouver des preuves de discrimination contre son collègue Timnit Gebru. En effet, les sources sur le sujet indiquent qu'à la suite du licenciement de Timnit Gebru, Mitchell a fait l'objet d'une enquête de la part de Google pour son traitement des données de l'entreprise.
Après le départ de Gebru, Mitchell a ouvertement critiqué les dirigeants de Google, notamment le chef de la division IA de Google, Jeff Dean, et le PDG de l'entreprise, Sundar Pichai. En janvier, elle a perdu son accès à la messagerie électronique de la société après que Google a commencé à enquêter sur son activité, elle aurait été exclue de son compte d'entreprise pendant environ cinq semaines, ce qui l'a amené à agir de la sorte. Ainsi, à la suite des conclusions de l'enquête, la firme de Mountain View a jugé bon de se séparer de Mitchell. Google a confirmé son départ dans un communiqué.
« Après avoir examiné le comportement de ce directeur, nous avons confirmé qu'il y avait de multiples violations de notre code de conduite, ainsi que de nos politiques de sécurité, qui comprenaient l'exfiltration de documents confidentiels sensibles et de données privées d'autres employés », a déclaré une porte-parole. Outre Mitchell, toute l'équipe de Google chargée des problèmes éthiques de l'IA a fait l'objet d'un examen minutieux depuis le licenciement de Gebru, une scientifique qui s'est fait connaître pour avoir mis en évidence des préjugés dans les systèmes d'analyse faciale.
Le licenciement a incité des milliers de travailleurs de Google à protester. Mitchell et elle-même avaient appelé à une plus grande diversité et à une plus grande inclusion parmi le personnel de recherche de Google et avaient exprimé leur inquiétude quant au fait que la société commençait à censurer les articles critiquant ses produits. Après son départ, Gebru a déclaré que Google l'avait licenciée après qu'elle eut remis en question un ordre de ne pas publier une étude affirmant que l'IA imite un langage qui pourrait nuire aux populations marginalisées.
Mitchell, coauteure du document, s'est indignée du renvoi de sa collègue, raison pour laquelle elle a publiquement critiqué l'entreprise pour avoir licencié Gebru et miné la crédibilité de son travail. Par ailleurs, Alex Hanna, une autre chercheuse de l'équipe Ethical AI, a déclaré sur Twitter que l'entreprise menait une "campagne de diffamation" contre Mitchell et Gebru, avec qui elle travaillait étroitement. Google a toutefois refusé de commenter les propos de Hanna.
La gestion de crise de Google et les changements annoncés par la société
L'équipe de recherche en éthique de l'IA de Google est en crise depuis le licenciement de Gebru en décembre dernier. Son départ a provoqué la colère et la consternation au sein de Google ainsi que dans les cercles universitaires, des milliers de personnes ayant signé une lettre ouverte demandant à Google de revoir ses pratiques. Ses collègues, en particulier Mitchell, se sont ralliés à sa défense, affirmant que Google ne l'avait pas traitée équitablement et que cet incident était un exemple de la façon dont les employés noirs sont souvent maltraités dans l'entreprise, notamment celles de la trempe de Google.
Sundar Pichai a présenté publiquement des excuses à Gebru, aux employés de l'entreprise ainsi qu'à la communauté tout entière, mais cela n'a pas suffi à apaiser les tensions. « J'ai entendu la réaction au départ du Dr Gebru haut et fort : il a semé le doute et a conduit certains membres de notre communauté à remettre en question leur place chez Google. Je tiens à vous dire combien je suis désolé pour cela, et j'accepte la responsabilité de travailler à rétablir votre confiance », a écrit Pichai dans un mémo à la suite du licenciement de Gebru.
Selon cette dernière, le mémo de Pichai n'était pas une véritable excuse. « Je ne vois pas de plan pour la responsabilité et il y a eu un éclairage supplémentaire dans la déclaration », a-t-elle déclaré dans un tweet, ajoutant dans un autre tweet que la note « ne dit pas "je suis désolée pour ce que nous lui avons fait et c'était mal". Je vois cela comme "je suis désolée de la façon dont cela s'est passé, mais je ne suis pas encore désolée de ce que nous lui avons fait" ». Vendredi, Google a annoncé qu'il apportait des changements à ses politiques de recherche et de diversité.
Marian Croak, vice-présidente de l'organisation d'ingénierie, dirigera désormais "un nouveau centre d'expertise sur l'IA responsable au sein de Google Research". Après l'annonce de la réorganisation vendredi, Alex Hanna a écrit que l'équipe n'était pas au courant de la nomination de Croak jusqu'à ce que la nouvelle soit rendue publique mercredi soir. « On nous a dit de faire confiance au processus, de faire confiance à des décideurs comme Marian Croak pour veiller à nos intérêts. Mais ces décisions ont été prises dans notre dos », a-t-elle déclaré sur Twitter.
De son côté, Gebru s'est également indignée de cette annonce. « J'écris un e-mail pour demander des choses, je suis virée, puis après une enquête de 3 mois, ils disent qu'ils devraient probablement faire certaines des choses que j'ai probablement été virée en demandant, sans tenir personne responsable de leurs actions », a écrit Gebru sur Twitter. Dans un autre tweet, elle a ajouté : « Il y a une responsabilité ZÉRO. ZÉRO ».
Sources : Margaret Mitchell, Dr. Alex Hanna, Timnit Gebru
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi
Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA et s'engage à enquêter sur son départ de l'entreprise Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA IA : un guide éthique en développement chez Google pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone Google promet de ne pas utiliser l'IA pour le développement d'armes, mais informe qu'il va continuer à coopérer avec les militaires 
