Les retombées sur la gestion par Google de son équipe de recherche sur l'éthique de l'IA se poursuivent alors que la Conférence de l'ACM FAccT pour l'équité, la responsabilité et la transparence a suspendu le parrainage de la société. La Conférence de l'ACM FAccT a décidé de suspendre sa relation de parrainage avec Google. C’est ce qu’ a confirmé Michael Ekstrand, coprésident du parrainage de la conférence et professeur adjoint de l'Université d'État de Boise. Les organisateurs de la conférence de recherche sur l'éthique de l'IA sont parvenus à cette décision un peu plus d'une semaine après le licenciement par Google de la responsable de l'IA éthique, Margaret Mitchell et trois mois après le licenciement du coresponsable de l'IA éthique, Timnit Gebru. Google a par la suite réorganisé une centaine d'ingénieurs répartis dans 10 équipes, en plaçant notamment l'IA éthique sous la direction de Marian Croak, vice-présidente de Google.Google a fait la une des journaux lorsque l’entreprise a licencié les coresponsables de son équipe d'IA éthique, le Dr Timnit Gebru et Margaret Mitchell. Le licenciement de Gebru, que Google a qualifié de "démission", était le résultat de ce qui a été qualifié de censure de la recherche d'un article dont Gebru était le coauteur. Mitchell aurait été licenciée pour avoir tenté de trouver des exemples des mauvais traitements subis par Gebru. L'entreprise a été largement critiquée, tant par les employés que par des personnes extérieures. Les ingénieurs ont démissionné en signe de protestation, et la manière dont Google a géré son équipe d'éthique de l'IA a été l'un des problèmes spécifiquement mis en avant par les employés lors de la création de l'Alphabet Workers Union. Les tentatives de l'entreprise pour apaiser la situation ont été jugées peu convaincantes et généralement loin d'être suffisantes pour réparer les dégâts.
La conférence de l'ACM FAccT a maintenant suspendu le parrainage de Google, la nouvelle est d'abord apparue via un tweet de Suresh Venkatasubramanian, membre du comité du programme FaccT. Michael Ekstrand, coprésident du parrainage de la conférence et professeur adjoint de l'université d'État de Boise, a donné plus de détails : « FAccT est guidé par un plan stratégique, et le règlement de la conférence charge les présidents de parrainage, en collaboration avec le comité exécutif, de développer un portefeuille de parrainage qui s'aligne sur ce plan... Le Comité exécutif a pris la décision que le fait d'avoir Google comme sponsor pour la conférence de 2021 ne serait pas dans l'intérêt de la communauté et entraverait le Plan stratégique. Nous allons revoir la politique de parrainage pour la conférence de l'année prochaine ».
L'interruption du parrainage de Google ne signifie pas la fin du parrainage des entreprises de haute technologie, ni même de Google lui-même. DeepMind, un autre sponsor de la conférence FAccT qui a suscité une controverse sur l'éthique de l'IA en janvier, est également une entreprise de Google. Depuis sa fondation en 2018, FAccT a cherché à obtenir des fonds auprès de sponsors de Big Tech comme Google et Microsoft, ainsi qu'auprès de la Fondation Ford et de la Fondation MacArthur. Une analyse publiée l'année dernière, qui compare le financement de la recherche éthique sur l'IA par les grandes entreprises technologiques à l'histoire du financement de la recherche en santé par les grandes entreprises de tabac, a révélé que près de 60 % des chercheurs de quatre universités importantes ont reçu de l'argent de grandes entreprises technologiques.
Après le licenciement de Gebru, les employés de Google ont protesté contre ce qu'ils ont appelé un acte de "censure de la recherche sans précédent". La semaine dernière, il a été fait état d'un cas distinct d'interférence présumée dans la recherche sur l'IA au sein de l'entreprise, un coauteur de l'article de recherche citant des modifications "profondément insidieuses" de l'équipe juridique de Google.
Sources : ACM FAccT Strategic Plan, Twitter
Et vous ?
Qu’en pensez-vous ?Voir aussi :
Le chef de Google, Sundar Pichai, s'excuse pour le licenciement d'une chercheuse en éthique de l'IA et s'engage à enquêter sur son départ de l'entreprise Plus de 1000 employés de Google signent une lettre pour demander des comptes à l'entreprise au sujet du « licenciement » subit de leur collègue Timnit Gebru, une chercheuse de haut niveau en IA La deuxième responsable de l'équipe de recherche en IA éthique de Google a été licenciée, au milieu des protestations du personnel par rapport au licenciement de Timnit Gebru en décembre IA : un guide éthique en développement chez Google pour répondre aux protestations contre la participation de l'entreprise à un projet du Pentagone