Nvidia apparaît aujourd'hui comme l'un des plus grands gagnants de la course à l'IA grâce notamment à la demande importante de ses puces d'IA. Mais l'entreprise est critiquée par d'anciens employés pour l'absence d'une initiative concrète visant à répondre aux préoccupations en matière de diversité et de partialité dans le domaine de la technologie de l'IA. Ces employés s'en prennent notamment au PDG de Nvidia, Jensen Huang, qui, selon eux, n'accorderait que peu d'importance à la question. Nvidia conteste ces allégations. Certains critiques affirment que les menaces de l'IA concernent tous les groupes d'individus, mais que chaque groupe est affecté différemment.Nvidia domine actuellement le marché des accélérateurs d'IA et les actions du fabricant américain de puces ont explosé au cours des dernières années. La situation est telle que ce succès pourrait se transformer en un cauchemar pour l'entreprise. Selon un récent rapport, les employés de Nvidia sont soudainement si riches et heureux que l'entreprise doit faire face à un problème de semi-retraite. Les employés millionnaires sont de moins en moins motivés à travailler dur. Ce succès financier du personnel de Nvidia aurait également créé des tensions internes. Tout ceci constitue une menace pour Nvidia à moment où la concurrence devient plus féroce.
Un autre rapport publié par Bloomberg expose les divisions au sein de Nvidia sur les menaces de l'IA pour les minorités, notamment les préjugés raciaux et d'autres biais des algorithmes d'IA. Les anciens présidents du groupe des employés noirs de l'entreprise, Masheika Allgood et Alexander Tsado, se sont plaints de la légèreté avec laquelle leur employeur traite ces préoccupations. Selon le rapport, ils ont quitté une réunion avec le PDG de Nvidia, Jensen Huang, avec le sentiment de ne pas avoir été entendus. Dans leurs témoignages, ils ont affirmé avoir été frustrés par cela et ont remis en cause la gestion par Huang des risques liés à l'IA.
Allgood et Tsado auraient travaillé avec des collègues de toute l'entreprise pour élaborer une présentation soulignant les dangers potentiels de l'IA et la nécessité d'une surveillance réglementaire accrue. Le duo aurait notamment mis en évidence les biais des technologies de reconnaissance faciale utilisées dans les voitures autonomes. Malheureusement, ils ont eu l'impression que Huang n'avait pas écouté leurs préoccupations et n'avait pas donné la priorité à la prise en compte des biais potentiels qui pourraient mettre en danger les groupes sous-représentés. En conséquence, Allgood et Tsado ont quitté l'entreprise peu de temps après la réunion.
Allgood et Tsado ont expliqué que leur objectif était de trouver un moyen d'affronter de front les conséquences involontaires potentiellement dangereuses de l'IA - des ramifications qui seraient probablement d'abord ressenties par les communautés marginalisées. « Je suis un membre des communautés sous-représentées, et il n'y a donc rien de plus important pour moi que cela. Nous construisons ces outils, je les regarde et je me dis que cela ne va pas fonctionner pour moi parce que je suis noir », a déclaré Tsado. Allgood, quant à elle, a déclaré que la réunion avec Huang représentait les 45 minutes les plus dévastatrices de sa vie professionnelle.
Le rapport allègue que Nvidia est l'une des plus mauvaises entreprises technologiques en ce qui concerne la représentation des Noirs et des Hispaniques au sein de son personnel. Le fabricant de puces a été critiqué pour son incapacité à prendre en compte les personnes de couleur dans ses produits d'IA générative. Sur un échantillon de 88 entreprises du S&P 100, une seule est moins bien classée que Nvidia sur la base de leur pourcentage d'employés noirs et hispaniques en 2021. Et parmi les cinq entreprises les moins bien classées pour leur pourcentage d'employés noirs, quatre sont des fabricants de puces : AMD, Broadcom, Qualcomm et Nvidia.
Même au regard des normes technologiques, le secteur est depuis longtemps critiqué pour son manque de diversité. Au cours de la réunion, Allgood se souvient que le PDG a déclaré que la diversité de l'entreprise garantirait l'éthique de ses produits d'IA. À l'époque, seulement 1 % des employés de Nvidia étaient noirs - un chiffre qui n'avait pas changé depuis 2016. Cette proportion serait de 5 % chez Intel et Microsoft, 4 % chez Meta et 14 % pour la part des Noirs dans l'ensemble de la population américaine en 2020. D'autres sources ont déclaré que lors de la réunion, Huang parlait de la diversité de pensée, et non de la couleur de peau en particulier.
Alors que les outils d'IA deviennent de plus en plus omniprésents dans la vie quotidienne, les inquiétudes concernant les risques et ses préjugés ne cessent de croître. Par exemple, certaines minorités sous-représentées craignent que les voitures autonomes ne les reconnaissent pas ou que les caméras de sécurité les identifient mal. Plusieurs rapports ont relevé les biais des algorithmes de reconnaissance faciale, notamment leur faible taux d'efficacité et leurs erreurs graves. Ces préoccupations soulignent l'importance de la diversité dans le développement des systèmes d'IA pour s'assurer qu'ils sont mieux adaptés à toutes les communautés.
Les craintes soulevées par Allgood et Tsado ont trouvé un écho. Bien que Nvidia ait refusé de commenter les détails de la réunion, l'entreprise a déclaré qu'elle continue à consacrer d'énormes ressources pour s'assurer que l'IA profite à tout le monde. « Parvenir à une IA sûre et digne de confiance est un objectif que nous poursuivons avec la communauté. Ce sera un long voyage impliquant de nombreuses discussions », a déclaré Nvidia dans un communiqué. Peu de temps après le départ d'Allgood et de Tsado, Nvidia a engagé Nikki Pope pour diriger son projet interne "AI & Legal Ethics". Selon le rapport, le projet était anciennement appelé "Trustworthy AI".
Des chercheurs affirment que les minorités sont tellement sous-représentées dans la technologie, et en particulier dans l'IA, que sans leur contribution, les algorithmes risquent d'avoir des angles morts. Un article de l'AI Now Institute de l'université de New York a établi un lien entre le manque de représentation dans la main-d'œuvre de l'IA et les préjugés dans les modèles, parlant d'un "désastre de la diversité". Gomme Google, Nvidia s'ajoute à une liste de grandes entreprises technologiques où certains employés issus de minorités ont exprimé leur inquiétude quant aux dangers de la nouvelle technologie, en particulier pour les personnes de couleur.
Pope, qui est noire, affirme qu'elle est opposée à l'affirmation selon laquelle "les minorités doivent être impliquées directement pour pouvoir produire des modèles d'IA impartiaux". « Je suis sûre que les modèles que nous fournissons à nos clients pour qu'ils les utilisent et les modifient ont été testés et que les groupes qui vont interagir avec ces modèles ont été représentés », a déclaré Pope. L'engagement de Nvidia à résoudre ces problèmes reste incertain. Nvidia dit avoir mis en œuvre des mesures visant à rendre ses produits d'IA équitables et sûrs, mais des questions subsistent quant à l'exhaustivité et à l'efficacité de ces efforts.
Shelly Cerio, responsable des ressources humaines de Nvidia, a déclaré que lorsque l'entreprise fonctionnait comme une startup (et s'inquiétait de sa survie), elle recrutait principalement pour répondre à ses besoins immédiats en matière de compétences. Selon Cerio, maintenant qu'il est plus grand, Nvidia a fait de la diversité dans son recrutement une priorité. La représentation des Noirs est passée de 1,1 % en 2020 à 2,5 % en 2021, l'année la plus récente pour laquelle des données sont disponibles. Les Asiatiques constituent le groupe ethnique le plus important au sein de l'entreprise, suivis par les employés blancs.
Et vous ?
Quel est votre avis sur le sujet ? Pourquoi les entreprises technologiques sont-elles si critiquées sur notion de diversité ? Que pensez-vous des préoccupations relatives aux menaces que l'IA ferait peser sur les minorités ? Selon vous, les minorités sont-elles plus exposées aux préjugés et aux biais potentiels de l'IA ? Pourquoi ? Le problème est-il lié aux données d'entraînement ou à la faible représentation des minorités dans les équipes d'IA ? Selon vous, comment peut-on réduire les biais potentiels des algorithmes d'IA ? Est-il possible de les éliminer complètement ?Voir aussi
Les employés de Nvidia seraient soudainement si riches et heureux que l'entreprise fait face à un problème de « semi-retraite », le succès financier de certains a créé des tensions internes Le PDG de Nvidia, Jensen Huang, affirme que ceux qui n'ont pas d'expertise en matière d'IA seront laissés pour compte, et ajoute que l'IA est en bonne voie pour réinventer l'informatique de A à Z Le PDG de Nvidia, Jensen Huang, affirme qu'une percée de l'IA appelée AGI aura lieu d'ici cinq ans, avec des machines "assez compétitives" par rapport à l'homme dans tous les domaines