Les entreprises ne s'autoréguleront pas en raison de la "ruée vers l'or" de l'IA à moins d'y être contraintes

Selon une ex-chercheuse de Google licenciée après avoir mis en évidence les biais de l'IA

Les entreprises ne s'autoréguleront pas en raison de la "ruée vers l'or" de l'IA à moins d'y être contraintes, selon une ex-chercheuse de Google licenciée après avoir mis en évidence les biais de l'IA

Une ancienne chercheuse de Google, qui a déclaré avoir été licenciée après avoir mis en évidence les biais de l'IA, a averti que la "ruée vers l'or" actuelle en matière d'IA signifie que les entreprises ne s'autoréguleront pas à moins qu'elles ne soient soumises à des pressions.

Timnit Gebru, une scientifique spécialisée dans l'intelligence artificielle, était coresponsable de l'équipe chargée de l'éthique de l'IA chez Google, avant d'être évincée en 2020 à la suite d'un conflit avec l'entreprise. Mme Gebru s'est confiée à The Guardian dans une interview publiée le lundi 22 mai 2023.


Cette femme de 40 ans, qui a également travaillé chez Apple et Microsoft, a expliqué que le battage médiatique autour de l'IA signifiait que les mesures de protection étaient mises de côté.

"À moins qu'il n'y ait une pression extérieure pour faire quelque chose de différent, les entreprises ne vont tout simplement pas s'autoréguler", a-t-elle déclaré au Guardian. "Nous avons besoin d'une réglementation et de quelque chose de mieux qu'une simple motivation de profit."

"On a l'impression d'assister à une ruée vers l'or", a ajouté Mme Gebru. "En fait, c'est une ruée vers l'or. Et beaucoup de ceux qui gagnent de l'argent ne sont pas ceux qui sont au cœur de l'action. Mais ce sont les humains qui décident si tout cela doit être fait ou non. Nous devrions nous rappeler que nous avons le pouvoir de le faire".

Mme Gebru a quitté Google peu de temps après avoir rédigé, avec des collègues, un document de recherche mettant en évidence les biais inhérents aux outils d'intelligence artificielle.

La direction de Google aurait contesté l'article et lui aurait demandé de le retirer ou de supprimer son nom et celui de ses collègues. Mme Gebru a précisé au Guardian qu'elle avait refusé de rétracter l'article et qu'elle ne retirerait les noms des auteurs que si Google formulait clairement ses critiques.


Mme Gebru affirme avoir été licenciée après cela, mais Google prétend qu'elle a démissionné, selon The Guardian.

"Nous pensons que notre approche de l'IA doit être à la fois audacieuse et responsable. Cela signifie qu'il faut développer l'IA de manière à maximiser les avantages pour la société tout en relevant les défis, conformément à nos principes en matière d'IA", a déclaré Google dans un communiqué.

"Le document ne dit rien de surprenant pour quiconque travaille avec des modèles de langage", a déclaré à l'époque un employé qui a examiné le rapport. "En fait, il donne une mauvaise image de ce que fait Google."

Le chatbot d'OpenAI, ChatGPT, a été lancé en novembre 2022 et est devenu l'application grand public à la croissance la plus rapide de l'histoire de l'internet. Google a lancé sa propre version, Bard, en mars.

Source : The Guardian

Et vous ?

Quel est votre avis sur le sujet ?

Trouvez-vous que le point de vue de Mme Gebru est pertinent ?

Êtes-vous d'accord avec l'affirmation selon laquelle le développement de l'IA doit aller au-delà de la simple recherche de profit et chercher à maximiser les avantages pour la société ?

Comment percevez-vous l'état actuel du développement de l'IA et les biais potentiels des outils d'IA ?

Voir aussi

L'autorité chinoise de régulation du cyberespace a proposé une série de mesures pour gérer les services d'IA générative, afin que les contenus créés soient conformes aux valeurs socialistes du pays

Les législateurs de l'UE s'accordent sur un projet de règles plus strictes en matière d'IA, les IA génératives comme ChatGPT devraient donner un résumé détaillé des données de formation sous copyright

L'IA et les droits civils : comment les pays s'adaptent à ChatGPT, et aux autres technologies qui échappent à tout contrôle

« Le développement de l'IA sans réglementation induit une menace existentielle pour l'humanité », d'après Elon Musk dont une société développe des puces à insérer dans le cerveau pour contrer l'IA