Les appels à réglementer l'IA se font de plus en plus entendre dans l'Union européenne et aux États-Unis. Dans un article d'opinion publié mercredi, la présidente de la Federal Trade Commission (FTC), Lina Khan, s'est engagée à utiliser les lois existantes pour réglementer l'IA. Elle a mis en garde contre les risques liés à l'IA, tels que la domination du marché par les grandes entreprises technologiques, la collusion et le potentiel d'augmentation des fraudes et des violations de la vie privée. Elle a ajouté que la FTC était très bien équipée pour gérer ces problèmes. L'article de Khan a été publié un jour avant la publication par la Maison Blanche d'un plan pour promouvoir l'IA éthique.L'IA générative peut contribuer à transformer les projets d'entreprise en donnant aux équipes de science des données la possibilité de créer des données synthétiques et de produire des modèles algorithmiques performants. Elle peut être utilisée pour créer des artefacts de grande valeur tels que des images, des vidéos, du texte, du code et même des conceptions et des schémas. En gros, l'IA générative a le potentiel de changer la façon dont nous créons et consommons du contenu à l'avenir. Mais ces différentes possibilités qu'offre l'IA générative cachent également de nombreuses préoccupations liées au droit d'auteur et à la vie privée et d'ordre éthiques.
La présidente de la FTC se refuse de laisser les États-Unis refaire la même qu'au milieu des années 2000 qui fait en sorte qu'une poignée d'entreprises privées contrôle aujourd'hui tout Internet. « La dernière fois que nous avons été confrontés à un changement social d'une telle ampleur provoqué par la technologie, c'était au début de l'ère du Web 2.0, au milieu des années 2000. De nouvelles entreprises innovantes, notamment Facebook et Google, ont révolutionné les communications et fourni des services populaires à une base d'utilisateurs en plein essor », a écrit la présidente de la FTC dans son article d'opinion publié mercredi dans le New York Times.
Khan a fait remarquer que la croissance de ces entreprises a conduit à une surveillance envahissante et à la perte de la vie privée : « ces services innovants ont toutefois eu un coût élevé. Ce que nous considérions au départ comme des services gratuits a été monétisé grâce à une surveillance étendue des personnes et des entreprises qui les utilisaient. Il en est résulté une économie en ligne où l'accès à des services de plus en plus essentiels est conditionné par l'accumulation et la vente à grande échelle de nos données personnelles. Ces modèles commerciaux ont poussé les entreprises à développer des moyens sans cesse plus invasifs de nous suivre à la trace ».
Selon Khan, la FTC a plus tard trouvé des raisons de croire que plusieurs de ces entreprises avaient enfreint la loi. « Associées à des stratégies agressives d'acquisition ou de verrouillage des entreprises qui menaçaient leur position, ces tactiques ont consolidé la domination d'une poignée d'entreprises. Ce qui avait commencé comme un ensemble de technologies révolutionnaires a fini par concentrer un énorme pouvoir privé sur des services clés et par verrouiller des modèles commerciaux qui ont un coût extraordinaire pour notre vie privée et notre sécurité », a-t-elle ajouté, notant qu'il n'est pas question que la même chose se reproduise avec l'IA.
« Bien que la technologie évolue rapide, nous pouvons d'ores et déjà déceler plusieurs risques. L'adoption croissante de l'IA risque d'accentuer la domination du marché par les Big Tech en place. Une poignée d'entreprises puissantes contrôlent les matières premières nécessaires aux startups pour développer et déployer des outils d'IA. Il s'agit notamment des services cloud et de la puissance de calcul, ainsi que de grandes quantités de données. Ces entreprises pourraient utiliser leur contrôle sur ces intrants clés pour exclure ou discriminer les rivaux en aval, en choisissant les gagnants et les perdants de manière à renforcer leur position dominante », a-t-elle écrit.
Khan affirme que la trajectoire de l'ère du Web 2.0 n'était pas inévitable ; elle aurait été façonnée par un large éventail de choix politiques. Pour Khan, le monde est à nouveau confronté à un moment de choix. Alors que l'utilisation de l'IA se généralise, Khan estime que les responsables publics doivent veiller à ce que l'histoire ne se répète pas avec l'IA, mais sans restreindre indûment l'innovation. L'article affirme que la FTC observe avec beaucoup d'attention la course à l'IA et cherche une façon de remplir son double mandat, à savoir promouvoir une concurrence loyale et protéger les Américains contre les pratiques déloyales ou trompeuses.
« À mesure que ces technologies évoluent, nous nous engageons à faire notre part pour préserver la longue tradition américaine de maintien des marchés ouverts, équitables et concurrentiels qui ont été à l'origine d'innovations révolutionnaires et de la réussite économique de notre pays, sans tolérer les modèles commerciaux ou les pratiques impliquant l'exploitation massive de leurs utilisateurs », a-t-elle déclaré. Khan a relevé au moins quatre domaines clés de préoccupation :
- garantir une concurrence loyale : empêcher les grandes entreprises technologiques d'exploiter leur position dominante sur le marché et de recourir à la collusion pour étouffer l'innovation et les petits concurrents dans le paysage de l'IA ;
- renforcer la protection des consommateurs : protéger les utilisateurs contre les pratiques trompeuses et frauduleuses rendues possibles par l'IA, telles que les escroqueries par hameçonnage, les vidéos "deepfake" et le clonage de voix ;
- promouvoir la confidentialité des données : contrôler les systèmes d'IA pour s'assurer qu'ils respectent les lois sur la protection des données et empêcher la collecte ou l'utilisation abusive de données, afin de protéger les informations personnelles des utilisateurs ;
- lutter contre les pratiques discriminatoires : veiller à ce que les systèmes d'IA ne perpétuent pas ou n'amplifient pas les préjugés et la discrimination, ce qui peut conduire à un traitement inéquitable dans des domaines tels que l'emploi, le logement ou l'accès aux services essentiels.
En outre, Khan affirme que l'IA générative risque de donner un coup de fouet à la fraude. Elle n'est peut-être pas prête à remplacer les rédacteurs professionnels, mais elle est déjà capable de rédiger un message apparemment authentique beaucoup mieux que l'escroc moyen, ce qui pourrait aider les fraudeurs à générer du contenu rapidement et à peu de frais. Les chatbots sont déjà utilisés pour générer des courriels de spear-phishing conçus pour escroquer les gens, de faux sites Web et de faux avis de consommateurs - les robots reçoivent même l'instruction d'utiliser des mots ou des phrases ciblant des groupes et des communautés spécifiques.
Selon la présidente de la FTC, bien que ces outils soient nouveaux, ils ne sont pas exemptés des règles existantes, et la FTC appliquera vigoureusement les lois qu'elle est chargée d'appliquer, même sur ce nouveau marché. Certains des éléments cités par Khan ont déjà été exposés dans les lignes directrices de la "Charte des droits de l'IA" publiées par l'administration Biden en octobre. Elles n'ont pas force de loi, mais la FTC a la latitude pour interpréter les lois existantes et les appliquer à l'IA. « La FTC est bien équipée en termes de compétences juridiques pour traiter les questions soulevées par le développement rapide du secteur de l'IA », a déclaré Khan.
Jeudi, la Maison Blanche a publié une batterie de mesures visant à promouvoir le développement d'une IA responsable. Elles comprennent un investissement de 140 millions de dollars de la National Science Foundation pour lancer sept nouveaux instituts nationaux de recherche sur l'IA (NAIR), ce qui portera à 25 le nombre total d'installations dédiées à l'IA dans le pays. La Maison Blanche soutiendra également un événement lors de la conférence Defcon cet été, qui mettra les experts au défi de découvrir les failles des systèmes d'IA génératifs. L'annonce a été faite quelques heures avant une réunion de la Maison Blanche avec des PDG de l'industrie.
De son côté, L'UE pourrait introduire une réglementation très stricte en ce qui concerne le développement et le déploiement des chatbots d'IA. Selon des sources au fait du projet de loi, les nouvelles règles proposeraient d'obliger les fabricants de chatbots d'IA à révéler s'ils utilisent du matériel protégé par des droits d'auteur. Cela pourrait permettre aux créateurs de contenu de jouir d'une redevance de droit d'auteur. L'IA générative a donné lieu à de nombreuses plaintes en matière de violation de droit d'auteur et l'UE veut y mettre un terme. À mesure que la loi sur l'IA évolue, les chatbots pourraient faire l'objet d'une surveillance accrue par l'UE.
Et vous ?
Quel est votre avis sur le sujet ? Que pensez-vous des déclarations de la présidente de la FTC des États-Unis ? Les lois en place peuvent-elles permettre de faire face aux préoccupations qu'elle a soulevées ? Peut-on éviter que le marché de l'IA soit dominé par une poignée d'entreprises puissantes ? Si oui, comment peut-on y arriver selon vous ? Quel rôle l'UE doit-elle jouer pour éviter une telle chose ?Voir aussi
La Maison Blanche lance un plan pour promouvoir l'IA éthique et demande l'aide des hackers pour détecter les failles des chatbots d'IA, elle prendra également l'avis des PDG des entreprises d'IA L'UE envisagerait des règles très strictes pour les chatbots dans le cadre de son projet de loi sur l'IA, elle devrait exiger la divulgation de l'utilisation du matériel protégé par le droit d'auteur « Nous nous dirigeons à grands pas vers un Internet fortement influencé par l'IA, bourré de pépins, de spams et d'escroqueries », affirme un journaliste senior du MIT Technology Review 
Envoyé par Mathis Lucas
