Dans un paysage technologique en évolution rapide, l'IA générative promet des avancées révolutionnaires, mais ses applications pratiques laissent souvent à désirer. Alors que les géants de la technologie investissent des milliards dans l'infrastructure de l'IA, les inquiétudes concernant la confidentialité des données persistent. Privacy International souligne que le capitalisme de surveillance, alimenté par la collecte incessante de données, exerce déjà une influence considérable et l'IA serait sur le point d'accentuer cette tendance.Privacy International (PI) est une organisation caritative enregistrée au Royaume-Uni qui défend et promeut le droit à la vie privée dans le monde entier. Créée en 1990, enregistrée en tant que société à but non lucratif en 2002 et en tant qu'association caritative en 2012, PI est basée à Londres. Son directeur exécutif actuel, depuis 2012, est le Dr Gus Hosein.
L'engouement pour l'IA est-il en train de s'estomper ? Les produits de consommation dotés d'un assistant d'IA sont décevants dans l'ensemble, les PDG des entreprises technologiques peinent à donner des exemples de cas d'utilisation pour justifier l'investissement de milliards dans les unités de traitement graphique (GPU) et la formation de modèles. Par ailleurs, les préoccupations en matière de protection des données sont encore loin d'être résolues.
Pourtant, les croyants demeurent. La présentation de ChatGPT par OpenAI rappelait le film Her (la voix de Scarlett Johannsen étant même reproduite comme dans le film), Google a réussi à inclure l'IA dans presque toutes les annonces de sa Google I/O 2024 et Apple s'est joint à la foule avec Apple Intelligence. Ainsi, les entreprises qui mènent la charge de l'IA continuent d'affirmer que cette technologie sera une révolution et qu'elle changera tout.
Les citoyens se retrouvent donc avec deux récits très différents : la promesse ou le gaspillage.
D'un côté, il y a la promesse : l'IA est en passe de remplacer nos emplois et d'augmenter massivement le PIB. Elle s'emparera d'Hollywood et produira des films complets à partir de quelques invites, décuplera notre productivité et nous aidera à atteindre les objectifs de développement durable des Nations unies. Dans quelques années, elle se transformera en agents omniscients qui nous aideront à tout faire, tout en traçant la voie vers l'intelligence artificielle générale (AGI).
De l'autre côté, il y a le gaspillage : ce n'est qu'un autre élément technologique qui a attiré un nombre insensé de financements sans produire de résultats. Il s'agit simplement d'une itération de choses que nous avons déjà vues (par exemple, "big data !", "algorithmes !"
à laquelle on ne peut pas faire confiance parce qu'elle hallucine, et elle s'accompagne de coûts et d'impacts environnementaux massifs qui la condamnent à disparaître jusqu'à ce qu'une nouvelle percée scientifique en matière d'apprentissage automatique apparaisse.Capture d'écran de Google AI Overview suggérant de manger au moins un petit caillou par jour
Il ne vous reste donc plus qu'à choisir : soit vous vous laissez séduire par le battage médiatique et espérez être du bon côté de la révolution de la GenAI, soit vous attendez qu'elle meure et espérez qu'elle n'aggrave pas la situation.
Mais l'avenir, comme souvent, pourrait s'avérer être un juste milieu. Compte tenu des sommes d'argent investies dans la GenAI par les investisseurs en capital-risque, les fonds souverains et les grandes entreprises technologiques, il est difficile d'imaginer qu'elle puisse s'effondrer et disparaître sans avoir produit quoi que ce soit de valable. On pourrait dire que cela s'est déjà produit avec la blockchain ou la réalité virtuelle (et on n'aurait pas tort), mais il reste des cas d'utilisation de niche très puissants. Dans le cas de la GenAI, il existe déjà des cas d'utilisation pour les personnes : des adolescents ont déjà trouvé dans cette technologie un compagnon utile, 90 % des développeurs basés aux États-Unis ont adopté des assistants de codage IA et son utilisation dans la recherche médicale est très prometteuse.
Le problème réside dans le fait qu'un produit raisonnablement utile (par opposition à un produit révolutionnaire) dont le coût de livraison est très élevé ne constitue pas un bon modèle commercial pour le consommateur. L'abonnement pourrait être une solution mais, si l'on en croit la santé des journaux en ligne, ce n'est peut-être pas l'option la plus solide.
L'industrie pourrait abandonner les produits d'IA destinés aux consommateurs et adopter des modèles d'accès à l'API pour le B2B. Mais pour les géants de la consommation comme Google et Meta, ce n'est pas vraiment une option. D'autant plus qu'ils promettent de ne pas entraîner leurs modèles avec les données des entreprises. La taille des modèles pourrait diminuer en même temps que les coûts de calcul, mais il restera toujours des coûts, ne serait-ce que pour trouver des données à collecter et entraîner les modèles.
Que se passera-t-il une fois que les essais gratuits seront terminés ? Une fois qu'un modèle économique devient nécessaire pour couvrir ces coûts ? Quelle est la solution ?
Ce sera la publicité.
Au cours des dix dernières années, la publicité a été le modèle économique des grandes entreprises technologiques proposant des services (pensez à Google Search plutôt qu'à l'iPhone), et il y a peu de raisons de penser que cela changera avec la prochaine génération de technologies. Facebook était exempt de publicité, tout comme Google, les boutiques d'applications et nos systèmes d'exploitation. Mais les publicités ont fait leur apparition dans tous les produits destinés aux consommateurs, avec la promesse de ces entreprises que les annonceurs seraient en mesure de cibler les gens avec une précision étonnante, toujours au bon moment et pour le bon prix. Les consommateurs pouvaient continuer à profiter de ces produits tant qu'ils acceptaient d'être ciblés par des publicités.
Une infraction récente de Microsoft : Windows 11 affiche des applications "recommandées" dans le menu Démarrer
La promesse d'un internet libre et ouvert a été reprise par la publicité comportementale. Ce modèle avait un coût, notamment pour notre vie privée. Pour que la publicité comportementale puisse voir le jour, il fallait un réseau de surveillance, que nos moindres mouvements et actions en ligne soient suivis, collectés et regroupés dans des profils visant à décrire le type de personne que nous sommes et ce que nous désirons. L'examen de ce dossier de renseignements vous concernant est troublant, que vous ayez consulté votre historique Google ou, comme PI l'a fait, exercé votre droit d'accès à vos données en Europe. Ce profilage est effrayant, il a porté préjudice à des individus et à des sociétés et ne peut être justifié par la nécessité de nous montrer des publicités.
Tout comme le capitalisme de surveillance s'est emparé du web, il s'emparera de la GenAI. Malgré de nombreux défis, politiques et juridiques, dans le monde entier, le capitalisme de surveillance continue d'être le modèle commercial dominant. Il a ancré le non-respect des données personnelles des utilisateurs si profondément dans l'éthique des entreprises technologiques que le fondement même de la GenAI était l'exploitation de ces données par le biais du scraping et du traitement afin de créer des ensembles de données qui seraient utilisés pour entraîner les modèles d'IA.
Youtube affiche une publicité insécable avant une vidéo de premiers secours
Aujourd'hui, les promesses des produits d'IA de devenir des assistants omniprésents ouvrent la porte à une nouvelle richesse de données, portant les niveaux de menace pour notre vie privée à de nouveaux sommets. Les sites web consacrés à la santé mentale partageant vos données avec des tiers inconnus étaient déjà assez effrayants, mais nous devons maintenant faire face à l'idée d'un logiciel unique ayant accès à toutes nos informations. Ce sera le prix de l'accès aux ressources clés que les grandes entreprises technologiques ont accumulées : la puissance de calcul, l'expertise et les connaissances scientifiques, la position sur le marché. Les grandes entreprises dominent ces ressources et décident en fin de compte qui y a accès, y compris les concurrents. Cela signifie que nous devrons faire confiance à ces acteurs pour qu'ils agissent décemment avec les informations auxquelles l'IA accède et qu'elle génère, une confiance qu'ils ont rompue à maintes reprises par le passé.
La GenAI n'a pas besoin de conquérir le monde, les entreprises qui monopolisent son développement l'ont déjà fait. Et le capitalisme de surveillance avec. Heureusement, nous n'en sommes qu'au début et nous avons tous la possibilité d'intervenir pour faire quelque chose. Qu'il s'agisse de réglementations, d'actions en justice ou d'actes de protestation individuels, la lutte est engagée pour un avenir où la technologie est à notre service et non à celui des grandes entreprises.
Source : Privacy International
Et vous ?
Quel est votre avis sur le sujet ?Voir aussi :
L'IA semble s'approcher rapidement d'un mur où elle ne peut pas devenir plus intelligente : l'IA sera-t-elle à court de données ? Limites de la mise à l'échelle des LLM sur les données générées par l'homme Les retombées des projets d'IA sont "lamentables", se plaignent les dirigeants, alors que les retards et les problèmes de mise en œuvre remettent en cause les initiatives d'IA générative en 2024