Aujourd’hui, les grands modèles de langage (LLM) sont produits à partir de données publiques, ce qui signifie qu’ils ne peuvent pas être éthiquement possédés par un individu en particulier. C'est en tout cas ce que pense Richard Eskow qui estime que « le socialisme est la seule façon équitable de gouverner cette technologie ».Pour étayer sa pensée, il a donné un exemple hypothétique : une personne appelée “Kath”, abréviation de “Kathénas”, qui signifie “tout le monde” en grec. Kath a des amis, un foyer, des enfants et un emploi de 9 à 17 heures dans une économie occidentale. Comme nous tous, Kath alimente les vastes bases de données qui alimentent l’IA d’aujourd’hui. Ces données, générées à partir de son activité en ligne, peuvent inclure son historique d’achats, son état de santé, ses croyances religieuses probables et son orientation sexuelle. Elles comprennent également le langage extrait de ses e-mails, vidéos YouTube, pages web, publications Instagram et autres contenus qu’elle a partagés. Les images téléchargées et les actions effectuées sur les réseaux sociaux, ainsi que les comportements et préférences de visionnage de vidéos, sont également suivis.
Pendant que Kath dort, un traceur de sommeil sur son téléphone enregistre ses habitudes de sommeil. Lorsqu’elle se réveille, l’alarme de son téléphone est réglée sur des chants rastafariens Nyabinghi des années 1960. Ce choix sera utilisé pour affiner les suggestions musicales futures pour elle et d’autres utilisateurs ayant un profil similaire. Kath parcourt les actualités et les publications de ses amis sur Facebook pendant qu’elle prend son petit-déjeuner, “likant” certaines publications, regardant quelques vidéos et sautant d’autres. Chaque action est enregistrée.
Lorsque ses parents veulent des photos des enfants, Kath se connecte à un site de partage de photos en utilisant un CAPTCHA, qui lui demande de compléter un test simple pour identifier des lettres ou des images avant de pouvoir télécharger ses photos. Ce test contribue à former un système d’IA de reconnaissance d’images. Ses photos téléchargées alimentent encore une autre IA. Sans le savoir, quelque chose qui ressemble de près — ou qui pourrait même être identique — au dessin de l’avion de son plus jeune enfant en crayon rouge apparaîtra la semaine prochaine sur un site d’IA après qu’un utilisateur ait tapé : “Dessinez un avion comme un enfant”.
Kath appelle le service ferroviaire subventionné par l’État pour réserver un siège pour un prochain voyage d’affaires. Elle a une “conversation” avec un système vocal qui porte un nom féminin. Le système initie l’échange avec un joyeux “Salut ! Je m’appelle Julie !” Le comportement du système et les réponses de Kath sont suivis. Son appel suivant est à sa compagnie d’assurance ; elle parle à un opérateur du centre d’appels. Cette conversation — les mots qu’elle prononce, les émotions qu’elle exprime et même les inflexions minimes de sa voix — sera analysée ultérieurement. Kath demande ensuite à Alexa de jouer de la musique de quatuor à cordes ; cela aussi est suivi. Lorsqu’elle passe un appel téléphonique, ses mots sont-ils également analysés ? Nous ne le pensons pas, du moins pas encore, mais nous ne pouvons pas en être sûrs. Il est techniquement possible de collecter des appels téléphoniques de cette manière, et le monde de la technologie est devenu de plus en plus secret quant à ses processus internes, y compris ce qu’il collecte et pourquoi.
Au travail, presque tout ce que Kath fait est surveillé : sa vitesse de frappe, le nombre de pauses, même les informations de sa webcam, qui incluent “des données biométriques telles que les mouvements des yeux, les changements de position du corps et les expressions faciales”, utilisées pour déterminer si elle est concentrée sur son travail et attentive pendant les appels vidéo.
À quoi ressemblerait une économie socialiste de l'IA ?
Dans le cadre d'un système « d'IA socialiste démocratique », les individus pourraient être rémunérés de plusieurs manières pour l'utilisation de leur propriété intellectuelle collective. Les revenus pourraient être utilisés pour améliorer l'éducation et construire des médias publics, ou les gens pourraient recevoir de petites allocations pour leur rôle dans le grand système. Toutefois, si les gens ne sont pas rémunérés pour leurs contributions sous une forme ou une autre, le système restera intrinsèquement exploiteur.
Les citoyens devraient également être autorisés à voir, comprendre et voter sur les algorithmes utilisés pour filtrer les informations qu'ils voient. Le public doit avoir à la fois un accès libre à l'information et un contrôle démocratique sur le caractère « collant » ou addictif de toute technologie en ligne qu'il utilise. Toute autre solution constitue une atteinte aux libertés fondamentales. Quant aux droits à la vie privée, ils pourraient être établis à l'avance et faire l'objet d'un vote par les participants. Les individus pourraient avoir la possibilité de se retirer du système et de conserver leur production pour leur propre usage, sans partager la ressource commune.
Surtout, l'économie de l'IA pourrait être utilisée pour favoriser l'épanouissement de la vie humaine et non humaine. C'est une idée aussi vieille que le socialisme lui-même. À quel point ? Dans les premiers temps de l'automatisation, le révolutionnaire socialiste Che Guevara a explicitement appelé à la libération de l'homme par la technologie. Dans un discours prononcé lors de la réunion plénière nationale sur le sucre à Camagüey, à Cuba, en février 1963, il a déclaré : « Nous essayons de transformer les machines en instruments de libération [...] pour atteindre la chose la plus importante que nous devons réaliser : l'épanouissement des individus ». L'année dernière, Nathan J. Robinson a écrit dans Jacobin que la technologie pourrait « nous libérer des corvées plutôt que de nous précipiter dans la pauvreté ».
Dans un scénario socialiste où les besoins humains primeraient sur le profit, certains travailleurs pourraient se retrouver sans emploi. Pour compenser ces travailleurs déplacés, Robinson a proposé un scénario intéressant : « Que diriez-vous de ceci : une fois que le travail pour lequel vous avez été formé est automatisé, vous recevez une pension d'automatisation et vous pouvez vous détendre pour le reste de votre vie. Tout le monde priera pour que son emploi soit le prochain sur la liste à disparaître ».
En ce qui concerne les autres crises concomitantes auxquelles nous sommes confrontés, du climat à la guerre - qui sont aggravées par l'utilisation actuelle de l'IA - l'éthique socialiste nous libérerait du pouvoir destructeur de la recherche du profit, ce qui nous permettrait d'aborder véritablement ces problèmes avec l'urgence qu'ils requièrent. De même, tout risque « existentiel pouvant être posé par l'IA (sujet hautement controversé en soi) pourrait être traité en décrétant un moratoire sur les activités qui augmentent ces risques (semblable au désir exprimé par les nations arabes de créer un Moyen-Orient exempt d'armes de destruction massive).
Les défis du modèle socialiste pour l’IA
Collectivisation des données
Le modèle socialiste propose que les données soient collectivisées et gérées par la communauté. Cependant, cela soulève des questions sur la confidentialité et la sécurité des informations personnelles. Comment garantir que les données sensibles ne soient pas exploitées ou utilisées à mauvais escient ? La collectivisation doit être équilibrée avec des garanties de protection des droits individuels.
Équité dans l’accès et l’utilisation
L’idée d’une IA socialement responsable est noble, mais comment s’assurer que tous les individus ont un accès égal aux avantages de l’IA ? Les inégalités socio-économiques pourraient persister, même dans un modèle socialiste. Comment garantir que les avantages de l’IA ne soient pas réservés à une élite ?
Transparence et responsabilité
Dans un modèle socialiste, qui sera responsable des décisions prises par l’IA ? Comment assurer la transparence des algorithmes et des processus décisionnels ? La responsabilité collective peut être floue et complexe à mettre en œuvre.
Innovation et créativité
Le socialisme peut parfois freiner l’innovation et la créativité en décourageant la concurrence et la recherche de profits individuels. Comment équilibrer la nécessité d’une IA éthique avec le besoin d’innover et de progresser ?
Défis internationaux
L’IA ne connaît pas de frontières. Comment un modèle socialiste gérerait-il les défis internationaux tels que la coopération, la concurrence et la sécurité ? Les questions géopolitiques et les intérêts nationaux doivent également être pris en compte.
Limites du revenu universel
Richard Eskow cite Robinson qui propose un scénario où les travailleurs remplacés reçoivent « une pension d'automatisation ». Une vision qui est loin de faire l'unanimité.
Selon Sam Altman, le PDG d'OpenAI, au lieu d'un revenu de base universel, il faudrait un calcul de base universel, où chacun obtiendrait une part du calcul du GPT-7. Voici son avis :
« Maintenant que nous voyons certaines des façons dont l'IA se développe, je me demande s'il n'y a pas de meilleures choses à faire que la conceptualisation traditionnelle de l'UBI (Revenu de base universel). Par exemple, je me demande si l'avenir ne ressemble pas plus à un calcul de base universel qu'à un revenu de base universel. Si tout le monde obtient une part de calcul GPT 7 qu'il peut utiliser, revendre ou donner à quelqu'un pour la recherche sur le cancer. Mais ce que vous obtenez, ce ne sont pas des dollars. Vous possédez une partie de la productivité ».
Dario Amodei, PDG d'Anthropic, n'est pas favorable au RBU. À l'occasion d'une interview avec le Time, il a déclaré : « Les idées autour du revenu de base garanti - si nous ne pouvons pas trouver mieux, je pense certainement que c'est mieux que rien. Mais je préférerais de loin un monde dans lequel tout le monde peut contribuer. Ce serait un peu dystopique si quelques personnes pouvaient gagner des billions de dollars et que le gouvernement les distribuait à la masse. C'est mieux que de ne pas le distribuer, mais je pense que ce n'est pas vraiment le monde que nous voulons viser ».
En fin de compte, le modèle socialiste pour l’IA soulève des questions complexes et nécessite une réflexion approfondie sur la manière de concilier éthique, équité et innovation.
Source : Richard Eskow
Et vous ?
Que pensez-vous des propos de Richard Eskow ? Partagez-vous son point de vue ? Dans quelle mesure ? Qui devrait posséder les données ? Devrions-nous privilégier la collectivisation des données pour une IA éthique, ou existe-t-il d’autres modèles de propriété qui pourraient mieux servir l’intérêt public ? Comment garantir l’équité dans l’accès ? Comment pouvons-nous nous assurer que l’IA bénéficie à tous, indépendamment de leur statut socio-économique ? Quelles mesures devraient être prises pour éviter les inégalités ? Quelle transparence est nécessaire ? Quel niveau de transparence devrait être exigé des entreprises et des gouvernements lorsqu’ils utilisent l’IA ? Comment pouvons-nous rendre les algorithmes plus compréhensibles pour le grand public ? Quels sont les avantages et les inconvénients de l’innovation collective ? Le modèle socialiste encourage la collaboration et la mise en commun des ressources. Quelles sont les implications pour l’innovation et la créativité dans ce contexte ? Comment gérer les défis internationaux ? L’IA transcende les frontières nationales. Comment pouvons-nous collaborer à l’échelle mondiale pour garantir une utilisation éthique et responsable de l’IA ? 
Envoyé par calvaire
