Le battage médiatique autour de l'IA générative indique que la technologie sera omniprésente à l'avenir. Les participants à la course à l'IA affirment qu'elle offrira « des opportunités illimitées » à l'humanité et permettra aux utilisateurs de repousser les limites de ce qu'ils peuvent faire. Mais Sam Kahn, producteur et scénariste, met en garde contre les conséquences liées à son utilisation. Il craint une dépendance à l'égard de l'IA, ce qui selon lui, signifie en réalité une dépendance à l'égard des « suzerains » de la Silicon Valley qui cherchent à escroquer leur clientèle. Il compare cette situation à la façon dont Apple emprisonne ses clients à l'intérieur de son écosystème.Sam Kahn : l'IA n'est pas bonne pour l'esprit et encore moins pour la créativité
Sam Kahn est producteur américain de documentaires expérimenté et écrivain chevronné. Il a notamment produit des documentaires pour Netflix, Paramount+, A&E... Ses écrits ont été publiés dans The New Atlantis, Salmagundi, etc., et sur son compte Substack, Castalia. Il est diplômé de l'université de Yale. Récemment, il a publié un article, intitulé « Why I’m boycotting AI. And you should, too », dans lequel il alerte sur les dangers liés à l'utilisation de l'IA.
L'IA est sur toutes les lèvres depuis que ChatGPT a fait irruption sur la scène à l'automne 2022. Les attentes à l'égard de la technologie sont élevées : les analystes prévoient que l'IA entraînera des changements « importants ou perturbateurs » à l'avenir et favorisera la croissance de l'économie mondiale.
Mais Sam Kahn affirme que les gens ne devraient pas utiliser cette technologie. Dans son billet de blogue, il appelle tout le monde à boycotter les produits d'IA, car la technologie n'est en aucun cas bonne pour nous ; selon lui, l'IA n'est ni bonne pour l'esprit, ni pour la créativité, ni pour les compétences. Sam Kahn estime que l'utilisation de l'IA ne peut que conduire à une dépendance. Il a ajouté que les conséquences pourraient être dévastatrices pour l'humanité.
Envoyé par Sam Kahn
Nous devons collectivement boycotter les produits d'intelligence artificielle tant qu'il en est encore temps. Parce que l'IA n'est pas bonne pour nous - ni pour notre esprit, ni pour notre créativité, ni pour nos compétences - et qu'à mesure qu'on nous la fait avaler, nous sommes les seuls à pouvoir la refuser.
L'IA ne peut que conduire à la dépendance à l'égard d'une technologie, ce qui signifie en réalité la dépendance à l'égard des suzerains de la Silicon Valley qui cherchent à escroquer leur clientèle. C'est exactement la même dynamique que nous connaissons et déplorons tous depuis une vingtaine d'années.
« Et vous pouvez vous inspirer de toutes vos statistiques préférées pour comprendre ce que cela signifie : l'Américain moyen passe près de 5 heures par jour sur son smartphone, tandis que les taux d'amitié se sont effondrés et que la dépression, l'anxiété, l'automutilation et la suicidalité chez les adolescents ont grimpé en flèche », a déclaré Sam Kahn. Il affirme n'avoir installé aucune application d'IA et invite l'humanité à se débarrasser de ces produits d'IA.
Sam Kahn : l'IA enferme les gens dans un écosystème de dépenses effrénées
L'IA est là pour de bon. Les Big Tech y sont tous attachés, et les gouvernements du monde entier ne semblent pas près de s'atteler à une réglementation digne de ce nom. En janvier, le président américain Donald Trump a révoqué le modeste décret signé par son prédécesseur Joe Biden érigeant des garde-fous. Ce décret visait à atténuer les risques que fait peser l'IA sur les utilisateurs, les emplois et la sécurité nationale, et proposait des mesures préventives.
Mais selon Sam Kahn, bien que l'IA soit là pour de bon, les gens peuvent encore choisir de ne pas l'utiliser. Dans son billet de blogue, Sam Kahn affirme que l'adoption de l'IA est semblable à l'entrée d'un utilisateur dans l'écosystème Apple, qui enferme ses clients dans un jardin clos pour leur soutirer de l'argent :
Envoyé par Sam Kahn
Avec le recul, je comprends pourquoi j'ai cédé à Apple il y a tant d'années. Cela aurait vraiment été un suicide social que d'essayer de me faire une place dans la classe professionnelle des années 2010 avec autre chose qu'un MacBook Pro et un iPhone. Apple était vraiment meilleur que tout le reste. Mais je regrette tout de même ce moment. Toutes mes intuitions me disaient qu'opter pour des entreprises comme Apple, Google et Facebook était un marché de dupes.
L'avantage, c'est que j'ai eu l'impression pendant quelques années de faire partie du futur en sirotant mes lattés et en flottant dans l'ère postindustrielle naissante avec mes gadgets Apple argentés et élégants. Mais j'en paie encore le prix : chaque fois que je me connecte à mon compte bancaire, c'est comme si j'enlevais les bernacles de la coque d'un navire pour me débarrasser de tous les nouveaux frais qu'Apple et Google ont concoctés.
Le documentariste explique dans son billet : « non, je ne parle pas d'abandonner complètement la technologie. Mais nous pouvons, par exemple, cliquer en dessous des offres d'IA de Google pour consulter des liens réels. Et nous pouvons généralement continuer à vivre notre vie à notre triste ancienne manière sans bénéficier des « assistants personnels » d'IA ou des « meilleurs amis » robots ou de tout ce que la nouvelle technologie est censée nous apporter ».
Sam Kahn : l'IA utilise notre émerveillement à son égard pour nous convaincre
L'IA générative s'appuie sur de grands modèles de langage (LLM) tels que GPT-4 d'OpenAI et Claude d'Anthropic. Ces modèles de traitement du langage naturel sont conçus pour comprendre et générer du texte en langage naturel. Mais de nombreux défis restent à relever, notamment les modèles d'IA ont tendance à reproduire les biais existant dans leurs données d'entraînement et à inventer des faits. En outre, ils ont également tendance à diffuser des infox.
Selon Sam Kahn, l'IA est essentiellement une prédiction de texte combinée à l'exploration de données. « C'est tout. C'est un super-Google qui va dans le corpus des textes et réarrange les mots en un fac-similé très agréable d'un argument convaincant. Il n'y a pas d'intelligence derrière cela, au sens où un ordinateur penserait réellement », a déclaré Sam Kahn. Le documentariste note que « la technologie se nourrit principalement de notre émerveillement ».
Envoyé par Sam Kahn
L'IA utilise notre émerveillement pour nous convaincre de l'existence d'un simulacre d'intelligence, alors que ce dont nous sommes réellement témoins est, en quelque sorte, notre propre excitation enfantine face à un tour d'anthropomorphisation : nous sommes heureux de voir une calculatrice imiter quelque chose de nos processus mentaux. Nous avons malheureusement tendance à accorder à l'IA une sorte de déférence épistémologique, à croire que ce mélange de données représente une sorte d'autorité.
« En 2020, le discours sur la liberté avait disparu et la « lutte contre la désinformation » (lire : censurer les opinions divergentes) était de mise. Cette histoire récente soulève une question importante : pourquoi devrions-nous encore faire confiance à ces gens ? », a écrit le documentariste. Selon Sam Kahn, l'IA accélère le déclin des compétences générales, nuit à l'esprit critique et son adoption à grande échelle ne fera qu'aggraver la situation.
Analyse critique du point de vue de Sam Kahn
Sam Kahn appelle à boycotter les produits d'IA : « pour être honnête, je ne savais pas que j'avais besoin d'un assistant...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
