Une nouvelle étude montre que les possibilités offertes par les systèmes d'IA anéantissent la santé des institutions essentielles au renforcement de la démocratie. Les possibilités offertes par les systèmes d'IA ont pour effet d'éroder l'expertise, de court-circuiter la prise de décision et d'isoler les individus les uns des autres. Ces systèmes sont contraires à l'évolution, à la transparence, à la coopération et à la responsabilité qui donnent leur raison d'être et leur durabilité aux institutions vitales. En bref, les systèmes d'IA actuels sont une condamnation à mort pour les institutions civiques, et nous devons les traiter comme tels.Les institutions civiques (l'État de droit, les universités et la liberté de la presse) constituent l'épine dorsale de la vie démocratique. Elles sont les mécanismes par lesquels les sociétés complexes encouragent la coopération et la stabilité, tout en s'adaptant à l'évolution des circonstances. La véritable superpuissance des institutions réside dans leur capacité à évoluer et à s'adapter au sein d'une hiérarchie d'autorité et d'un cadre de rôles et de règles, tout en conservant leur légitimité dans les connaissances produites et les actions entreprises.
Les institutions axées sur des objectifs et fondées sur la transparence, la coopération et la responsabilité permettent aux individus de prendre des risques intellectuels et de remettre en question le statu quo. Cela se produit grâce aux mécanismes des relations interpersonnelles au sein de ces institutions, qui élargissent les perspectives et renforcent l'engagement commun envers les objectifs civiques.
Cependant, l'intelligence artificielle (IA) suscite des inquiétudes dans ces domaines. L'IA est l'ensemble des systèmes informatiques capables d'effectuer des tâches typiquement associées à l'intelligence, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception ou la prise de décision. Les applications de l'IA couvrent de nombreux domaines, notamment les moteurs de recherche, les systèmes de recommandation, l'aide au diagnostic médical, la compréhension du langage naturel, les voitures autonomes, les chatbots, les outils de génération d'images, les outils de prise de décision automatisée, les programmes compétitifs dans des jeux de stratégie et certains personnages non-joueurs de jeu vidéo.
Une étude de 2024 montre que les étudiants qui utilisent l'IA sont moins productifs et ont peu de chances de réussir à l'avenir. Les données montrent que les étudiants moins performants utilisent davantage l'IA pour combler leurs compétences. Mais l'IA générative encourage la tricherie et rend les étudiants paresseux et incompétents. Malgré cela, l'utilisation d'outils d'IA devient de plus en plus courante dans les établissements d'enseignement.
Une nouvelle étude montre que les possibilités offertes par les systèmes d'IA anéantissent ces caractéristiques institutionnelles à chaque tournant. Les chercheurs avancent un argument simple : les systèmes d'IA sont conçus pour fonctionner d'une manière qui dégrade et risque de détruire les institutions civiques essentielles. Les possibilités offertes par les systèmes d'IA ont pour effet d'éroder l'expertise, de court-circuiter la prise de décision et d'isoler les individus les uns des autres. Ces systèmes sont contraires à l'évolution, à la transparence, à la coopération et à la responsabilité qui donnent leur raison d'être et leur durabilité aux institutions vitales. En bref, les systèmes d'IA actuels sont une condamnation à mort pour les institutions civiques, et nous devons les traiter comme tels.
Les chercheurs soutiennent que les possibilités offertes par les systèmes d'IA sapent l'expertise, court-circuitent la prise de décision et isolent les individus, et sont donc contraires à la santé des institutions essentielles qui renforcent la démocratie. Lorsque les systèmes d'IA seront pleinement adoptés et mis en œuvre sans discernement, ils détruiront directement ces institutions ou les rendront si vulnérables que leur disparition sera inévitable.
Ils affirment que l'IA a d'autres possibilités destructrices, telles que celles découlant de l'exploitation de l'échelle et d'autres risques. Les chercheurs déclarent : « Nous nous sommes concentrés sur les effets catastrophiques de l'IA sur les institutions qui soutiennent la vie démocratique, en particulier celles qui développent et s'appuient sur l'expertise, produisent des prises de décision itératives et adaptables dans une structure prévisible, et reposent sur l'interaction et la coopération humaines. Bien que nous nous soyons concentrés sur les institutions de l'État de droit, les universités, la presse libre et la vie civique, nous pourrions avancer des arguments similaires pour des institutions telles que la médecine, les transports publics, la famille, les institutions religieuses et les institutions financières. »
Les chercheurs lancent ainsi un avertissement : étant donné que le déploiement omniprésent et indiscriminé de l'IA est contraire au bien-être des institutions nécessaires et vénérées, sans règles pour atténuer la propagation cancéreuse de l'IA, les seules voies qui restent mènent à la dissolution institutionnelle. Que faut-il faire ? Il n'y a bien sûr pas de solution miracle. Après tout, l'IA n'est qu'un miroir déformé de l'humanité. Mais il est possible d'identifier des points de départ pour des mesures positives à prendre et quelques propositions évidentes qui ne fonctionneront pas.
Voici les propositions des chercheurs : « Tout d'abord, il est impossible d'aborder ces questions sans en aller à leur racine, ce qui signifie qu'il faut se pencher sur des problèmes sociétaux fondamentaux, tels que les inégalités sociales et financières et la nécessité d'une réforme démocratique du processus électoral et du droit de vote, qui déstabilisent la vie civique et délégitiment le gouvernement actuel. Il est évident qu'il faut commencer par se concentrer sur la gouvernance d'entreprise, les infrastructures et les réformes systémiques et fondamentales. Nous pensons également que de bonnes choses se produisent lorsque les gens réfléchissent et agissent au niveau local. Les écoles et la gouvernance municipale offrent des opportunités prometteuses aux individus et aux petites communautés pour apporter des changements positifs substantiels.
Enfin, il est temps de prendre au sérieux les règles claires et précises. Les demi-mesures en matière d'IA, telles que les « principes éthiques de l'IA » autorégulés, les recours individualisés comme le « consentement » et les garde-fous de gestion des risques, sont insuffisantes. Même la transparence, bien que nécessaire pour responsabiliser les entreprises technologiques, n'est qu'une première étape. Les pratiques utilisant certains outils basés sur l'IA qui font plus de mal que de bien, comme la surveillance par reconnaissance faciale ou la vente en masse de données personnelles, devraient être purement et simplement interdites. »
Pour les observateurs, la gravité de l'affirmation selon laquelle l'IA détruit les institutions questionne. Cependant, les chercheurs affirment qu'ils n'exagèrent pas. Ils ont commenté : « Nous nous appuyons sur notre histoire avec la technologie et ses effets sur la société, ainsi que sur nos expériences avec le capitalisme tardif qui a produit encore plus de richesse et d'inégalités qu'au cours des décennies et des siècles passés. Et, compte tenu de ce que nous savons des incitations économiques actuelles, de la nature humaine et de nos structures institutionnelles conçues pour promouvoir l'épanouissement humain dans ces contextes, nous ne pouvons parvenir à aucune autre conclusion. »
Ils ont même ajouté : « Les possibilités offertes par les systèmes d'IA sont comme un cancer dans nos démocraties en difficulté. Elles dégradent l'expertise dont nous avons...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
