Une nouvelle étude montre que les possibilités offertes par les systèmes d'IA anéantissent la santé des institutions essentielles au renforcement de la démocratie. Les possibilités offertes par les systèmes d'IA ont pour effet d'éroder l'expertise, de court-circuiter la prise de décision et d'isoler les individus les uns des autres. Ces systèmes sont contraires à l'évolution, à la transparence, à la coopération et à la responsabilité qui donnent leur raison d'être et leur durabilité aux institutions vitales. En bref, les systèmes d'IA actuels sont une condamnation à mort pour les institutions civiques, et nous devons les traiter comme tels.Les institutions civiques (l'État de droit, les universités et la liberté de la presse) constituent l'épine dorsale de la vie démocratique. Elles sont les mécanismes par lesquels les sociétés complexes encouragent la coopération et la stabilité, tout en s'adaptant à l'évolution des circonstances. La véritable superpuissance des institutions réside dans leur capacité à évoluer et à s'adapter au sein d'une hiérarchie d'autorité et d'un cadre de rôles et de règles, tout en conservant leur légitimité dans les connaissances produites et les actions entreprises.
Les institutions axées sur des objectifs et fondées sur la transparence, la coopération et la responsabilité permettent aux individus de prendre des risques intellectuels et de remettre en question le statu quo. Cela se produit grâce aux mécanismes des relations interpersonnelles au sein de ces institutions, qui élargissent les perspectives et renforcent l'engagement commun envers les objectifs civiques.
Cependant, l'intelligence artificielle (IA) suscite des inquiétudes dans ces domaines. L'IA est l'ensemble des systèmes informatiques capables d'effectuer des tâches typiquement associées à l'intelligence, telles que l'apprentissage, le raisonnement, la résolution de problèmes, la perception ou la prise de décision. Les applications de l'IA couvrent de nombreux domaines, notamment les moteurs de recherche, les systèmes de recommandation, l'aide au diagnostic médical, la compréhension du langage naturel, les voitures autonomes, les chatbots, les outils de génération d'images, les outils de prise de décision automatisée, les programmes compétitifs dans des jeux de stratégie et certains personnages non-joueurs de jeu vidéo.
Une étude de 2024 montre que les étudiants qui utilisent l'IA sont moins productifs et ont peu de chances de réussir à l'avenir. Les données montrent que les étudiants moins performants utilisent davantage l'IA pour combler leurs compétences. Mais l'IA générative encourage la tricherie et rend les étudiants paresseux et incompétents. Malgré cela, l'utilisation d'outils d'IA devient de plus en plus courante dans les établissements d'enseignement.
Une nouvelle étude montre que les possibilités offertes par les systèmes d'IA anéantissent ces caractéristiques institutionnelles à chaque tournant. Les chercheurs avancent un argument simple : les systèmes d'IA sont conçus pour fonctionner d'une manière qui dégrade et risque de détruire les institutions civiques essentielles. Les possibilités offertes par les systèmes d'IA ont pour effet d'éroder l'expertise, de court-circuiter la prise de décision et d'isoler les individus les uns des autres. Ces systèmes sont contraires à l'évolution, à la transparence, à la coopération et à la responsabilité qui donnent leur raison d'être et leur durabilité aux institutions vitales. En bref, les systèmes d'IA actuels sont une condamnation à mort pour les institutions civiques, et nous devons les traiter comme tels.
Les chercheurs soutiennent que les possibilités offertes par les systèmes d'IA sapent l'expertise, court-circuitent la prise de décision et isolent les individus, et sont donc contraires à la santé des institutions essentielles qui renforcent la démocratie. Lorsque les systèmes d'IA seront pleinement adoptés et mis en œuvre sans discernement, ils détruiront directement ces institutions ou les rendront si vulnérables que leur disparition sera inévitable.
Ils affirment que l'IA a d'autres possibilités destructrices, telles que celles découlant de l'exploitation de l'échelle et d'autres risques. Les chercheurs déclarent : « Nous nous sommes concentrés sur les effets catastrophiques de l'IA sur les institutions qui soutiennent la vie...
La fin de cet article est réservée aux abonnés. Soutenez le Club Developpez.com en prenant un abonnement pour que nous puissions continuer à vous proposer des publications.
