Des défenseurs de la liberté de la presse demandent à Apple de se débarrasser d'une intelligence générative. Motif : le système qu’ils jugent "immature" a mal résumé une notification de la BBC indiquant à tort que Luigi Mangione, PDG présumé de UnitedHealthcare, s'était suicidé. Le tableau questionne sur la pertinence des tentatives à répétition de remplacement des humains par l'intelligence artificielle. Reporters sans frontières a déclaré cette semaine que l'erreur de l'intelligence artificielle d'Apple, qui a généré un faux résumé "Luigi Mangione se tire une balle", est une nouvelle preuve que l'intelligence artificielle ne peut pas produire des informations fiables pour le public. Apple Intelligence, qui a été lancé au Royaume-Uni le 11 décembre, a eu besoin de moins de 48 heures pour commettre cette erreur très publique.
« Cet incident met en évidence l'incapacité des systèmes d'intelligence artificielle à publier systématiquement des informations de qualité, même lorsqu'elles sont basées sur des sources journalistiques », a déclaré Reporters Sans Frontières. « Le mode de fonctionnement probabiliste des systèmes d'IA les disqualifie automatiquement en tant que technologie fiable pour les médias d'information qui peuvent être utilisés dans des solutions destinées au grand public. »
Reporters sans frontières estime que l'intelligence artificielle ne devrait pas être autorisée à être utilisée à de telles fins et demande à Apple de retirer cette fonctionnalité de ses systèmes d'exploitation.
L'écriture artificielle s'améliore mais n'arrive toujours pas à égaler la créativité humaine, d'après une étudeApple urged to axe AI feature after false headline https://t.co/EFvYKaJOvY
— BBC News (World) (@BBCWorld) December 19, 2024
En quelques frappes au clavier, n'importe qui peut demander à une intelligence artificielle telle que ChatGPT de lui écrire un mémoire, une chanson de rap ou une pièce de théâtre. Mais il ne faut pas s'attendre à l'originalité de William Shakespeare. C'est ce qui ressort d'une nouvelle étude axée sur l'originalité des productions de l'intelligence artificielle. Cette dernière ravive les questionnements sur les tentatives de remplacement des humains par l'intelligence artificielle.
Ximing Lu, informaticien à l'université de Washington, et ses collègues ont créé un programme alliant objectivité et nuance. Baptisé DJ Search, il recueille des morceaux de texte d'une longueur minimale à partir de tout ce que l'IA produit et les recherche dans de grandes bases de données en ligne. DJ Search ne se contente pas de rechercher des correspondances identiques ; il recherche également des chaînes dont les mots ont des significations similaires. Pour évaluer le sens d'un mot ou d'une phrase, le programme lui-même s'appuie sur un algorithme d'IA distinct qui produit un ensemble de nombres qui représente grosso modo les contextes dans lesquels les mots sont généralement trouvés. Les mots synonymes sont numériquement proches. Par exemple, les phrases qui échangent "anticipation" et "excitation" sont considérées comme des correspondances.
Après avoir supprimé toutes les correspondances, le programme calcule le rapport entre les mots restants et la longueur du document original, ce qui devrait permettre d'estimer la part de nouveauté dans les résultats de l'IA. Le programme effectue ce processus pour différentes longueurs de chaîne (l'étude utilise un minimum de cinq mots) et combine les ratios en un indice de nouveauté linguistique. (L'équipe l'appelle "indice de créativité", mais la créativité exige à la fois nouveauté et qualité - un charabia aléatoire est nouveau mais pas créatif).
Les chercheurs ont comparé la nouveauté linguistique de romans, de poèmes et de discours publiés avec des œuvres écrites par de récents LLM. Les humains ont surpassé les IA d'environ 80 % pour la poésie, 100 % pour les romans et 150 % pour les discours, indiquent les chercheurs dans un article publié sur OpenReview et actuellement soumis à un examen par les pairs.
Le professeur Arvind Narayanan de l’université de Princeton est d’avis que les modèles d’IA comme ChatGPT c’est de « la poudre de perlimpinpin. »
« Sayash Kapoor et moi-même l'appelons un générateur de conneries, comme d'autres l'ont aussi fait. Nous n'entendons pas cela dans un sens normatif mais dans un sens relativement précis. Nous voulons dire qu'il est entraîné à produire des textes plausibles. Il est très bon pour être persuasif, mais il n'est pas entraîné à produire des déclarations vraies. Il produit souvent des affirmations vraies comme effet secondaire de sa plausibilité et de sa persuasion, mais ce n'est pas son objectif.
Cela correspond en fait à ce que le philosophe Harry Frankfurt a appelé connerie, c'est-à-dire un discours destiné à persuader sans se soucier de la vérité. Un conteur humain ne se soucie pas de savoir si ce qu'il dit est vrai ou non ; il a certaines fins en tête. Tant qu'il persuade, ces objectifs sont atteints. En fait, c'est ce que fait ChatGPT. Il essaie d'être persuasif et il n'a aucun moyen de savoir avec certitude si les déclarations qu'il fait sont vraies ou non », déclare-t-il.
Source : RSF
Et vous ?
Les tendances mises en avant dans le cadre de cet incident et de cette étude sont elles cohérentes avec la réalité dont vous êtes au fait ? Que pensez-vous des tentatives de remplacement de l’humain par l’intelligence artificielle dans un contexte d’immaturité de ladite technologie ? Quelle est votre expérience avec l'intelligence artificielle en tant que développeur informatique ? Utile ? Gadget ? Partagez vos anecdotesVoir aussi :
80 % des technologies pourraient être créées par des professionnels extérieurs à l'informatique d'ici 2024, grâce aux outils low-code, selon Gartner Forrester : l'utilisation des plateformes de développement low-code gagne du terrain dans les processus de transformation numérique des entreprises Le marché mondial des technologies de développement low-code va augmenter de 23 % en 2021, selon les prévisions de Gartner Microsoft lance Power Fx, un nouveau langage de programmation low-code open source basé sur Excel