Apple suspend ses notifications générées par IA après la diffusion de faux titres. Les hallucinations liées à l'IA sont toujours aussi répandues

Deux ans après le lancement de ChatGPT

Apple a temporairement interrompu une fonction de résumé d'actualités d'Apple Intelligence, son service phare d'intelligence artificielle (IA), après plusieurs cas où des résumés d'actualités erronés ont été présentés aux utilisateurs. La décision d'Apple de suspendre le service a été prise à la suite d'une plainte déposée par la BBC. Le service d'Apple avait généré un résumé d'actualité portant le logo de la BBC et indiquant à tort que Luigi Mangione (l'homme accusé d'avoir tué le PDG de UnitedHealthcare, Brian Thompson) s'était suicidé. Ce n'est pas la seule fausse alerte générée par l'IA d'Apple à porter le logo de la BBC. Parmi les autres, citons une information selon laquelle le joueur de tennis Rafael Nadal avait révélé son homosexualité, et une autre annonçant le nom du champion de la finale mondiale de fléchettes PDC avant que le match n'ait eu lieu.

Contexte

Apple a décidé de suspendre son système de notifications générées par intelligence artificielle pour son service Apple News. Cette décision survient après la diffusion de faux titres ayant suscité des controverses, mettant en lumière les défis complexes de l'intégration de l'IA dans les processus éditoriaux.

Un porte-parole d'Apple a déclaré « Avec les dernières versions bêta des logiciels iOS 18.3, iPadOS 18.3 et macOS Sequoia 15.3, les résumés de notification pour la catégorie Actualités et divertissement seront temporairement indisponibles ». Et de préciser : « Nous travaillons sur des améliorations et les rendrons disponibles lors d'une prochaine mise à jour logicielle ». Apple a également confirmé que les résumés générés par l'IA feraient l'objet d'un changement de format, toutes les notifications d'applications résumées par l'IA apparaissant en italique.

Des titres d'autres organismes de presse ont également été résumés de manière erronée par l'IA d'Apple, notamment un article du New York Times que l'IA a résumé en disant que le premier ministre d'Israël, Benjamin Netanyahu, avait été arrêté.

Une erreur coûteuse pour l'image d'Apple

Ce rare revirement de la part du fabricant de l'iPhone concernant sa fonction Apple Intelligence, fortement commercialisée, intervient après que la technologie a produit des résumés trompeurs ou carrément faux de titres d'actualité, qui semblent presque identiques aux notifications push habituelles.

Jeudi, Apple a mis à la disposition des développeurs une mise à jour logicielle bêta qui désactive la fonction d'intelligence artificielle pour les titres d'actualité et de divertissement, qu'elle prévoit de déployer ultérieurement pour tous les utilisateurs pendant qu'elle travaille à l'amélioration de la fonction d'intelligence artificielle. La société prévoit de réactiver la fonction dans une prochaine mise à jour.

Dans le cadre de cette mise à jour, l'entreprise a indiqué que les résumés d'Apple Intelligence, auxquels les utilisateurs doivent adhérer, souligneront plus explicitement que les informations ont été produites par l'IA, en précisant que celle-ci peut parfois produire des résultats inexacts.

L'Apple Intelligence a été introduite sur les iPhone, les iPad et les Mac en décembre, promettant toute une série de nouvelles fonctionnalités. L'une d'entre elles consistait à résumer les longues notifications sur l'iPhone et à condenser plusieurs notifications en une seule.

La fonction a notamment tendance à partager allègrement des intox. La situation est devenue suffisamment grave pour que les principaux organes de presse se plaignent de la manière dont les titres induisent les lecteurs en erreur et demandent à Apple de corriger ou de supprimer sa fonction avant qu'elle ne les mette encore plus dans l'embarras.


Des erreurs qui suscitent la colère

Le mois dernier, la BBC s'est plainte de cette technologie auprès d'Apple, l'exhortant à supprimer la fonction après qu'elle a créé de faux titres affirmant que Luigi Mangione, accusé de meurtre dans la mort du PDG de UnitedHealthcare, s'était suicidé. À une autre occasion, trois articles du New York Times ont également été résumés dans une seule notification push, affirmant à tort que le Premier ministre israélien Benjamin Netanyahu avait été arrêté.

Un porte-parole de la BBC a déclaré en décembre qu'il était « essentiel qu'Apple s'attaque d'urgence à ces problèmes, car l'exactitude de nos informations est essentielle pour maintenir la confiance ». Et de préciser que « Ces résumés d'Apple par l'IA ne reflètent pas - et dans certains cas contredisent complètement - le contenu original de la BBC ».

Mercredi, la fonction alimentée par l'IA a une fois de plus résumé de manière incorrecte une notification du Washington Post,...