Microsoft a remplacé ses rédacteurs d'actualités par l'IA, cela a entraîné une succession de catastrophes et la colère d'une grande maison d'édition

Courriel à : bradsmi@microsoft.com

Cher Brad,

Je vous écris en raison d'une application très préoccupante de Microsoft genAI sur le journalisme du Guardian dans Microsoft Start - un sondage généré automatiquement demandant au public de spéculer sur la cause de la mort d'une personne. Il s'agit clairement d'une utilisation inappropriée de la genAI par Microsoft sur un sujet d'intérêt public potentiellement pénible, écrit et publié à l'origine par des journalistes du Guardian.

Cette application de la genAI par Microsoft est exactement le type d'exemple sur lequel nous avons mis en garde en ce qui concerne les actualités, et une des principales raisons pour lesquelles nous avons précédemment demandé à vos équipes de ne pas appliquer les technologies expérimentales de la genAI de Microsoft au journalisme sous licence du Guardian.

Non seulement ce type de demande est potentiellement pénible pour la famille de la personne qui fait l'objet de l'article, mais il est aussi profondément préjudiciable à la réputation du Guardian, durement acquise pour son journalisme fiable et sensible, et à la réputation des journalistes qui ont écrit l'article original. Notez les commentaires des lecteurs de Microsoft Start, qui ignorent manifestement que c'est Microsoft qui a créé ce sondage, et non le Guardian.

"Il s'agit du sondage le plus pathétique et le plus dégoûtant que j'aie jamais vu. L'auteur devrait avoir honte."

"C'est bien de savoir qu'on peut faire un sondage sur la façon dont cette femme est morte"

"Quelle société dégoûtante et dépravée nous sommes devenus, dans laquelle un sondage est réalisé sur la façon dont une personne est décédée."
"Un sondage sur la raison de la mort d'une personne ? Qu'est-ce qui ne va pas chez vous !!!"

"Tamsin [la journaliste du Guardian] devrait être licenciée pour ce sondage. Il n'y a manifestement pas de directives communautaires en jeu ici..."

Il y a une absence presque totale d'étiquetage clair ou transparent de ces produits alimentés par la genAI, et certainement aucune clause de non-responsabilité ou d'explication aux utilisateurs que ces technologies sont détenues et exploitées par Microsoft, et de leur manque de fiabilité inhérent. Cela doit changer.

Bien que nous soyons heureux que l'escalade vers différentes équipes de Microsoft ait finalement conduit au retrait du sondage de l'article, de nombreux lecteurs ont manifestement déjà vu le sondage et croient que le Guardian l'a créé. Dans ces conditions, il est tout à fait justifié que Microsoft ajoute une note à l'article pour en assumer l'entière responsabilité.

Nous aimerions également avoir l'assurance que a) Microsoft n'appliquera pas ces technologies expérimentales sur ou à côté du journalisme sous licence du Guardian sans notre accord préalable explicite et b) que Microsoft indiquera toujours clairement aux utilisateurs de vos plates-formes chaque fois que la genAI est impliquée dans la création d'unités et de fonctionnalités supplémentaires telles qu'elles s'appliquent au journalisme de tiers provenant de marques d'information de confiance telles que le Guardian.

Vos collègues de Microsoft n'ont pas répondu de manière substantielle à la demande du Guardian de discuter de la manière dont Microsoft a l'intention de travailler avec les éditeurs qui investissent dans l'information afin de nous indemniser pour l'utilisation de notre propriété intellectuelle dans la formation et le déploiement en direct des technologies d'IA au sein de vos entreprises commerciales plus larges. L'importante atteinte à la réputation causée par cet incident avec un licencié existant de notre propriété intellectuelle démontre le rôle important que joue un cadre solide pour le droit d'auteur en permettant aux éditeurs de négocier les conditions d'utilisation de notre journalisme.

Alors que le sommet mondial de cette semaine se concentre sur la sécurité à long terme, le moment est venu pour Microsoft et les autres grandes plateformes technologiques de définir des principes clairs sur la manière dont ils donneront la priorité a) à une information fiable, b) à une juste rétribution pour l'octroi de licences et l'utilisation du journalisme, et c) à une plus grande transparence pour les consommateurs et à des mesures de sauvegarde pour ce qui reste des technologies hautement imprévisibles.

Je vous prie d'agréer, Monsieur, l'expression de mes salutations distinguées,

Anna Bateson

Directrice générale,
Groupe Guardian Media