Microsoft a investi des milliards dans OpenAI, le créateur de ChatGPT, et utilise de plus en plus l'automatisation pour rationaliser ses propres processus - avec des résultats mitigés. Récemment, la confiance de Microsoft dans la technologie au détriment des rédacteurs humains a apparemment conduit à une série désastreuse de publications sur la page d'accueil de l'entreprise, également connue sous le nom de MSN.com et Microsoft Start, selon des personnes familières avec le site, a rapporté CNN.En 2018, le site, qui est automatiquement installé comme page de démarrage par défaut sur les appareils fonctionnant avec le logiciel Microsoft, comptait 800 rédacteurs qui aidaient à rédiger des articles d'actualité pour des millions de lecteurs dans le monde, selon le média. On ne sait pas exactement combien de rédacteurs - s'il y en a - font encore partie du personnel aujourd'hui, mais en 2020, la société a licencié des dizaines de journalistes et de travailleurs éditoriaux au sein de ses organisations Microsoft News et MSN.
L'IA éditoriale de MSN a publié des articles provenant d'organes de faible qualité qui sont manifestement faux, affirmant à tort que le président Joe Biden s'est endormi pendant une minute de silence pour les victimes de l'incendie de Maui ou que le superviseur de San Francisco Dean Preston a démissionné après avoir été critiqué par Elon Musk, d'après CNN.
Mais le manque de surveillance de MSN.com nuit également aux relations de Microsoft avec les publications établies. La semaine dernière, le journal britannique The Guardian a publié un article sur Lilie James, 21 ans, retrouvée morte avec de graves blessures à la tête dans une école de Sydney, en Australie. Au milieu d'une conversation nationale sur la violence à l'égard des femmes en Australie, MSN a republié l'article du Guardian et l'a accompagné d'un sondage pour les lecteurs : "Quelle est, selon vous, la raison de la mort de cette femme ?" Les options proposées étaient "meurtre", "accident" ou "suicide".
"Non seulement ce type d'application est potentiellement pénible pour la famille de la personne qui fait l'objet de l'article, mais il est aussi profondément préjudiciable à la réputation du Guardian, durement acquise pour son journalisme fiable et sensible, ainsi qu'à la réputation des journalistes qui ont écrit l'article original", a écrit Anna Bateson, directrice générale du Guardian Media Group, dans une lettre adressée mardi 31 octobre à Brad Smith, président de Microsoft.
Un porte-parole de Microsoft a déclaré à CNN que l'entreprise désactivait tous les sondages sur les articles d'actualité et "enquêtait sur la cause du contenu inapproprié" afin d'éviter qu'une telle erreur ne se reproduise à l'avenir.
Voici le contenu de la lettre adressée par Mme Anna Bateson à M. Brad Smith :
Courriel à : bradsmi@microsoft.com
Cher Brad,
Je vous écris en raison d'une application très préoccupante de Microsoft genAI sur le journalisme du Guardian dans Microsoft Start - un sondage généré automatiquement demandant au public de spéculer sur la cause de la mort d'une personne. Il s'agit clairement d'une utilisation inappropriée de la genAI par Microsoft sur un sujet d'intérêt public potentiellement pénible, écrit et publié à l'origine par des journalistes du Guardian.
Cette application de la genAI par Microsoft est exactement le type d'exemple sur lequel nous avons mis en garde en ce qui concerne les actualités, et une des principales raisons pour lesquelles nous avons précédemment demandé à vos équipes de ne pas appliquer les technologies expérimentales de la genAI de Microsoft au journalisme sous licence du Guardian.
Non seulement ce type de demande est potentiellement pénible pour la famille de la personne qui fait l'objet de l'article, mais il est aussi profondément préjudiciable à la réputation du Guardian, durement acquise pour son journalisme fiable et sensible, et à la réputation des journalistes qui ont écrit l'article original. Notez les commentaires des lecteurs de Microsoft Start, qui ignorent manifestement que c'est Microsoft qui a créé ce sondage, et non le Guardian.
"Il s'agit du sondage le plus pathétique et le plus dégoûtant que j'aie jamais vu. L'auteur devrait avoir honte."
"C'est bien de savoir qu'on peut faire un sondage sur la façon dont cette femme est morte"
"Quelle société dégoûtante et dépravée nous sommes devenus, dans laquelle un sondage est réalisé sur la façon dont une personne est décédée."
"Un sondage sur la raison de la mort d'une personne ? Qu'est-ce qui ne va pas chez vous !!!"
"Tamsin [la journaliste du Guardian] devrait être licenciée pour ce sondage. Il n'y a manifestement pas de directives communautaires en jeu ici..."
Il y a une absence presque totale d'étiquetage clair ou transparent de ces produits alimentés par la genAI, et certainement aucune clause de non-responsabilité ou d'explication aux utilisateurs que ces technologies sont détenues et exploitées par Microsoft, et de leur manque de fiabilité inhérent. Cela doit changer.
Bien que nous soyons heureux que l'escalade vers différentes équipes de Microsoft ait finalement conduit au retrait du sondage de l'article, de nombreux lecteurs ont manifestement déjà vu le sondage et croient que le Guardian l'a créé. Dans ces conditions, il est tout à fait justifié que Microsoft ajoute une note à l'article pour en assumer l'entière responsabilité.
Nous aimerions également avoir l'assurance que a) Microsoft n'appliquera pas ces technologies expérimentales sur ou à côté du journalisme sous licence du Guardian sans notre accord préalable explicite et b) que Microsoft indiquera toujours clairement aux utilisateurs de vos plates-formes chaque fois que la genAI est impliquée dans la création d'unités et de fonctionnalités supplémentaires telles qu'elles s'appliquent au journalisme de tiers provenant de marques d'information de confiance telles que le Guardian.
Vos collègues de Microsoft n'ont pas répondu de manière substantielle à la demande du Guardian de discuter de la manière dont Microsoft a l'intention de travailler avec les éditeurs qui investissent dans l'information afin de nous indemniser pour l'utilisation de notre propriété intellectuelle dans la formation et le déploiement en direct des technologies d'IA au sein de vos entreprises commerciales plus larges. L'importante atteinte à la réputation causée par cet incident avec un licencié existant de notre propriété intellectuelle démontre le rôle important que joue un cadre solide pour le droit d'auteur en permettant aux éditeurs de négocier les conditions d'utilisation de notre journalisme.
Alors que le sommet mondial de cette semaine se concentre sur la sécurité à long terme, le moment est venu pour Microsoft et les autres grandes plateformes technologiques de définir des principes clairs sur la manière dont ils donneront la priorité a) à une information fiable, b) à une juste rétribution pour l'octroi de licences et l'utilisation du journalisme, et c) à une plus grande transparence pour les consommateurs et à des mesures de sauvegarde pour ce qui reste des technologies hautement imprévisibles.
Je vous prie d'agréer, Monsieur, l'expression de mes salutations distinguées,
Anna Bateson
Directrice générale,
Groupe Guardian Media
Et vous ?
Quelle lecture faites-vous de cette situation ? Que pensez-vous de cet usage de l'IA générative, et de ses retombées potentielles ? Êtes-vous pour ou contre les articles d'actualités générés par l'IA tant qu'ils sont pertinents et factuellement exacts ? Voir aussi
CNET publie discrètement des articles entiers générés par l'IA et l'indique sur un descriptif déroulant, puis se ravise suite aux réactions La presse écrite veut être payée pour les articles utilisés pour alimenter l'outil d'IA ChatGPT, elle exige une part du marché qui devrait atteindre 1300 million de dollars d'ici à 2032 Microsoft lance Azure AI Content Safety pour filtrer les contenus nuisibles des utilisateurs et de l'IA, dans le but d'améliorer l'expérience utilisateur et de protéger son image de marque Les dépenses en solutions GenAI atteindront 143 milliards de dollars en 2027, avec un taux de croissance annuel composé de 73,3 % sur cinq ans, selon les prévisions d'IDC 
Envoyé par melka one
