Microsoft a découvert que ses propres outils étaient utilisés par des acteurs malveillants dans un épisode récemment médiatisé. Microsoft indique dans un billet de blog que l'entreprise "s'est engagée à adopter une approche solide et globale", citant six domaines d'action différents. Brad Smith, le vice-président de Microsoft écrit que "nous devons agir de toute urgence pour lutter contre tous ces problèmes".Nous assistons actuellement à une expansion rapide de l'utilisation abusive des nouveaux outils d'IA par des acteurs malveillants", écrit Brad Smith, vice-président de Microsoft, "notamment par le biais de deepfakes basés sur des vidéos, des sons et des images générés par l'IA". Cette tendance fait peser de nouvelles menaces sur les élections, la fraude financière, le harcèlement par le biais de la pornographie non consensuelle et la nouvelle génération de cyberintimidation.
Chaque jour, des millions de personnes utilisent de puissants outils d'IA générative pour stimuler leur expression créative. À bien des égards, l'IA offrira à chacun des possibilités passionnantes de donner vie à de nouvelles idées. Toutefois, à mesure que ces nouveaux outils sont commercialisés par Microsoft et l'ensemble du secteur technologique, on doit prendre de nouvelles mesures pour nous assurer que ces nouvelles technologies résistent aux abus.
L'histoire de la technologie montre depuis longtemps que la créativité n'est pas l'apanage des personnes bien intentionnées. Les outils deviennent malheureusement aussi des armes, et ce schéma se répète. On assiste actuellement à une expansion rapide de l'utilisation abusive de ces nouveaux outils d'IA par des acteurs malveillants, notamment par le biais de "deepfakes" basés sur des vidéos, des sons et des images générés par l'IA. Cette tendance fait peser de nouvelles menaces sur les élections, la fraude financière, le harcèlement par la pornographie non consensuelle et la nouvelle génération de cyberintimidation.
On doit agir de toute urgence pour lutter contre tous ces problèmes. Voici l'approche de Microsoft pour lutter contre les contenus abusifs générés par l'IA :
Il est encourageant de constater que nous pouvons tirer de nombreux enseignements de notre expérience en tant qu'industrie dans des domaines adjacents : faire progresser la cybersécurité, promouvoir la sécurité des élections, lutter contre les contenus extrémistes violents et protéger les enfants. En tant qu'entreprise, nous nous engageons à adopter une approche solide et globale qui protège les personnes et nos communautés, en nous appuyant sur six domaines d'action :
En fin de compte, rien de tout cela ne sera facile. Il faudra déployer des efforts difficiles mais indispensables chaque jour. Mais avec un engagement commun en faveur de l'innovation et de la collaboration, nous pensons que nous pouvons tous travailler ensemble pour faire en sorte que la technologie reste en tête dans sa capacité à protéger le public. Peut-être plus que jamais, tel doit être notre objectif collectif.
- Une architecture de sécurité solide. Nous nous engageons à adopter une approche technique globale fondée sur la sécurité dès la conception. Selon le scénario, une architecture de sécurité solide doit être appliquée au niveau de la plateforme d'IA, du modèle et des applications. Elle comprend des aspects tels que l'analyse continue de l'équipe rouge, les classificateurs préemptifs, le blocage des invites abusives, les tests automatisés et l'interdiction rapide des utilisateurs qui abusent du système. Elle doit s'appuyer sur une analyse de données solide et étendue. Microsoft a mis en place une architecture solide et partagé ses connaissances par le biais de ses normes en matière d'IA responsable et de sécurité numérique, mais il est clair que nous devrons continuer à innover dans ces domaines au fur et à mesure que la technologie évolue.
- Provenance durable des médias et filigrane. C'est essentiel pour lutter contre les "deepfakes" dans la vidéo, les images ou l'audio. L'année dernière, lors de notre conférence Build 2023, nous avons annoncé des capacités de provenance des médias qui utilisent des méthodes cryptographiques pour marquer et signer le contenu généré par l'IA avec des métadonnées sur sa source et son historique. Avec d'autres grandes entreprises, Microsoft a joué un rôle de premier plan dans la recherche et le développement de méthodes d'authentification de la provenance, notamment en tant que cofondateur du projet Origin et de l'organisme de normalisation Coalition for Content Provenance and Authenticity (C2PA). La semaine dernière, Google et Meta ont pris des mesures importantes pour soutenir la C2PA, mesures que nous apprécions et applaudissons.
Nous utilisons déjà la technologie de provenance dans les outils de création d'images Microsoft Designer dans Bing et dans Copilot, et nous sommes en train d'étendre la provenance des médias à tous nos outils qui créent ou manipulent des images. Nous étudions également activement les techniques de filigrane et d'empreinte digitale qui contribuent à renforcer les techniques de provenance. Nous nous engageons à poursuivre l'innovation afin d'aider les utilisateurs à déterminer rapidement si une image ou une vidéo a été générée ou manipulée par l'IA. - Protéger nos services contre les contenus et les comportements abusifs. Nous nous engageons à protéger la liberté d'expression. Mais cela ne devrait pas protéger les individus qui cherchent à imiter la voix d'une personne pour escroquer l'argent d'une personne âgée. Elle ne doit pas s'étendre aux "deepfakes" qui modifient les actions ou les déclarations de candidats politiques pour tromper le public. Elle ne doit pas non plus protéger un cyber-homme de main ou un distributeur de pornographie non consensuelle. Nous nous engageons à identifier et à supprimer les contenus trompeurs et abusifs de ce type lorsqu'ils se trouvent sur nos services hébergés destinés aux consommateurs, tels que LinkedIn, notre réseau de jeux et d'autres services pertinents.
- Une collaboration solide entre les entreprises et avec les gouvernements et la société civile. Bien que chaque entreprise soit responsable de ses propres produits et services, l'expérience montre que c'est souvent lorsque nous travaillons ensemble pour un écosystème numérique plus sûr que nous obtenons les meilleurs résultats. Nous nous engageons à travailler en collaboration avec d'autres acteurs du secteur technologique, notamment dans les domaines de l'IA générative et des médias sociaux. Nous nous engageons également à déployer des efforts proactifs avec les groupes de la société civile et à collaborer de manière appropriée avec les gouvernements.
Pour aller de l'avant, nous nous appuierons sur notre expérience de la lutte contre l'extrémisme violent dans le cadre de l'appel de Christchurch, sur notre collaboration avec les forces de l'ordre par l'intermédiaire de notre unité de lutte contre la criminalité numérique, et sur nos efforts pour mieux protéger les enfants dans le cadre de l'alliance mondiale WeProtect et d'une manière plus générale. Nous sommes déterminés à prendre de nouvelles initiatives dans l'ensemble du secteur technologique et avec d'autres groupes de parties prenantes. - Une législation modernisée pour protéger les personnes contre l'utilisation abusive des technologies. Il est déjà évident que certaines de ces nouvelles menaces nécessiteront l'élaboration de nouvelles lois et de nouveaux efforts de la part des forces de l'ordre. Nous sommes impatients de contribuer aux idées et de soutenir les nouvelles initiatives des gouvernements du monde entier, afin de mieux protéger les internautes tout en respectant des valeurs intemporelles telles que la protection de la liberté d'expression et de la vie privée.
- Sensibilisation et éducation du public. Enfin, une défense solide nécessitera un public bien informé. À l'approche du deuxième quart du XXIe siècle, la plupart des gens ont appris qu'il ne faut pas croire tout ce que l'on lit sur l'internet (ou ailleurs). Une combinaison de curiosité et de scepticisme bien informé est une compétence essentielle pour tout le monde.
De la même manière, nous devons aider les gens à reconnaître qu'il ne faut pas croire toutes les vidéos que l'on voit ou tous les sons que l'on entend. Nous devons aider les gens à apprendre à repérer les différences entre un contenu légitime et un contenu falsifié, y compris en ce qui concerne le filigrane. Cela nécessitera de nouveaux outils et programmes d'éducation du public, notamment en étroite collaboration avec la société civile et les dirigeants de l'ensemble de la société.
En fin de compte, rien de tout cela ne sera facile. Il faudra déployer des efforts difficiles mais indispensables chaque jour. Mais avec un engagement commun en faveur de l'innovation et de la collaboration, nous pensons que nous pouvons tous travailler ensemble pour faire en sorte que la technologie reste en tête dans sa capacité à protéger le public. Peut-être plus que jamais, tel doit être notre objectif collectif.
Et vous ?
Pensez-vous que cette approche de Microsoft est crédible ou pertinente ? Quel est votre avis sur le sujet ?Voir aussi :
Les entreprises technologiques prévoient de signer un accord pour lutter contre les fraudes électorales générées par l'IA, alors que des tentatives d'ingérence électorale par l'IA ont déjà eu lieu Microsoft comble la lacune qui a causé l'incident "Taylor Swift", avec plus de protections pour Designer. Le générateur d'images par IA était utilisé pour produire des images pornographiques Conférence développeurs et IT Pro Ignite 2023 : Microsoft dévoile sa stratégie pour l'IA, le Cloud, et la sécurité, ainsi que pour Windows, Copilot, ChatGPT, GTP-4, Azure, et Microsoft Office 365 
Envoyé par virginieh
