Un scandale provoqué par des deepfakes sexuellement explicites générés par l'IA entraîne la fermeture d'une école en Pennsylvanie,

Les défis liés à la technologie deepfake exacerbés par l'IA générative

Les entreprises technologiques européennes mettent en garde contre une baisse des niveaux de protection des données dans l'UE,
menacée par une initiative de la Commission européenne

En collaboration avec les sociétés Tutanota, Boxcryptor, Cryptomator, mail.de, Mailfence, Praxonomy et Tresorit, mailbox.org a écrit une lettre ouverte à l'UE critiquant vivement les plans à venir pour la surveillance des communications.

Dans le cadre de la lutte contre la pédopornographie, le Conseil des ministres de l'UE a approuvé la proposition d'abroger la directive sur la confidentialité électronique par un règlement transitoire à la fin de 2020. Avant cela, en juillet, la Commission européenne avait déclaré que le chiffrement était le principal obstacle dans la lutte contre les agresseurs d'enfants. Plus récemment, en décembre, la commission des libertés civiles, de la justice et des affaires intérieures du Parlement européen a également voté pour restreindre la protection des données en faveur de l'application de la loi.

Toutefois, l'industrie insiste sur le fait que seul le chiffrement de bout en bout est en mesure de garantir une communication confidentielle ainsi que la confidentialité et le secret de la correspondance entre les utilisateurs. Mais dans la lutte contre la pornographie juvénile, les politiciens et les législateurs nationaux l'ont identifié comme le problème central et préféreraient l'interdire.

Selon les signataires de la lettre ouverte, toute obligation de filtrer tous les messages privés de chat est en contradiction avec les principes européens de protection des données. Les auteurs en sont convaincus : autoriser l'accès à des communications chiffrées par des organisations privées et des autorités publiques est incompatible avec une UE forte en tant que lieu technologique, cela porterait énormément préjudice aux idéaux européens et aux fondements incontestables de notre démocratie, à savoir la liberté d'expression et la protection de la vie privée .

Le PDG de mailbox.org Peer Heinlein a commenté en ces termes : « Personne ne veut limiter les poursuites pour pornographie juvénile. Mais les auteurs de ces cercles savent comment se soustraire et se protéger numériquement. Les initiatives législatives actuelles n'apporteront aucun changement ici. Au lieu de cela, la restriction de la communication chiffrée cause un grand tort à la société et constitue un empiétement profond sur les droits fondamentaux de la liberté de pensée et d'expression de tous les citoyens. La protection de la communication sécurisée ne doit pas être sacrifiée ici, non: elle est attaquée et doit être protégée et étendue. »

Lettre ouverte

Dans le cadre de l'initiative «Lutte contre les abus sexuels sur les enfants: détection, suppression et signalement de contenus illégaux», l'Union européenne envisage de supprimer la confidentialité numérique de la correspondance. Afin de détecter automatiquement le contenu illégal, tous les messages de chat privé doivent être filtrés à l'avenir. Cela devrait également s'appliquer au contenu qui a jusqu'à présent été protégé par un cryptage puissant de bout en bout. Si cette initiative était mise en œuvre selon le plan actuel, elle porterait énormément préjudice à nos idéaux européens et aux fondements incontestables de notre démocratie, à savoir la liberté d'expression et la protection de la vie privée (voir lettre EDRi). L’initiative porterait également gravement atteinte à l’autonomie stratégique de l’Europe et, partant, aux entreprises basées dans l’UE.

L'Europe en tant que leader technologique mondial est respectée au niveau international pour son haut niveau de protection des données, notamment en raison de l'effet exemplaire du RGPD. Dans un marché internationalement très compétitif, les entreprises européennes sont en première position en matière de protection des données. L'initiative de l'UE pourrait désormais mettre en danger cet argument de vente unique des entreprises informatiques européennes.

Pour ces raisons, nous demandons:

• Le niveau élevé de protection des données dans l'Union européenne doit être maintenu.
• Les droits fondamentaux doivent être préservés, en particulier le droit à la vie privée et à la confidentialité numérique de la correspondance.
• L'appel à une surveillance de masse est trop simpliste et de courte durée.

Un niveau élevé de protection des données dans l'UE doit être maintenu

Le règlement général sur la protection des données est un modèle global de protection des données personnelles. Certains pays ont déjà lancé ou adopté leurs propres versions du RGPD. L'Union européenne, qui planifie maintenant exactement les étapes opposées, envoie un mauvais signal avec des effets désastreux pour l'UE en tant que site informatique. Des normes élevées de protection des données conduisent à une grande confiance dans les produits informatiques européens. Le label «Made in Europe» pèse lourdement sur nos clients – non seulement en Europe, mais dans le monde entier. L'obligation de briser la haute protection des communications chiffrées de bout en bout met en danger les activités de nombreuses sociétés informatiques dans toute l'UE. Cela détruirait un argument de vente unique important pour les entreprises informatiques européennes sur le marché mondial.

Nous soulignons explicitement que l'accès aux communications chiffrées par des organisations privées et des autorités publiques est incompatible avec une UE forte en tant que site technologique.


Droit à la vie privée et secret numérique de la correspondance

Une communication protégée est essentielle à la coexistence au sein de notre société. Le devoir de confidentialité du médecin et le secret professionnel de l'avocat, par exemple, sont considérés comme des droits d'une valeur incommensurable. Mais comment ces professions sont-elles censées maintenir leur secret professionnel si une communication protégée avec les patients et les clients n'est pas possible? Comme la plupart des industries modernes, ils s'appuient sur une communication numérique sécurisée pour respecter leurs vœux de confidentialité. La surveillance de toutes les communications au sein de services indépendants du nombre équivaut à un recul technologique au 20^e siècle. Les communications postales et personnelles resteraient les seules alternatives sûres.

Pourtant, l’initiative de l’UE n’empêchera pas la commission de crimes. Cela n'empêchera pas non plus les criminels de mettre en place des services de chat chiffrés privés de bout en bout pour des activités illégales avec peu d'efforts et continuera ainsi à échapper aux autorités chargées de l'application de la loi. C'est la majorité des particuliers, s'appuyant sur des réseaux publics avec de nombreux participants, qui seront réellement concernés par l'initiative de l'UE – et qui seront privés de leur droit à une communication confidentielle dans les espaces numériques.

La protection de la confidentialité numérique de la correspondance ne doit pas être affaiblie. Au contraire, avec le déplacement constant de la communication sensible dans tous les domaines de notre société vers la sphère numérique, un cryptage solide de bout en bout est impératif.

L'appel à une surveillance de masse est trop simpliste

Enfin, nous voudrions appeler la Commission européenne à s'abstenir de toute politique populiste et actionniste et à résoudre les problèmes sur le fond. Interdire efficacement les communications sécurisées pour tous les citoyens de l'UE rend la vie de tous dangereuse.

L'abolition de la vie privée est particulièrement problématique en ce qui concerne la communication privée. Des contrôles automatisés de la plupart des messages intimes, comme des photos de nus envoyées via des réseaux publics, par exemple, peuvent amener les employés de sociétés internationales et les autorités policières à visionner ces images intimes. En d’autres termes: les étrangers ont accès aux messages les plus personnels de quelqu'un et peuvent à leur tour les diffuser. Cela crée un nouveau risque.

La surveillance de masse ne contribue pas, comme certains le prétendent, à prévenir le terrorisme ou les abus sexuels sur les enfants. Sascha Lobo a fait valoir dans le magazine d'information allemand Der Spiegel qu'une surveillance accrue ne conduisait pas nécessairement à plus de sécurité: "Depuis 2014, un total de 24 auteurs identifiés ont commis 13 attentats islamistes dans l'UE – et tous, oui littéralement 100 % des agresseurs étaient auparavant connus des autorités et avaient une propension à la violence. "

L'efficacité de la surveillance de masse pour résoudre les crimes n'a pas été prouvée. Cependant, trois éléments sont certains pour aider à protéger efficacement les enfants contre la violence sexuelle:

• Poursuites ciblées, au lieu de surcharger les autorités avec des images inoffensives.
• Travail de prévention et d'intervention dans les familles et les institutions, discussions publiques régulières avec des experts des médias et formation obligatoire pour tous ceux qui travaillent avec les gens.
• Reconnaissance du fait que la violence se produit principalement au sein de la famille.

En résumé, nous concluons : Nous ne devons pas baser les normes de notre société sur le comportement des criminels. Les crimes ne peuvent être évités en faisant de chaque citoyen un suspect potentiel.

Nous voyons un danger évident dans l’initiative de l’UE « Lutte contre les abus sexuels sur les enfants: détection, suppression et signalement de contenus illégaux » qui sécurise la communication des citoyens et des entreprises pour des raisons de protection des enfants. Cela ne doit pas se produire dans une société ouverte et démocratique.

En tant qu'experts dans le domaine de la communication sécurisée, nous sommes disponibles pour discuter avec la Commission européenne de ce qui est techniquement faisable.

Source : lettre ouverte

Et vous ?

Êtes-vous pour ou contre l'affaiblissement du chiffrement au nom d'une lutte quelconque (dans le cas d'espèce la lutte contre les abus sexuels sur les enfants) ? Dans quelle mesure ?
Que pensez-vous des risques évoqués par les entreprises technologiques ?

Voir aussi :

Pourquoi IBM prône-t-il le "chiffrement entièrement homomorphe" ? L'entreprise estime que ce mode de chiffrement offrira une sécurité renforcée aux utilisateurs
L'Electronic Frontier Foundation exige que le FBI cesse de s'attaquer au chiffrement et informer le Congrès de tous les téléphones qu'il a déjà piratés
Intel va fabriquer une puce pour le chiffrement entièrement homomorphe, dans le cadre du programme DPRIVE de la DARPA