Google refuse de rétablir le compte d’un parent signalé par son intelligence artificielle de scannage automatique de correspondances. Motif : le logiciel a signalé à tort des photos médicales de l’aine de son fils comme étant du contenu pédopornographique. Le tableau ravive les débats sur les dérives du scannage automatique des correspondances numériques dont les grandes enseignes technologiques font usage. La situation est d’autant plus intéressante que l’UE travaille à ce que les tous les fournisseurs de services de courrier électronique, de chat et de messagerie fouillent dans les communications privées à la recherche de messages suspects de manière entièrement automatisée et à les transmettre à la police dans le cadre de la lutte contre la pédopornographie. « C’est précisément le type de cauchemar qui nous préoccupe tous. Ils vont scanner mon album de famille et ensuite je vais avoir des problèmes », commente un responsable de l’Electronic Frontier Foundation.
En effet, Mark a été innocenté de tout acte criminel, mais Google a annoncé le maintien de la décision de blocage de son compte. « Nous suivons la loi américaine pour définir ce que sont les contenus pédopornographiques et utilisons une combinaison de technologie de correspondance de hachage et d'intelligence artificielle pour les identifier et les retirer de nos plateformes », a déclaré Christa Muldoon, une porte-parole de Google.
Pour pallier les limites que les algorithmes pourraient avoir à distinguer les images d'abus sexuels des images médicales, les entreprises font souvent appel à un humain dans la boucle. Mais ces personnes sont elles-mêmes limitées dans leur expertise et l'obtention du contexte approprié pour chaque cas nécessite un accès supplémentaire aux données des utilisateurs. En d’autres termes, en l’état actuel des développements, un faux positif de l’intelligence artificielle peut entraîner la suspension du compte d’un tiers par Google sans autre forme de procès.
La situation interpelle d’autant plus que l’UE travaille ce que les tous les fournisseurs de services de courrier électronique, de chat et de messagerie fouillent dans les communications privées à la recherche de messages suspects de manière entièrement automatisée et à les transmettre à la police dans le cadre de la lutte contre la pédopornographie. La présentation d’un projet de loi y relatif s’est en principe faite au cours du mois de mai de l’année en cours.
« Cette intrusion dans nos messages privés et nos photos par des algorithmes sujets aux erreurs est un pas de géant vers un État de surveillance à la chinoise. La prochaine étape consistera-t-elle pour la poste à ouvrir et à scanner toutes les lettres ? Les réseaux organisés de pornographie infantile n'utilisent pas le courrier électronique ou les services de messagerie, mais les forums du darknet. Avec ses projets visant à briser le chiffrement sécurisé, la Commission européenne met en péril la sécurité globale de nos communications privées et de nos réseaux publics, ainsi que les secrets commerciaux et d'État, pour satisfaire des désirs de surveillance à court terme. Ouvrir la porte aux services de renseignement étrangers et aux pirates informatiques est totalement irresponsable. Pour arrêter le contrôle des chats, la communauté du net doit monter au créneau », commente Patrick Breyer – défenseur des libertés civiles.
En effet, les conséquences de l’entrée en vigueur de ce projet de loi sont :
- toutes les conversations en ligne et tous les courriels seront automatiquement fouillés pour détecter tout contenu suspect. Rien ne reste confidentiel ou secret. Il ne sera pas nécessaire d'obtenir une ordonnance du tribunal ou d'avoir un soupçon initial pour effectuer une recherche dans les messages ;
- si un algorithme classe le contenu d'un message comme suspect, les photos privées ou intimes pourront être consultées par le personnel et les sous-traitants de sociétés internationales et les autorités policières. Ces mêmes contenus pourront être consultés par des personnes inconnues ou se retrouver entre les mains d’individus mal intentionnés ;
- les conversations intimes pourront être lues par le personnel et les sous-traitants de sociétés internationales et les autorités policières, car les filtres de reconnaissance de texte qui ciblent la "sollicitation d'enfants" signalent souvent à tort les conversations intimes ;
- des tiers pourront être faussement signalés et faire l'objet d'enquêtes pour diffusion présumée de matériel d'exploitation sexuelle d'enfants. Les algorithmes de contrôle des messages et des chats sont connus pour signaler des photos de vacances tout à fait légales d'enfants sur une plage, par exemple. Selon les autorités de la police fédérale suisse, 86 % de tous les signalements générés par des machines s'avèrent sans fondement ;
- lors d’un voyage à l'étranger, l’on peut se retrouver face à de gros problèmes. Les rapports générés par les machines sur les communications pourront être transmis à d'autres pays, comme les États-Unis, où la confidentialité des données demeure très mal encadrée, ce, avec des résultats incalculables ;
- ce serait la porte ouverte pour les services de renseignement et les pirates sur les conversations et courriels.
En mars, 35 organisations du monde entier, dont l'Association des juristes allemands, Digitale Gesellschaft et le Comité pour la protection des journalistes (CPJ), avaient mis en garde contre la loi européenne sur le contrôle des communications numériques. Selon un sondage, 72% des citoyens s'y opposent. L'accord de coalition du gouvernement allemand déclare sur le sujet du contrôle des communications numériques : « Nous rejetons les mesures visant à scanner les communications privées. »
Et vous ?
Interdire le scannage automatique des communications privées ou le maintenir : de quel bord êtes-vous ? Quelles solutions techniques préconisez-vous dans le cas d’un maintien du scannage automatique des communications privées pour garantir un équilibre entre vie privée et sécurité ?Voir aussi :
Le bitcoin vaut moins que le coût d'extraction, selon JPMorgan, le coût de revient moyen pondéré d'un bitcoin étant estimé à environ 4060 $ La cryptomonnaie de Facebook, une opportunité de 19 milliards de dollars de revenus, et une nouvelle affaire autre que la publicité, selon Barclays La majorité du marché de bitcoin est une tromperie, 95 % du volume des échanges de cette monnaie étant truqué, selon une nouvelle étude Cryptomonnaie : le crash du marché laisse des entreprises en faillite dans son sillage, des développeurs étant privés de financement supplémentaire L'État de New York approuve deux cryptomonnaies liées au dollar : deux nouveaux stablecoins à la suite du TrueUSD aux États-Unis 
Envoyé par Patrick Ruiz
