L'administration fiscale néerlandaise a ruiné des milliers de vies après avoir utilisé un algorithme pour repérer des soupçons de fraude aux prestations sociales et les critiques disent que rien n'empêche que cela se reproduise. En effet, l'autorité néerlandaise chargée des données personnelles (Autoriteit Persoonsgegevens, AP) a infligé une amende de 3,7 millions d'euros à l'administration fiscale et douanière en raison du traitement illégal de données à caractère personnel dans le système de notification des fraudes (FSV) pendant des années.Au cours de son enquête sur le FSV, l'AP a découvert une longue liste de violations de la loi sur la protection de la vie privée, le Règlement général sur la protection des données (RGPD). Il s'agissait d'une liste noire sur laquelle l'administration fiscale et douanière gardait la trace des signaux de fraude. Cela a souvent eu des conséquences importantes pour les personnes qui figuraient à tort sur la liste.
La vie de Chermaine Leysner a basculé en 2012, lorsqu'elle a reçu une lettre de l'administration fiscale néerlandaise lui demandant de rembourser ses allocations de garde d'enfants remontant à 2008. Leysner, alors étudiante en travail social, avait trois enfants de moins de 6 ans et la facture fiscale s'élevait à plus de 100 000 €. « Je me suis dit : "Ne t'inquiète pas, c'est une grosse erreur". Mais ce n'était pas une erreur. C'était le début de quelque chose d'énorme », a-t-elle déclaré.
L'épreuve a pris neuf ans de la vie de Leysner. Le stress causé par la facture fiscale et le diagnostic de cancer de sa mère ont plongé Leysner dans la dépression et l'épuisement. Elle a fini par se séparer du père de ses enfants. « Je travaillais comme une folle pour pouvoir encore faire quelque chose pour mes enfants, comme leur donner de bonnes choses à manger ou leur acheter des bonbons. Mais il m'est arrivé que mon petit garçon doive aller à l'école avec un trou dans sa chaussure », raconte Leysner.
Leysner est l'une des dizaines de milliers de victimes de ce que les Néerlandais ont surnommé le "toeslagenaffaire", ou le scandale des allocations de garde d'enfants. En 2019, il a été révélé que les autorités fiscales néerlandaises avaient utilisé un algorithme d'autoapprentissage pour créer des profils de risque dans le but de repérer les fraudes aux allocations de garde d'enfants.
Les autorités pénalisaient les familles sur un simple soupçon de fraude basé sur les indicateurs de risque du système. Des dizaines de milliers de familles souvent à faibles revenus ou appartenant à des minorités ethniques ont été poussées dans la pauvreté en raison de dettes exorbitantes envers l'agence fiscale. Certaines victimes se sont suicidées. Plus d'un millier d'enfants ont été placés dans des familles d'accueil.
Par exemple, l'administration fiscale et douanière n'avait aucune base légale (fondement) pour traiter les données personnelles figurant sur la liste. Les données personnelles étaient également souvent incorrectes. En conséquence, des personnes ont été enregistrées à tort comme de possibles fraudeurs. En outre, la sécurité de la liste n'était pas en ordre. Et le responsable interne de la protection de la vie privée de l'administration fiscale et douanière n'a pas été impliqué dans la mise en place de la liste à temps.
Aleid Wolfsen, président de l'AP : « Avec le FSV, l'administration fiscale a violé les droits des 270 000 personnes figurant sur la liste d'une manière sans précédent. Depuis plus de 6 ans. Les gens étaient souvent étiquetés à tort comme des fraudeurs, avec des conséquences terribles. Si vous étiez sur le FSV, certains n'ont pas reçu d'arrangement de paiement ou n'étaient pas éligibles à la restructuration de la dette. Avec le FSV, l'administration fiscale et douanière a bouleversé les vies. »
Discrimination
Les recherches menées par l'administration fiscale elle-même ont également montré que le personnel avait pour instruction de fonder le risque de fraude en partie sur des éléments tels que la nationalité et l'apparence des personnes.
Aviez-vous la nationalité turque ou marocaine ? Ensuite, vous avez fait l'objet d'une enquête plus approfondie en raison de cette nationalité, sans aucune raison valable. Cette discrimination est inacceptable. L'administration fiscale et douanière a également mentionné les dons aux mosquées et les frais de médicaments élevés des personnes portant des noms de famille à consonance est-européenne comme facteurs de risque de fraude. Pour déterminer le montant de l'amende, le PA a également pris en considération le fait que l'Administration fiscale et douanière a fréquemment commis de graves violations de la LVA. En 2018, par exemple, l'AP a constaté que l'administration fiscale et douanière avait mal sécurisé les données personnelles.
En 2020, l'AP a imposé une interdiction de traitement à l'administration fiscale et douanière pour l'utilisation illégale du numéro de service du citoyen (BSN) dans le numéro d'identification TVA des travailleurs indépendants. Par ailleurs, l'administration fiscale et douanière a été condamnée à une amende de 2,75 millions d'euros par le PA en 2021 pour son approche discriminatoire et illégale dans l'affaire Toeslagen.
Alors que les gouvernements du monde entier se tournent vers les algorithmes et l'IA pour automatiser leurs systèmes, le scandale néerlandais montre à quel point les systèmes automatisés peuvent être dévastateurs sans les bonnes protections. L'Union européenne, qui se positionne comme le principal régulateur technologique au monde, travaille sur un projet de loi visant à limiter les méfaits des algorithmes. Mais, selon ses détracteurs, ce projet de loi passe à côté de la plaque et ne protège pas les citoyens contre des incidents comme ceux qui se sont produits aux Pays-Bas.
Source : Autoriteit Persoonsgegevens
Et vous ?
Quel est votre avis sur le sujet ? À votre avis, le scandale néerlandais lié à l'utilisation des algorithmes sera-t-il un avertissement pour l'Europe ? Voir aussi :
L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA, mais des groupes de défense des droits civils s'inquiètent 40 % des « startups en IA » en Europe n'utilisent pas d'intelligence artificielle, l'IA est-il un argument pour attirer les investisseurs ? La Commission européenne annonce l'Alliance européenne pour les données et le cloud, elle contribuera à façonner la prochaine génération de services, d'infrastructures et de cloud sécurisé L'automatisation pourrait supprimer 12 millions d'emplois en Europe d'ici les 20 prochaines années, selon une étude de Forrester Research 
Envoyé par calvaire
