IdentifiantMot de passe
Loading...
Mot de passe oublié ?Je m'inscris ! (gratuit)

Vous êtes nouveau sur Developpez.com ? Créez votre compte ou connectez-vous afin de pouvoir participer !

Vous devez avoir un compte Developpez.com et être connecté pour pouvoir participer aux discussions.

Vous n'avez pas encore de compte Developpez.com ? Créez-en un en quelques instants, c'est entièrement gratuit !

Si vous disposez déjà d'un compte et qu'il est bien activé, connectez-vous à l'aide du formulaire ci-dessous.

Identifiez-vous
Identifiant
Mot de passe
Mot de passe oublié ?
Créer un compte

L'inscription est gratuite et ne vous prendra que quelques instants !

Je m'inscris !

Le scandale néerlandais est un avertissement pour l'Europe sur les risques liés à l'utilisation des algorithmes,
L'administration fiscale a ruiné des milliers de vies avec un algorithme

Le , par Bruno

379PARTAGES

14  1 
L'administration fiscale néerlandaise a ruiné des milliers de vies après avoir utilisé un algorithme pour repérer des soupçons de fraude aux prestations sociales et les critiques disent que rien n'empêche que cela se reproduise. En effet, l'autorité néerlandaise chargée des données personnelles (Autoriteit Persoonsgegevens, AP) a infligé une amende de 3,7 millions d'euros à l'administration fiscale et douanière en raison du traitement illégal de données à caractère personnel dans le système de notification des fraudes (FSV) pendant des années.

Au cours de son enquête sur le FSV, l'AP a découvert une longue liste de violations de la loi sur la protection de la vie privée, le Règlement général sur la protection des données (RGPD). Il s'agissait d'une liste noire sur laquelle l'administration fiscale et douanière gardait la trace des signaux de fraude. Cela a souvent eu des conséquences importantes pour les personnes qui figuraient à tort sur la liste.


La vie de Chermaine Leysner a basculé en 2012, lorsqu'elle a reçu une lettre de l'administration fiscale néerlandaise lui demandant de rembourser ses allocations de garde d'enfants remontant à 2008. Leysner, alors étudiante en travail social, avait trois enfants de moins de 6 ans et la facture fiscale s'élevait à plus de 100 000 €. « Je me suis dit : "Ne t'inquiète pas, c'est une grosse erreur". Mais ce n'était pas une erreur. C'était le début de quelque chose d'énorme », a-t-elle déclaré.

L'épreuve a pris neuf ans de la vie de Leysner. Le stress causé par la facture fiscale et le diagnostic de cancer de sa mère ont plongé Leysner dans la dépression et l'épuisement. Elle a fini par se séparer du père de ses enfants. « Je travaillais comme une folle pour pouvoir encore faire quelque chose pour mes enfants, comme leur donner de bonnes choses à manger ou leur acheter des bonbons. Mais il m'est arrivé que mon petit garçon doive aller à l'école avec un trou dans sa chaussure », raconte Leysner.

Leysner est l'une des dizaines de milliers de victimes de ce que les Néerlandais ont surnommé le "toeslagenaffaire", ou le scandale des allocations de garde d'enfants. En 2019, il a été révélé que les autorités fiscales néerlandaises avaient utilisé un algorithme d'autoapprentissage pour créer des profils de risque dans le but de repérer les fraudes aux allocations de garde d'enfants.

Les autorités pénalisaient les familles sur un simple soupçon de fraude basé sur les indicateurs de risque du système. Des dizaines de milliers de familles souvent à faibles revenus ou appartenant à des minorités ethniques ont été poussées dans la pauvreté en raison de dettes exorbitantes envers l'agence fiscale. Certaines victimes se sont suicidées. Plus d'un millier d'enfants ont été placés dans des familles d'accueil.

Par exemple, l'administration fiscale et douanière n'avait aucune base légale (fondement) pour traiter les données personnelles figurant sur la liste. Les données personnelles étaient également souvent incorrectes. En conséquence, des personnes ont été enregistrées à tort comme de possibles fraudeurs. En outre, la sécurité de la liste n'était pas en ordre. Et le responsable interne de la protection de la vie privée de l'administration fiscale et douanière n'a pas été impliqué dans la mise en place de la liste à temps.

Aleid Wolfsen, président de l'AP : « Avec le FSV, l'administration fiscale a violé les droits des 270 000 personnes figurant sur la liste d'une manière sans précédent. Depuis plus de 6 ans. Les gens étaient souvent étiquetés à tort comme des fraudeurs, avec des conséquences terribles. Si vous étiez sur le FSV, certains n'ont pas reçu d'arrangement de paiement ou n'étaient pas éligibles à la restructuration de la dette. Avec le FSV, l'administration fiscale et douanière a bouleversé les vies. »

Discrimination

Les recherches menées par l'administration fiscale elle-même ont également montré que le personnel avait pour instruction de fonder le risque de fraude en partie sur des éléments tels que la nationalité et l'apparence des personnes.

Aviez-vous la nationalité turque ou marocaine ? Ensuite, vous avez fait l'objet d'une enquête plus approfondie en raison de cette nationalité, sans aucune raison valable. Cette discrimination est inacceptable. L'administration fiscale et douanière a également mentionné les dons aux mosquées et les frais de médicaments élevés des personnes portant des noms de famille à consonance est-européenne comme facteurs de risque de fraude. Pour déterminer le montant de l'amende, le PA a également pris en considération le fait que l'Administration fiscale et douanière a fréquemment commis de graves violations de la LVA. En 2018, par exemple, l'AP a constaté que l'administration fiscale et douanière avait mal sécurisé les données personnelles.

En 2020, l'AP a imposé une interdiction de traitement à l'administration fiscale et douanière pour l'utilisation illégale du numéro de service du citoyen (BSN) dans le numéro d'identification TVA des travailleurs indépendants. Par ailleurs, l'administration fiscale et douanière a été condamnée à une amende de 2,75 millions d'euros par le PA en 2021 pour son approche discriminatoire et illégale dans l'affaire Toeslagen.

Alors que les gouvernements du monde entier se tournent vers les algorithmes et l'IA pour automatiser leurs systèmes, le scandale néerlandais montre à quel point les systèmes automatisés peuvent être dévastateurs sans les bonnes protections. L'Union européenne, qui se positionne comme le principal régulateur technologique au monde, travaille sur un projet de loi visant à limiter les méfaits des algorithmes. Mais, selon ses détracteurs, ce projet de loi passe à côté de la plaque et ne protège pas les citoyens contre des incidents comme ceux qui se sont produits aux Pays-Bas.

Source : Autoriteit Persoonsgegevens

Et vous ?

Quel est votre avis sur le sujet ?

À votre avis, le scandale néerlandais lié à l'utilisation des algorithmes sera-t-il un avertissement pour l'Europe ?

Voir aussi :

L'UE cherche à établir des normes mondiales pour l'utilisation de l'IA, mais des groupes de défense des droits civils s'inquiètent

40 % des « startups en IA » en Europe n'utilisent pas d'intelligence artificielle, l'IA est-il un argument pour attirer les investisseurs ?

La Commission européenne annonce l'Alliance européenne pour les données et le cloud, elle contribuera à façonner la prochaine génération de services, d'infrastructures et de cloud sécurisé

L'automatisation pourrait supprimer 12 millions d'emplois en Europe d'ici les 20 prochaines années, selon une étude de Forrester Research

Une erreur dans cette actualité ? Signalez-le nous !

Avatar de TotoParis
Membre éprouvé https://www.developpez.com
Le 16/04/2022 à 21:26
Citation Envoyé par calvaire Voir le message
es ce l'algorithme/le logiciel le vrai coupable ?
c'est plutôt le service client/support qui n'a pas été capable de détecter le problème, le corriger pour les clients et surtout remonter ce bug.
Y'a eu une couille il y'a 2ans sur ma déclaration d’impôt, j'ai contacté un gars du service par mail, a examiné mon cas et il m'a réglé le problème.

Il est important de conserver un contact humain compétent derrière l'automatisation, au moindre soucis il règle notre problème.
C'est extrêmement énervent quand le SAV c'est un robot qui te répète le même blabla inutile. Ceux qui ont essayé de contacter le support youtube ou facebook par exemples savent de quoi je parle.
Là on ne parle parle pas de SAV, mais de gens qui ont été bousillés suite à des accusations sans fondements autres que les élucubration d'un logiciel informatique, et visiblement aucune enquête de police n'a été menée. Certaines personnes se sont suicidées, d'autres sont ruinées, et plein on été littéralement terrorisées comme ont peut l'être dans une dictature. Et toutes les autres vivent maintenant dans la peur de la répétition de ce type d'infamies. Non mais vous imaginez de telles exactions contre des multinationales qui fraudent massivement ? Ben non. Cela n'existe pas. Mais contre des populations pauvres, fragiles socialement et économiquement, c'est possible. Les fonctionnaires en cause devraient aller en prison, et payer de très lourdes amendes.
13  1 
Avatar de OrthodoxWindows
Membre expérimenté https://www.developpez.com
Le 17/04/2022 à 0:09
Citation Envoyé par TotoParis Voir le message
Là on ne parle parle pas de SAV, mais de gens qui ont été bousillés suite à des accusations sans fondements autres que les élucubration d'un logiciel informatique, et visiblement aucune enquête de police n'a été menée. Certaines personnes se sont suicidées, d'autres sont ruinées, et plein on été littéralement terrorisées comme ont peut l'être dans une dictature. Et toutes les autres vivent maintenant dans la peur de la répétition de ce type d'infamies. Non mais vous imaginez de telles exactions contre des multinationales qui fraudent massivement ? Ben non. Cela n'existe pas. Mais contre des populations pauvres, fragiles socialement et économiquement, c'est possible. Les fonctionnaires en cause devraient aller en prison, et payer de très lourdes amendes.
De plus, ces "décisions" administratives ont été prise sans décision de justice.
12  0 
Avatar de talon
Membre du Club https://www.developpez.com
Le 23/04/2022 à 10:44
Peut importe que l'algorithme donne des informations entachées de biais. Il est conçu pour donner une présomption de fraude (sur des critère discutables, mais c'est un autre problème), mais présomption ne vaut pas preuve. Il est ahurissant que des fonctionnaires se permettent d'infliger des sanctions à des administrés sans avoir fournit la preuve formelle de la fraude. Il est un principe de droit élémentaire qui dit que l'accusation à la charge de la preuve. L'accusé n'a pas la charge de la preuve de son innocence.
L'algorithme est défectueux ou donne des réponses idiote soit. Mais la vraie défaillance, c'est le comportement d'une administration qui agit sans contrôle ni pertinence. Il n'y a pas besoin de machine d'IA approximative pour agir de la sorte.
8  0 
Avatar de schlebe
Membre habitué https://www.developpez.com
Le 23/04/2022 à 7:51
Je trouve bizarre que cet article n'évoque que la sanction infligée aux services d'état.

Le pactole perçu par le service de protection des données a-t-il bien été redistribué aux citoyens lésés ?

Les véritables coupables ont-ils été sanctionnés ?

Pour moi, payer une amende est largement insuffisant.

Si vous commettez une infraction manifeste de 100.000€ sur 270.000 citoyens (ce sont les seules données fournies dans cet article), l'infraction aura rapporté 27.000.000.000€, soit 27 milliards d'euros et qu'ensuite vous écopez d'une amende de 2,75 millions d'euros et que personne n'est poursuivi dans l'administration responsable, je ne vois pas ce qui va empêcher cette même administration de recommencer.

Je trouve donc dommage que cet article ne soit pas plus approfondi et n'explique pas mieux les tenants et les aboutissants du problème.

Cordialement
6  0 
Avatar de calvaire
Membre expert https://www.developpez.com
Le 15/04/2022 à 22:11
es ce l'algorithme/le logiciel le vrai coupable ?
c'est plutôt le service client/support qui n'a pas été capable de détecter le problème, le corriger pour les clients et surtout remonter ce bug.
Y'a eu une couille il y'a 2ans sur ma déclaration d’impôt, j'ai contacté un gars du service par mail, a examiné mon cas et il m'a réglé le problème.

Il est important de conserver un contact humain compétent derrière l'automatisation, au moindre soucis il règle notre problème.
C'est extrêmement énervent quand le SAV c'est un robot qui te répète le même blabla inutile. Ceux qui ont essayé de contacter le support youtube ou facebook par exemples savent de quoi je parle.
4  0 
Avatar de Anselme45
Membre extrêmement actif https://www.developpez.com
Le 18/04/2022 à 10:42
Citation Envoyé par sanderbe Voir le message

Inversement en France l'administration est aveugle ... avec la fraude qui explose ...
1. Tu es en retard d'une guerre: Le fisc français utilise déjà gogole map and Co pour détecter via de jolies images aériennes en libre service qui a construit une annexe à son pavillon ou une sympathique piscine que le vilain citoyen aurait oublié de déclarer au fisc

2. Le fisc a passé des accords d'échange d'information par exemple avec la Suisse, ce paradis fiscal que tout petit franchouillard croit encore exister: Un français ouvre un compte en banque en Suisse? Les autorités suisses l'annoncent immédiatement à Bercy, le fisc français.

3. Il n'y a plus que les grosses fortunes, amies d'un futur président qui va être réélu prochainement, qui passent entre les gouttes

Quand on se retrouve dans un pays où plus de la moitié de la population reçoit des aides sociales, il faut bien que quelques uns paient des impôts...
3  0 
Avatar de Winnt
Rédacteur/Modérateur https://www.developpez.com
Le 23/04/2022 à 13:42
Bonjour,

Citation Envoyé par Talon
Il est un principe de droit élémentaire qui dit que l'accusation à la charge de la preuve. L'accusé n'a pas la charge de la preuve de son innocence.
Cette assertion est, globalement (sauf radars automatiques, hadopi...), vrai en droit français. Mais êtes-vous sûr que ce soit le cas en droit néerlandais ?

Sinon le recours à toutes les sauces aux algorithmes est une catastrophe. Car les utilisateurs font une confiance aveugle à ceux-ci sans appliquer le simple bon sens aux résultats.
2  0 
Avatar de coco_
Futur Membre du Club https://www.developpez.com
Le 24/04/2022 à 13:48
En attendant, tous les fonctionnaires qui ont validé le problème, les politiques etc. bref tous les responsables sont toujours en place. Eux, ne seront jamais sanctionnés.
2  0 
Avatar de TJ1985
Membre expérimenté https://www.developpez.com
Le 25/04/2022 à 22:26
Sérieusement, lorsqu'un service d'Etat est condamné à une amende, qui paie vraiment ? Vous avez déjà vu un État avoir une source de revenu autre que les contribuables ?
2  0 
Avatar de OrthodoxWindows
Membre expérimenté https://www.developpez.com
Le 25/04/2022 à 23:19
Citation Envoyé par sanderbe Voir le message
Bonsoir,

Impots = les contribuables
Taxes = les consommateurs
Frais administratifs = les administrés

Ce qui fait 3 sources de revenus
Le point commun, c'est que ce sont les gens (toujours les mêmes qui trinquent).
Si les politiciens écopaient d'amendes pour réparer leur mauvaise décision, il ferait moins les malins...
2  1