Le 5 février, le tribunal de district de La Haye, a sonné la fin, au nom des droits humains, d’un système public de détection des fraudes aux aides sociales aux Pays-Bas. La fin du système en question, appelé SyRI pour « System Risk Indication », est une grande victoire pour les plaignants et, en particulier, pour les résidents des quartiers ciblés, pauvres et marginalisés. Mais le retentissement de cette décision judiciaire va également probablement dépasser largement le cadre des frontières néerlandaises.
En 2019, j’ai mis en place un nouveau projet sur les États-providences numériques et les droits humains au Centre pour les droits de l’homme et la justice mondiale de la faculté de droit de NYU. Le but explicite était non seulement d’étudier comment l’information numérique et les nouvelles technologies transformaient, dans le monde entier, les systèmes de protection sociale, mais également de mettre en évidence ces évolutions et leur impact sur les droits humains. Si le fait que les pauvres et les défavorisés soient les plus exposés à la dématérialisation de l’État a déjà été abordé, cela reste encore souvent négligé. Ce projet sur les États-providences numériques vise donc à rapprocher les droits numériques des organisations qui interviennent plus particulièrement dans la lutte contre la pauvreté ainsi que dans la défense des droits à la protection sociale et des droits économiques et sociaux.
Ce projet, en étroite collaboration avec le Rapporteur spécial des Nations Unies sur les droits de l’homme et l’extrême pauvreté, a également consisté à élaborer un rapport sur les États-providences numériques qui a été transmis à l’Assemblée générale de l’ONU. Ce rapport donne un aperçu des évolutions mondiales dans ce domaine et conclut que la détection de la fraude aux aides sociales est un des motifs les plus usités par les gouvernements pour justifier l’innovation numérique. Ces évolutions technologiques sont souvent motivées par la pensée néolibérale qui insiste sur l’objectif de réduction des dépenses sociales publiques ainsi que sur celui de l’amélioration de « l’efficacité ».
SyRI illustre parfaitement ce type de stratégie. En 2012, un rapport du ministère des Affaires sociales et de l’Emploi dit du précurseur de SyRI que celui-ci contribue à « réduire les coûts administratifs », à améliorer la « détection intelligente et efficace d’éventuelles fraudes aux aides sociales », et à avoir un « effet préventif car la surveillance, en coulisses, des pouvoirs publics est connue du plus grand nombre ».
En effet, la loi de 2014 sur SyRI, maintenant déclarée comme étant non contraignante par la juridiction néerlandaise, permet à un nombre potentiellement illimité d’autorités publiques, centrales et locales, de coopérer à des projets concrets visant à combattre la fraude dans le domaine des prestations sociales, de la fiscalité et du droit du travail. Cette législation permettait aux autorités coopérantes de partager jusqu’à 17 grandes catégories de données auparavant éparpillées afin de prédire qui est susceptible de frauder. Les projets sont approuvés par le ministre qui délègue la collecte, l’anonymisation et l’analyse des données à l’aide d’un modèle de risque algorithmique, à une fondation privée malencontreusement qualifiée « d’agence de renseignement » (Stichting Inlichtingenbureau). Après l’élimination des erreurs évidentes, le ministre signale les « individus à haut risque » aux autorités coopérantes et inclut leur nom dans un « registre de déclaration des risques ».
Ni le modèle de risque, ni les indicateurs de risque pertinents ou les données exactes utilisées n’ont été mis à la disposition du public ou du tribunal.
C’est ce que nous savons sur SyRI d’après le texte de loi mais le gouvernement est resté extrêmement discret sur ses rouages internes. Ni le modèle de risque, ni les indicateurs de risque pertinents ou les données exactes utilisées n’ont été mis à la disposition du public ou du tribunal. L’État n’est également pas tenu d’informer les individus à « risque faible ou élevé » que leurs données sont analysées ou de notifier aux individus « à risque élevé » que leur nom a été ajouté au registre des risques (paragr. 6.50-6.53).
Après pratiquement une décennie de projets pilotes menés sans base juridique spécifique et malgré les vives critiques des autorités de protection des données, la législation officialisant SyRI a été adoptée en 2014, sans véritable débat, par le Parlement. Interrogés récemment par un journal sur leur degré d’implication, plusieurs législateurs avaient du mal à se souvenir de quoi que ce soit. C’est probablement ce manque de contrôle qui a amené le tribunal à se livrer à un examen complet de la loi sur SyRI en vérifiant sa conformité avec les droits humains et le respect de la vie privée prévu à l’article 8 de la Convention européenne des droits de l’homme (CEDH) (paragr. 6.43).
Malheureusement, mais en accord avec la marge d’appréciation permise par la CEDH, le tribunal valida la revendication de l’État pour qui la détection des fraudes est un « besoin social impérieux ». Il conclut néanmoins que la loi sur SyRI viole le droit au respect de la vie privée car elle ne prévoit pas « le juste équilibre » entre ses objectifs et l’atteinte à ce droit. Le tribunal nota la responsabilité particulière du gouvernement pour ce qui est d’arriver à cet équilibre car l’affaire concerne des nouvelles technologies, introduites à la vitesse de la lumière, pouvant avoir des conséquences très sérieuses sur le droit à la vie privée.
Le manque de transparence autour de SyRI a pesé fortement sur l’analyse du tribunal dont la capacité à remplir ses fonctions juridictionnelles est remise en question tandis que le droit des personnes à contester ce système est fragilisé. Ce manque de transparence est encore plus problématique, d’après le tribunal, à cause des effets potentiellement discriminatoires de SyRI (paragr. 6.91). SyRI a été utilisé exclusivement dans les soi-disant « quartiers problématiques » (paragr. 6.93). En se basant sur un mémoire d’amicus curiae du Rapporteur spécial, préparé en étroite coopération dans le cadre de mon projet, le tribunal a conclu que ce type de ciblage pouvait engendrer de l’exclusion injustifiée, de la discrimination, et de la stigmatisation (paragr. 6.91-6.92). En revanche, comme l’indique le mémoire d’amicus curiae, des systèmes comparables, destinés à détecter la fraude fiscale, aux Pays-Bas, commise par les personnes à revenu moyen et supérieur, ont été confronté à une opposition farouche et à une fin rapide.
Cette décision judiciaire illustre la résistance aux systèmes de protection sociale dématérialisés pour des motifs liés aux droits humains, établit une jurisprudence solide, et montre comment une action efficace de défense des droits humains et de recours en contentieux peut aboutir à des changements concrets. Début 2018, la plainte initiale était une action privée relativement classique menée principalement par des associations de protection de la vie privée et deux personnalités influentes dénonçant les risques plus larges de surveillance gouvernementale. Mais, fin 2018, le principal syndicat néerlandais s’impliqua dans le contentieux et souligna la position toujours plus dure à l’encontre des bénéficiaires de l’aide sociale. Ensuite, le mémoire d’amicus curiae d’octobre 2019, préparé par le Rapporteur spécial des Nations Unies et dans le cadre du projet que je dirige à NYU, insista sur certaines préoccupations concernant le ciblage, la surveillance et la discrimination dans les quartiers défavorisés et les implications en matière de droit à la sécurité sociale et de droit à la vie privée.
Cette décision judiciaire illustre la résistance aux systèmes de protection sociale dématérialisés pour des motifs liés aux droits humains.
L’implication d’un grand syndicat, ainsi que celle de l’ONU, a non seulement changé la finalité mais également les contours du contentieux. Une campagne locale contre SyRI, menée par le syndicat dans deux quartiers pauvres de Rotterdam, a attiré l'attention des médias au cours de l’été 2019. La publication du mémoire d’amicus curiae a ensuite eu le même effet. Ceci a déclenché une dynamique intéressante au niveau des médias et des actions de plaidoyer, à l’échelle locale et mondiale. Les récentes publications de Human Rights Watch et de Privacy International et les articles du New York Times, du Guardian et de Wired, illustrent ce changement.
L’exemple de SyRI montre qu’un litige stratégique, une campagne astucieuse, le rapprochement entre les droits numériques et les organisations de défense des droits sociaux, l’intervention d’un mécanisme onusien et l’interaction entre militants et médias à l’échelle locale et internationale sont tous des facteurs pouvant apporter un véritable changement. Cela devrait donner de l’espoir à ceux qui travaillent sur l’État numérique et les droits humains dans d’autres pays vu que les Pays-Bas ne sont pas un cas unique dans ce domaine. Dans le vaste combat en matière d’États-providences numériques et de droits humains qui nous attend, cette grande victoire est un bon début.