El 5 de febrero, el Tribunal de Distrito de La Haya suspendió, por motivos de derechos humanos, un sistema de detección de fraudes de asistencia social utilizado por el gobierno en los Países Bajos. La desaparición del sistema en cuestión, llamado “System Risk Indication” (SyRI), es una clara victoria para los demandantes y, sobre todo, para los residentes en barrios pobres y marginados. Pero es probable que esta decisión judicial repercuta mucho más allá de las fronteras holandesas.
En 2019, establecí un nuevo proyecto sobre los estados de bienestar digitales y los derechos humanos en el Centro de Derechos Humanos y Justicia Global de la Facultad de Derecho de NYU. El objetivo explícito era no solo realizar investigaciones originales sobre cómo la utilización de la información digital y las nuevas tecnologías transforman los sistemas de protección social en todo el mundo, sino también poner de relieve esos acontecimientos y sus repercusiones en los derechos humanos. Aunque otros autores han señalado que los grupos más pobres y marginados están en la primera línea de la digitalización del gobierno, este hecho suele pasarse por alto. Por lo tanto, el proyecto sobre estados de bienestar digitales tiene como objetivo cerrar la brecha entre el campo de los derechos digitales y los grupos que se centran en la pobreza, los derechos a la asistencia social y los derechos económicos y sociales.
El proyecto también trabajó en estrecha colaboración con el Relator Especial de la ONU sobre la extrema pobreza y los derechos humanos en un informe reciente sobre los estados de bienestar digitales ante la Asamblea General de las Naciones Unidas. En el informe se ofrecía un panorama general de la evolución mundial en este ámbito y se llegaba a la conclusión de que la detección de fraudes de asistencia social es una de las justificaciones más prominentes que ofrecen los gobiernos para la innovación digital acelerada. El motor de muchos de estos avances tecnológicos es el pensamiento neoliberal que enfatiza los objetivos de reducir el gasto público en asistencia social y mejorar la “eficiencia”.
SyRI es un ejemplo clarísimo de esta clase de estrategia. Un informe de 2012 del Ministerio de Asuntos Sociales y Empleo caracterizó una encarnación anterior de SyRI como un sistema que contribuía a la “reducción de los costos administrativos”, mejoraba la “detección inteligente y eficaz de posibles fraudes de asistencia social” y tenía un “efecto preventivo al saber que el gobierno está vigilando tras bambalinas”.
En efecto, la legislación SyRI de 2014, que el tribunal holandés declaró no vinculante, permite que una cantidad indefinida de autoridades públicas locales y centrales cooperen en proyectos concretos de SyRI encaminados a contrarrestar los fraudes en materia de prestaciones sociales, impuestos y derecho laboral. Esta legislación permitió a dichas autoridades compartir hasta 17 categorías amplias de datos, que antes estaban aislados, para predecir quién tiene probabilidades de cometer un fraude. El Ministerio aprueba los proyectos y delega el proceso de reunir, seudonimizar y analizar los datos con un modelo de riesgo algorítmico a una fundación privada, que tiene el desafortunado nombre de Agencia de Inteligencia (Stichting Inlichtingenbureau). Después de eliminar los errores obvios, el Ministerio informa a las autoridades involucradas sobre las “personas de alto riesgo”, e incluye sus nombres en un “registro de notificación de riesgos”.
No se han puesto a disposición del público ni del tribunal el modelo de riesgo, los indicadores de riesgo pertinentes ni los datos exactos utilizados.
Esto es lo que sabemos de SyRI a partir de la legislación correspondiente, pero el gobierno se ha mantenido sumamente reservado en cuanto a su funcionamiento interno. No se han puesto a disposición del público ni del tribunal el modelo de riesgo, los indicadores de riesgo pertinentes ni los datos exactos utilizados. Tampoco se exige al Estado que informe a las personas “de bajo y alto riesgo” que sus datos son objeto de análisis, ni que tome medidas concretas para informar a las personas “de alto riesgo” que sus nombres fueron incluidos en el registro de riesgos (párr. 6.50-6.53).
Tras casi un decenio de proyectos piloto que funcionaron sin una base jurídica específica, y a pesar de las duras críticas de la autoridad de protección de datos, la legislación que confiere carácter oficial a SyRI pasó por el Parlamento en 2014 sin ningún debate significativo. Cuando un periódico les preguntó recientemente sobre su participación en el proceso, a varios legisladores les costó recordar haber participado siquiera. Esta falta de escrutinio puede haber persuadido al tribunal de realizar un examen exhaustivo de la legislación SyRI a la luz del derecho humano a la privacidad que figura en el artículo 8 del Convenio Europeo de Derechos Humanos (CEDH) (párr. 6.43).
De manera un tanto decepcionante, pero en consonancia con el margen de apreciación permitido por el CEDH, el tribunal aceptó la afirmación del Estado de que detectar los fraudes es una “necesidad social apremiante”. No obstante, concluyó que la legislación SyRI viola el derecho a la privacidad porque carece de un “equilibrio justo” entre sus objetivos y la vulneración de ese derecho. El tribunal señaló que el gobierno tiene la responsabilidad especial de lograr este equilibrio, dado que el caso implica nuevas tecnologías, introducidas con una velocidad vertiginosa y con consecuencias que pueden ser muy graves para el derecho a la privacidad.
La sentencia es un ejemplo pionero de resistencia a los sistemas digitalizados de asistencia social por motivos de derechos humanos.
La falta de transparencia que rodea a SyRI influyó de manera especial en el análisis del tribunal, puesto que obstaculizó la capacidad del tribunal para desempeñar su función judicial y erosionó el derecho de las personas a impugnar este sistema. De acuerdo con el tribunal, esta falta de transparencia es aún más problemática debido a los posibles efectos discriminatorios de SyRI (párr. 6.91). SyRI se ha utilizado exclusivamente en los llamados “vecindarios problemáticos” (párr. 6.93). Refiriéndose a un informe amicus curiae del Relator Especial, preparado en estrecha colaboración con mi proyecto, el tribunal concluye que ese tipo de selección puede provocar exclusión, discriminación y estigmatización injustificadas (párr. 6.91-6.92). En marcado contraste, como se señala en el informe amicus curiae, los sistemas comparables destinados a detectar fraudes fiscales por parte de personas de ingresos medios y altos en los Países Bajos enfrentaron una oposición feroz y desaparecieron rápidamente.
La sentencia es un ejemplo pionero de resistencia a los sistemas digitalizados de asistencia social por motivos de derechos humanos, establece un precedente jurídico sólido y muestra cómo los litigios y las actividades de defensa y promoción en materia de derechos humanos pueden generar cambios concretos. La denuncia original, que se presentó a principios de 2018, fue una demanda relativamente generalizada sobre la privacidad, dirigida en su mayor parte por grupos de defensa de la privacidad y dos personas destacadas que se pronunciaron en contra de los riesgos más amplios de la vigilancia gubernamental. Sin embargo, a finales de 2018, el sindicato más grande de los Países Bajos se involucró en el litigio y subrayó las actitudes cada vez más duras hacia los beneficiarios de la asistencia social. Posteriormente, el informe amicus curiae de octubre de 2019, preparado por el Relator Especial de las Naciones Unidas y el proyecto que dirijo en NYU, destacó inquietudes sobre la persecución, la vigilancia y la discriminación en los barrios pobres y las consecuencias para el derecho a la seguridad social y a la privacidad.
La participación de un gran sindicato y de la ONU no solo cambió el enfoque, sino también el perfil del litigio. Una campaña local del sindicato contra SyRI en dos barrios pobres de Rotterdam hizo que aumentara la atención de los medios de comunicación en el verano de 2019, y hubo otro repunte después de la publicación del informe amicus curiae. Se generó una interesante dinámica entre la atención de los grupos de defensa y promoción y los medios de comunicación locales y globales; las recientes declaraciones de Human Rights Watch y Privacy International, así como los reportajes de The New York Times, The Guardian y Wired, son prueba de ese cambio.
El caso de SyRI muestra que el litigio estratégico, una campaña inteligente, la cooperación entre los grupos de derechos digitales y de derechos de bienestar, la participación de un mecanismo de la ONU y la interacción entre los medios de comunicación y los activistas locales e internacionales pueden marcar una verdadera diferencia. Esto debería dar esperanza a quienes trabajan en temas de gobierno digital y derechos humanos en otros países, ya que el caso de los Países Bajos no es único. Ante la oleada de esfuerzos de defensa y promoción en materia de estados de bienestar digitales y derechos humanos que a todas luces se avecina, esta victoria indiscutible es un buen comienzo.