Qué implica la dataficación de nuestra visión del mundo para los derechos humanos

El grado en que los profesionales de los derechos humanos entienden cómo la dataficación afecta a los derechos e intereses de las personas, y a las relaciones de poder en general, es clave para una defensa eficaz de los derechos humanos.




¿A qué nos referimos cuando hablamos de dataficación? El término se refiere en general al proceso de convertir los fenómenos en datos. En las últimas décadas, la creciente dependencia en las estadísticas para la toma de decisiones, tanto en el sector público como en el privado, ha estado acompañada de una explosión en el uso de computadores, que han impulsado procesos de digitalización y automatización.

Tal y como se desprende de esta propuesta de definición, la dataficación es un proceso mediante el cual se identifican una serie de características como relevantes y, a continuación, se sintetizan y traducen en un formato estructurado que permite realizar tabulaciones, clasificaciones, análisis y automatizar acciones posteriores. Como tal, la dataficación es un motor de cambio profundo. Es probable que tenga un impacto estructural en nuestra concepción de derechos y prácticas de gobernanza.

Como ocurre con cualquier proceso de cambio, el resultado final dependerá en última instancia de la relación de las fuerzas que lo configuren. Por tanto, el grado en que los profesionales de los derechos humanos sean capaces de comprender las formas en que estos procesos de cambio pueden afectar a los derechos e intereses de las personas, y a las relaciones de poder en general, será clave para una defensa eficaz de los derechos humanos en los próximos años.

El proceso de dataficación de los espacios públicos e íntimos

El ejemplo más claro de cómo se produce la dataficación de los espacios públicos es el conjunto de procesos que tienen lugar bajo el término paraguas de “ciudad inteligente”.

“Ciudad inteligente” es un término comercial que también se suele definir de forma imprecisa. Se suele utilizar en referencia a los procesos y al subconjunto de mercados enfocados en la adopción de tecnologías digitales para los servicios de la ciudad. Estas tecnologías recopilan grandes cantidades de datos sobre las personas y las empresas que están en las ciudades, sobre cómo interactúan con los gobiernos municipales y con la infraestructura de las ciudades. El término, sin embargo, suele suscitar un debate acalorado, que es atravesado por distintas concepciones de los derechos y la ética.

En un frente paralelo a lo que sucede en las ciudades, el desarrollo tecnológico nos ha permitido trasladar computadores potentes desde los galpones hasta espacios íntimos como los hogares, los bolsillos, las muñecas y, a veces, incluso bajo la piel de las personas. Parece que se le inserta un chip a todos los aparatos posibles. En consecuencia, los espacios que solían ser íntimos y privados están ahora cada vez más dataficados e integrados al reino digital de internet.

A partir de 2020, más de la mitad de la población mundial tendrá acceso a la red y, con ello, a un universo virtual creado por el ser humano en el que se rastrean y analizan gran parte de las acciones de las personas, tanto para garantizar el buen funcionamiento de dichos espacios como para elaborar perfiles sintéticos de los usuarios que faciliten la publicidad dirigida. A su vez, no sólo está creciendo la proporción de personas que se conectan a la red, sino también la cantidad de tiempo que pasan en línea quienes están conectados. Mientras que en 2010 se estima que una persona pasaba poco más de una hora en línea en promedio, hoy esas mismas estimaciones nos sitúan en más de tres horas. Y las capacidades de seguimiento en el espacio online también han aumentado, lo que implica más cantidad y detalle en datos recabados, producidos y extraídos.

A medida que la profundidad y la amplitud de tareas que delegamos en algoritmos alimentados por datos aumenta y se convierte en algo habitual, es probable que cambie una serie de supuestos básicos sobre quiénes somos y cómo funciona el mundo. Los algoritmos operan a una escala diferente de la de los humanos.

Por un lado, la dataficación opera a una escala más acotada que la de nuestra cultura colectiva. Los sistemas dataficados son, por ejemplo, potencialmente más rápidos a la hora de reaccionar a los cambios en el flujo de datos que los humanos. Los humanos, para bien y mal,usualmente permiten que sus acciones estén informadas por unos valores y una cultura que podrían haberse forjado a lo largo de siglos —siglos durante los cuales los datos no se producían a la escala que se producen hoy en día, y por lo tanto no informan el análisis de los sistemas dataficados—.

Por otro lado, la dataficación opera a una escala más amplia que la que puede operar nuestra memoria individual. Estos sistemas dataficados procesan y reaccionan a miles de millones de puntos de datos cada segundo. 

En síntesis, en la medida en que la dataficación opera a una escala que es radicalmente distinta,  la incorporación de estos sistemas, para bien o para mal, es probable que requiera o desencadene un cambio en nuestra visión del mundo.

¿Por qué es relevante para los derechos humanos?

El mundo será un lugar muy diferente en 2030 en comparación con la época en la que se debatieron y acordaron la mayoría de las declaraciones y convenciones fundamentales de derechos humanos.

Desde la época en que se acordaron las convenciones y declaraciones fundamentales, muchos pueblos africanos y asiáticos han conseguido su independencia y ahora se coordinan en favor de sus intereses. Y países como Brasil, China, Indonesia, México y Nigeria son ahora cada vez más capaces de moldear las tecnologías, la regulación y los mercados mundiales de acuerdo con sus puntos de vista culturales.

De forma paralela, pero también al ejercer su influencia sobre la forma en que se diseñan las tecnologías y se produce la dataficación, está lo que el poder ha considerado sus periferias. Con el avance de las tecnologías de la comunicación, las personas de la periferia no sólo reciben información, sino que añaden sus voces, sus perspectivas culturales y su tecnología para dar forma a los puntos de vista hegemónicos y al paisaje tecnológico que a su vez está creando el proceso de dataficación. Esto incluye a las periferias dentro de cada país, cuyas comunidades suelen tener tradiciones y sistemas de valores bastante distintos a los de los centros de poder, y están configurando de manera más activa el escenario global a través del poder blando y duro.

La combinación de cambios políticos, geopolíticos, tecnológicos y socioculturales sugiere que es muy probable que ya esté en marcha un proceso de cambio en la forma de entender los derechos. Y una corriente subterránea que alimenta este proceso es el cambio de visión del mundo alimentado por la dataficación. La cuestión de los datos se presenta como una linea de fractura sobre la cual observar esta tensión emergente entre los mundos que mueren y aquellos que podrían nacer. Ya sea cuando el poder ejecutivo indio defiende su amplio plan de recolección de datos alegando que la privacidad es una construcción occidental, o cuando la UE exige a las empresas que procesan datos de sus ciudadanos que no los envíen a Estados Unidos, su aliado histórico, porque considera que este país no garantiza el derecho básico a la privacidad.

A medida que este proceso sigue evolucionando, categorías que han sido piedras angulares de nuestro pasado y nuestro presente podrían quedar bien obsoletas. Una categoría clave que quizás se vea sometida a presión es la del individuo. Dado que la dataficación se aprovecha para segmentar y agrupar, es probable que estas agrupaciones automatizadas se vuelvan cada vez más relevantes, quizás a expensas de la noción de individuo, que podría convertirse en una de las muchas posibles colecciones y combinaciones arbitrarias de características. Una unidad de análisis que a veces el sistema considerará demasiado amplia y otras veces demasiado estrecha para ser considerada relevante o útil.

Algunas de las primeras expresiones de estos puntos de presión quizás se evidenciaron por primera vez a través de la acuñación de conceptos como el colapso del contexto para describir cómo lo que solían ser identidades prácticas separadas (padre, hijo, colega) se fusionaban en una sola en el contexto de las redes sociales centralizadas, donde la gente de pronto tenía que enfrentarse a sus variadas audiencias a la vez. Esto ejemplifica el poder que tiene la tecnología para forzar una rearticulación de la identidad personal.

El modo en que los computadores diseccionan y procesan los rostros de las personas para definir cuáles son sus características relevantes y distintivas, implica también un proceso de redefinición y rearticulación de la identidad consecuente. Dado que compartimos tantas características con los demás, algunos de estos sistemas son capaces de construir variables sintéticas sobre nosotros para representar características que no hemos revelado pero que pueden extrapolarse sobre nosotros en función de los datos y la información que han revelado personas que se consideran similares a nosotros en aspectos relevantes. Esto sugiere que ya no podemos controlar quiénes somos frente a estos sistemas.

Esto sugiere, además, que los sistemas dataficados no entienden nuestra identidad como algo estable y cohesivo, sino como un conjunto de características consideradas circunstancialmente relevantes para algún sistema automatizado. Si este proceso sigue desarrollándose, tendríamos que reevaluar los límites entre la autonomía individual y los derechos colectivos y de grupo.

En síntesis, las formas en que definiremos y redefiniremos nuestra existencia están ligadas de manera íntima al proceso de dataficación y automatización. Los sistemas de valores promovidos por estas tecnologías pueden normalizarse, adoptarse y, a partir de entonces, ser difíciles de observar como tales, y aún más difíciles de contrarrestar. Por ende, es importante que los profesionales de los derechos humanos comprendan estos procesos y ayuden a darles forma, a través de la orientación o el combate de sus diseños y posible implementación, a medida que avanzamos hacia el futuro.

 


Este entrada es un extracto revisado de un próximo informe de JustLabs y OpenGlobalRights sobre los impactos que el proceso de informatización ha tenido en los espacios públicos e íntimos durante las últimas décadas, y cómo la forma en que los riesgos y las oportunidades se desarrollaron en el pasado pueden informar nuestra forma de pensar sobre los derechos humanos en un futuro próximo.

 

ORIGINALLY PUBLISHED: November 22, 2021

Juan Ortiz Freuler es asociado de JustLabs, afiliado del Berkman Klein Center, becario de doctorado de la Escuela de Comunicación y Periodismo Annenberg de la USC y remero del movimiento tecnológico no alineado.


 

Stay connected! Join our weekly newsletter to stay up-to-date on our newest content.  SUBSCRIBE