.jpg)
En el interior de una montaña situada en algún lugar de Sierra Diablo, Texas, hay un reloj en construcción que marcará la hora durante 10 000 años. Jeff Bezos aportó 42 millones de dólares para desarrollar el proyecto. Mientras tanto, Elon Musk aparece regularmente en televisión exigiendo que se inviertan miles de millones de dólares en la construcción de colonias en Marte. Los multimillonarios del sector tecnológico pretenden presentarse no solo como los artífices del futuro, sino como los amos de las dimensiones que definen la existencia humana: el tiempo y el espacio. ¿Recuperará el ámbito de los derechos humanos el control de la situación?
Este editorial presenta las cinco partes de una serie que explora cómo el desarrollo tecnológico está remodelando las relaciones humanas y los derechos humanos, y qué podemos hacer al respecto. Cada artículo de opinión debería servir como una llamada de atención para que la comunidad de derechos humanos recupere la narrativa del desarrollo tecnológico de las élites tecnológicas, garantizando que la innovación sirva al bienestar colectivo y no al beneficio privado.
El problema
La tecnología está remodelando la economía mundial hasta el punto de que los directores ejecutivos de las empresas tecnológicas actúan como faraones, construyendo relojes en pirámides y afirmando que van a expandir los límites del reino conocido hasta las estrellas.
La tecnología está remodelando nuestra cultura hasta el punto de que cada minuto se suben más de 500 horas de vídeo a YouTube, y el 57 % de los adolescentes estadounidenses quieren ser influencers: profesionales que exponen la intimidad de sus vidas en Internet a través de un puñado de plataformas privadas. Mientras tanto, el 57 % de las adolescentes estadounidenses (frente al 36 % en 2011) y el 29 % de los adolescentes expresan sentimientos persistentes de tristeza o desesperanza, y el 30 % de las adolescentes se plantean seriamente el suicidio y el 13 % lo intentan, según la Asociación Americana de Psicología (APA). Tenemos que cambiar de rumbo.
El desafío que la tecnología plantea para los derechos humanos y sus defensores
Las tecnologías digitales afectan a lo que es visible y concreto (documentos, fronteras, muros, instituciones), al tiempo que desatan una capa invisible que modifica radicalmente las relaciones existentes entre las personas, los Estados y las infraestructuras. En esta serie, expertos de todo el mundo presentan ejemplos concretos de cómo la dualidad provocada por la transformación digital desafía y remodela nuestro sistema de derechos humanos.
Identificación digital: La digitalización de las identidades está transformando la forma en que los Estados ven e interactúan con la ciudadanía. Grace Mutung’u destaca cómo los programas de Kenia y Uganda excluyen a las comunidades vulnerables de los servicios esenciales. Por ejemplo, las fechas de nacimiento incorrectas están privando a las personas mayores de sus pensiones y miles de personas están siendo despojadas de su ciudadanía, todo ello con el pretexto de aumentar la eficiencia.
«Fronteras inteligentes»: A pesar de las promesas de un mundo digital sin fronteras, los muros fronterizos son cada vez más altos y más inteligentes. Petra Molnar revela cómo las «fronteras inteligentes» se han convertido en sistemas de vigilancia, exclusión y violencia. Desde drones que patrullan el Mediterráneo hasta detectores de mentiras con inteligencia artificial en los puestos de control, la tecnología «inteligente» de las fronteras está convirtiendo a los seres humanos en «problemas que hay que resolver». Además, el derecho de asilo se está viendo erosionado en un momento en el que el colapso de los ecosistemas y las guerras hacen inevitable el movimiento de personas.
Aplicaciones de encarcelamiento electrónico: Las tecnologías carcelarias, a menudo comercializadas como alternativas humanitarias al encarcelamiento, están extendiendo la tortura psicológica más allá de los muros de la prisión, al tiempo que despojan a las personas de su autonomía y dignidad. Nedah Nemati y Dasha Pruss explican cómo los monitores de tobillo y los sistemas de reconocimiento facial transforman la vida cotidiana en un estado de vigilancia y control constantes. Las incesantes alertas de los dispositivos provocan privación del sueño, y los voluminosos monitores conducen a una humillación pública al estilo medieval.
Burocracia automatizada: La adopción por parte del gobierno de sistemas de IA opacos está provocando daños sistémicos. Juan David Gutiérrez sostiene que el secretismo que rodea a estos algoritmos niega a los ciudadanos la posibilidad de impugnar decisiones automatizadas arbitrarias e injustas. En Colombia, los gobiernos ocultaron los detalles de los algoritmos de asistencia social, lo que obligó a la sociedad civil a emprender batallas legales; en los Países Bajos, una IA sesgada acusó falsamente a miles de personas de fraude a la asistencia social, arruinando su reputación y sus medios de vida. Con la creciente adopción de la IA por parte de los gobiernos, la opacidad corre el riesgo de convertirse en la norma para la implementación de políticas.
Activismo en red: El autoritarismo está en auge en una época de rápida innovación digital. La infraestructura de comunicación necesaria para fomentar la confianza interpersonal y coordinar la resistencia cívica a dicho autoritarismo está en peligro. Claudio Ruiz sostiene que las respuestas en red y la creación de coaliciones se están volviendo fundamentales para mantener la defensa de los derechos digitales a nivel mundial y aportar resiliencia a nuestra infraestructura digital en medio del retroceso democrático, la austeridad y los recortes de fondos.
Los líderes tecnológicos corporativos han presentado cada innovación como algo que redefine el mundo, afirmando que las instituciones, reglas y normas anteriores son obsoletas. Como resultado, en las últimas décadas, las empresas tecnológicas han degradado el discurso sobre los derechos humanos al papel de barreras protectoras endebles —aunque brillantes— con una capacidad limitada para lograr la orientación o la protección que se esperaba que ofrecieran originalmente.
Un camino a seguir
El gran reto que tenemos ante nosotros es recuperar la narrativa de la utopía humana de manos de los poderosos actores que se están apoderando de nuestra capacidad creativa y nuestra imaginación. El futuro ha sido capturado por los gigantes tecnológicos que, en su intento por organizar su flujo de caja, están pasando de predecir el futuro a organizarlo.
Los modelos de suscripción de Amazon contribuyeron a la optimización de los almacenes. También está llevando la cinta transportadora a los cajones de tu casa para convertir tu comportamiento en una fuente de ingresos predecible. Los algoritmos de Facebook seleccionan contenidos y organizan sus notificaciones para activar mecanismos de adicción que reorganizan tu tiempo libre en tiempo de trabajo, que puede venderse a los anunciantes. El objetivo de estas empresas es extender las prácticas de automatización que han perfeccionado en el ámbito de la producción al ámbito del consumo. Al hacerlo, están transformando al individuo y a la sociedad. Sus innovaciones tienen como objetivo capturar y comprimir la existencia humana en las celdas de un informe de ganancias trimestrales.
Mientras tanto, las decisiones diarias sobre el desarrollo tecnológico están en manos de un número cada vez menor de multimillonarios. Los procesos de toma de decisiones son cada vez más opacos, tanto por la complejidad de los procesos que los impulsan (como los grandes modelos de lenguaje) como porque el retroceso de los actores de interés público, incluidas las universidades y las agencias reguladoras, ha permitido que esta opacidad se agrave y se normalice.
El ámbito de los derechos humanos ha dedicado décadas a estudiar y comprender la naturaleza humana. Ahora debe demostrar que ofrece algo más que brillantes barreras de protección para la innovación privada. Debe proporcionar un programa que ayude a determinar qué hay que construir y cómo. Debe reorganizar los recursos para que podamos abordar eficazmente los problemas colectivos urgentes, como el cambio climático, al tiempo que se proporciona a las personas los medios necesarios para avanzar en sus sueños.
El ámbito de los derechos humanos debe aprovechar su herencia organizativa para recuperar la dimensión del tiempo. Para ello, los investigadores y los profesionales deben recuperar la narrativa del futuro de manos de aquellos que solo ven distopías paralizantes por delante y de los multimillonarios tecnológicos que creen que construir esas distopías es un modelo de negocio legítimo y sostenible. Necesitamos recuperar la dimensión del espacio saliendo del letargo caleidoscópico en el que nos han sumido, para poder volver a vernos unos a otros como seres humanos que merecen una vida digna.