Las obligaciones en materia de derechos humanos no se aplican únicamente a los gobiernos nacionales. En Estados Unidos hay docenas de ciudades que se autodenominan «ciudades de los derechos humanos», desde Mountain View (California) hasta Jackson (Misisipi), pasando por nuestra sede en Boston (Massachusetts). Gracias a su compromiso municipal con los derechos humanos, estas ciudades están bien posicionadas para liderar la respuesta a los retos que plantea la rápida expansión de la interfaz entre los seres humanos y la tecnología.
Las preocupaciones sobre la relación entre los seres humanos y las máquinas son tan antiguas como la rueda y la palanca. La introducción masiva de la World Wide Web y los teléfonos inteligentes añadió una dinámica digital y social a la relación de la humanidad con las máquinas, lo que suscitó preocupaciones sobre cómo una conectividad más omnipresente podría facilitar, regular y limitar nuestra vida cotidiana. A medida que se amplía el papel de la inteligencia artificial, las cuestiones que plantea esta relación se vuelven más complejas y urgentes. Los posibles daños de la inteligencia artificial, como el sesgo de los datos o la desinformación, están entrelazados con sus beneficios, y sin normas bien definidas y aplicables, es difícil controlar la difusión y el uso de estas tecnologías.
Boston: un ejemplo de ciudad inteligente
Boston es una de las ciudades estadounidenses líderes en la exploración de lo que podría ser una «ciudad inteligente». Ha creado la primera oficina de innovación del gobierno local del país, es una de las primeras ciudades en crear una brigada Code for America y, en general, ha asumido el riesgo calculado de aprender sobre el despliegue tecnológico poniéndolo en práctica. Desde sus primeras colaboraciones para desarrollar un sistema 311 en toda la ciudad, colaborar en pruebas de vehículos autónomos y facilitar el despliegue de sensores de calidad del aire impulsado por la comunidad, Boston se ha convertido en una ciudad conocida no solo por su apertura a la tecnología, sino también por su compromiso de garantizar que las tecnologías desplegadas en el ámbito público sirvan realmente al interés público.
Nuestro equipo de investigadores y profesionales, con experiencia en políticas tecnológicas, investigación comunitaria y derechos humanos, está trabajando con funcionarios municipales para trazar los pasos que Boston puede dar para convertirse en una ciudad inteligente en materia de derechos humanos, donde las normas de derechos humanos sirvan de base para las políticas tecnológicas. Hemos identificado seis áreas fundamentales de preocupación en materia de derechos humanos que suelen acompañar a las campañas de ciudades inteligentes: (1) la reducción de los derechos civiles, (2) la expansión del poder privado en la esfera pública, (3) la pérdida de prioridad de la justicia y la inclusión, (4) la falta de sostenibilidad, (5) la vulneración de los derechos a la privacidad y (6) las concesiones en la implementación de la tecnología que refuerzan las dinámicas de poder existentes.
Hemos constatado que los proyectos de ciudades inteligentes suelen encajar en marcos de enfoque descendente o ascendente. Entre los proyectos de enfoque descendente se incluyen la ciudad ecológica de Tengah, en Singapur, y colaboraciones empresariales como el Proyecto Quayside de Alphabet en Toronto, el contrato de IBM para mejorar Digital On-Ramps y la colaboración de Verizon con la ciudad de Boston para aumentar el acceso a Internet de banda ancha y alta velocidad. Estos proyectos se caracterizan por iniciativas ambiciosas y de gran alcance, a menudo centradas en la escalabilidad y la replicabilidad. Sin embargo, entre los problemas típicos se encuentran la nivelación de las necesidades de las poblaciones afectadas y la falta de alineación de los objetivos entre las partes interesadas, especialmente en las colaboraciones empresariales con estructuras de gobernanza pública. Por ejemplo, mientras que el incentivo de Verizon para trabajar con la ciudad de Boston era el potencial de reducción de costes del proyecto, el interés de la ciudad era la posibilidad de aumentar el acceso y la calidad de los servicios a un sector más amplio de la población de Boston.
Un enfoque mejor para garantizar los derechos humanos en las ciudades inteligentes
Descubrimos que los marcos ascendentes a menudo abordaban de forma más exhaustiva los posibles escollos de las ciudades inteligentes. Este enfoque dio lugar a proyectos más descentralizados, con jerarquías de poder menos evidentes, lo que permitió devolver mejor la capacidad de acción a las poblaciones afectadas. Dado que estos proyectos no fueron impuestos desde arriba, encontramos más iniciativas centradas en el lugar que rompen el paradigma de los expertos y concentran el poder en los residentes y las poblaciones afectadas. Estos proyectos se llevaron a cabo a menudo a una escala más pequeña e hiperlocal y se centraron en resolver problemas específicos o en adaptarse a ecosistemas concretos. Algunos ejemplos son los ayuntamientos del barrio de Allston, en Boston, llevados a cabo a través de Second Life, una plataforma de mundo virtual, así como los modelos de «democracia digital» de participación comunitaria, como Decide Madrid, las Asambleas de Alineación de Taipéi, el proyecto Participate Melbourne y la reinvención de las herramientas de IA, que han pasado de ser grandes modelos lingüísticos que consumen muchos recursos a pequeños modelos lingüísticos impulsados por la comunidad.
Estos ejemplos demuestran que los retos en materia de derechos humanos no son insuperables. De hecho, reconocer y abordar estos retos puede mejorar la gobernanza municipal y el bienestar de los residentes de la ciudad. Para ello se requieren tres componentes clave.
En primer lugar, los responsables políticos locales deben estar preparados para identificar los posibles impactos en los derechos humanos del uso ampliado de la tecnología. El apoyo de las altas esferas de la jerarquía municipal, incluido el compromiso público con los derechos humanos, animará a los empleados municipales a considerar esto como parte de su trabajo. También puede ser útil impartir formación especializada para poner de relieve los posibles problemas. En Boston, estamos planificando varios talleres con actores locales para iniciar estas conversaciones y explorar cómo los expertos en tecnología municipal y sus pares experimentan la interfaz entre su trabajo y los derechos humanos; el primero de ellos contó con una gran participación de los trabajadores municipales.
En segundo lugar, los gobiernos locales deben proporcionar procesos basados en los derechos humanos para la participación y la retroalimentación del público, ya que la participación de los más afectados por una política es en sí misma un importante derecho humano reconocido por los organismos internacionales de derechos humanos. Varias ciudades han sido pioneras en la búsqueda de formas eficaces de garantizar la participación pública en la elaboración de políticas tecnológicas. Por ejemplo, las plataformas de democracia digital como Decidim Barcelona facilitan la toma de decisiones participativas a gran escala y la deliberación sobre las políticas comunitarias. Más cerca de casa, ciudades como Rochester, Minnesota, han empleado conceptos de diseño conjunto que hacen que las comunidades afectadas participen plenamente en la toma de decisiones sobre las iniciativas que les afectan. El año pasado, Boston celebró su primer proceso de presupuesto participativo en toda la ciudad, ampliando una iniciativa juvenil que lleva varios años en marcha. Estos enfoques de la gobernanza local centrados en las personas son adaptables al sector tecnológico y, al mismo tiempo, respetan el derecho humano a la participación. De cara al futuro, nuestro equipo organizará conversaciones en diversas comunidades de Boston para conocer mejor sus experiencias, retos, entusiasmo e interés en relación con el uso y la implantación de la IA en la ciudad. Este verano nos centraremos en la experiencia de los jóvenes en los espacios públicos de la ciudad.
En tercer lugar, los gobiernos locales deben garantizar que los contratistas privados que participan en la transición tecnológica identifiquen y den prioridad a las obligaciones en materia de derechos humanos. Es fundamental que las políticas de contratación pública se ajusten a los parámetros de derechos humanos. Los Principios Rectores sobre las Empresas y los Derechos Humanos de las Naciones Unidas constituyen un punto de partida para esas políticas locales. A medida que las ciudades más grandes adopten este enfoque, los contratistas tecnológicos ajustarán sus prácticas, lo que beneficiará a los municipios más pequeños que tienen menos influencia en el mercado. La ciudad de Boston está perfeccionando sus normas de contratación tecnológica, en particular en los ámbitos de la recopilación de datos y la experiencia de los ciudadanos. Aunque todavía no se ha organizado formalmente en torno a un marco de derechos humanos, la ciudad espera aprender de nuestro proyecto cómo puede cambiar su enfoque en numerosos departamentos.
Mientras exploramos esta cuestión en nuestra ciudad natal, Boston, somos conscientes de que cada comunidad es diferente. Boston tiene una gran densidad de universidades, pero también es una de las ciudades con mayor segregación racial de Estados Unidos. Estos factores deberán tenerse en cuenta en los esfuerzos de nuestra ciudad por convertirse en una ciudad más inteligente en materia de derechos humanos. No obstante, esperamos que lo que aprendamos a través de este proceso resulte valioso para otros gobiernos municipales del país a la hora de abordar la interfaz entre humanos y máquinas y de dar un paso adelante para garantizar que se respeten los derechos humanos en las interacciones cotidianas dentro de las comunidades locales.
El trabajo de los autores es una colaboración entre el NuLawLab y la Escuela de Políticas Públicas y Asuntos Urbanos de la Northeastern University.