[ X ] Create your own user feedback survey

Les implications de la « datafication » sur le droit au développement

Les avancées technologiques, notamment l’intelligence artificielle, peuvent aider à garantir le respect du droit au développement mais les technologies numériques ne sont pas un remède miracle : le rôle de la gouvernance est essentiel. 


By: Anita Gurumurthy & Deepti Bharthur
September 27, 2018

Available in:
English | Español


Photo: pixaby/geralt/18399 (CC0 Creative Commons)


Le paradigme numérique, avec son arsenal de technologies, promet de résoudre les grands défis sociaux et économiques de notre temps. Les avancées technologiques, comme l'intelligence artificielle, l'internet des objets, le block chain, et d’autres évolutions, sont présentées comme des solutions potentielles pour tout un ensemble de problèmes divers et variés. Cependant, la prise de décision fondée sur la technologie soulève également d’importantes questions sur la manière dont le droit au développement sera garanti dans le cadre de ce nouveau paradigme numérique.

La déclaration sur le droit au développement présente le développement comme « un processus global, économique, social, culturel et politique, qui vise à améliorer sans cesse le bien-être de l’ensemble de la population et de tous les individus, sur la base de leur participation active, libre et significative au développement et au partage équitable des bienfaits qui en découlent ».

Mais le discours actuel en matière de développement, inextricablement lié à l’économie politique des données (où le paradigme de « datafication », sous l’impulsion des pays du Nord, joue un rôle essentiel dans la création de valeur et dans la restructuration économique) n’a pas grand-chose à voir avec cette formulation inclusive. Au contraire, ce discours est devenu toujours plus technique, et l’idée des mégadonnées au service du développement durable semble soulever plus de questions qu’elle n’apporte de réponses.

Premièrement, sur la scène internationale, le discours politique sur les données a fait pencher l’innovation numérique en faveur des pays développés. Ce discours ne prend pas en compte l'hétérogénéité des capacités des pays dans le domaine des données, permettant aux pays du Nord de concevoir et de mettre en œuvre des modes d’évaluation de manière sélective. Par exemple, le choix sélectif d’indicateurs et de références comparatives dans les ODD pour mesurer des objectifs de développement très complexes peut conduire à « compter les arbres, cachant ainsi la forêt au lieu de la comprendre. ».

Deuxièmement, il est préoccupant de voir que, dans les pays du Nord et du Sud, les données et la technologie sont organisées de manière à ce que les données essentielles soient massivement collectées et consolidées par le secteur privé dans les domaines du commerce, de l’agriculture, de la santé et de l’éducation. Non seulement, cela laisse les citoyens des pays en développement vulnérables à de graves violations de la vie privée, mais cela pèse également fortement sur leurs droits économiques, sociaux et culturels (DESC). Par exemple, en Inde, l’acquisition de réussites locales, comme l’achat par Wal-Mart de la licorne (une licorne est une startup dont la valorisation dépasse 1 milliard de dollars) Flipkart menace les moyens de subsistance des petits producteurs et commerçants.  

Une troisième tendance concerne l’afflux de solutions de développement fondées sur les données qui inondent le continent africain, avec les États, les entreprises et les acteurs non gouvernementaux élaborant diverses interventions dans le secteur social ou économique. Comme l'a observé l’universitaire Linnet Taylor, cela peut entraîner une « nouvelle bataille en Afrique avec la main mise sur les ressources numériques pouvant avoir des implications aussi fortes que la lutte entre les puissances coloniales lors de la fin du 19ème siècle ».

Pour finir, la « plateformisation » mondiale des contenus (à savoir, le développement des services de vidéos à la demande et de streaming) nous montre que la garantie que les populations puissent avoir accès à la culture de leur choix pourrait aujourd’hui reposer sur les intermédiaires du monde numérique. Au Brésil, par exemple, la forte expansion de Netflix fait imploser le marché audio-visuel local. Comme le remarque Mariana Valente d'InternetLab au Brésil, Netflix ne contribue financièrement en aucune manière au secteur des médias brésiliens qui est largement soutenu par la fiscalité locale. Les recommandations intuitives faites par Netflix, avec ses fonctions « recherche » et « suggestions » (la principale manière utilisée par ses clients pour décider de ce qu’ils vont visionner), ne peuvent faire l’objet d’aucun contrôle. De même, les politiques, en place de longue date, de discrimination positive des médias traditionnels afin de promouvoir les contenus locaux ne s’appliquent pas dans le contexte de Netflix. Les médias indépendants brésiliens courent donc le risque de se retrouver relégués aux dernières pages des catalogues, à la merci des modèles privés de données qui favorisent le contenu culturel populaire des pays du Nord.

Malgré ces menaces sur les droits économiques, sociaux et culturels des citoyens, le scénario n’est toutefois pas aussi sombre qu’il n’y paraît. Certaines initiatives comme « AI for good » cherchent des solutions aux problèmes sous l’angle de la justice sociale plutôt que sous l’angle de la technologie. Par exemple, le nouvel algorithme d'apprentissage automatique du laboratoire de recherche en politique d’immigration de Stanford analyse l’installation des réfugiés aux États-Unis et en Suisse dans le passé afin de prédire et d’optimiser les politiques d’installation et d’intégration des réfugiés. L’algorithme prédit les probabilités de succès pour un refugié afin de faire correspondre les possibilités en matière d’installation. Cette solution, gratuite pour les agences gouvernementales, les organisations à but non lucratif et les administrations, aux États-Unis et en Europe, pourrait ouvrir de nouvelles opportunités sociales et économiques pour les réfugiés.

Néanmoins, si cet algorithme a pour vocation de venir en aide au raisonnement humain plutôt qu’à le supplanter, on peut aisément imaginer un futur dans lequel l’aide humanitaire aux réfugiés repose sur leur capacité (prouvée par la technologie) à s’intégrer à l’économie du pays d’accueil et à contribuer positivement. Le compromis à une réinstallation des réfugiés plus aisée pourrait-il être l’exclusion des personnes isolées par l’algorithme comme ne pouvant pas être admises ou dans une situation « insoluble » ? Cela pose un réel défi en termes de politique publique et ce type de modèle prédictif doit faire l’objet d’audits institutionnels et d’un suivi étroit et permanent pour surveiller les éventuelles distorsions sociales. Au fur et à mesure qu’évolue le paradigme numérique, la route menant aux droits humains va certainement devenir plus complexe, accentuant l’importance de la réglementation. La réalisation des DESC et le droit au développement implique que l’on puisse demander à ce que des comptes soient rendus. 

Plus tôt cette année, la Déclaration de Toronto sur « l’égalité et la non-discrimination dans les systèmes d’apprentissage automatique » a été  mise en avant par Amnesty International et Access Now lors du RightsCon. Si la déclaration est une étape importante, la démocratie mondiale au 21ème siècle repose sur la maîtrise de l’intelligence artificielle via un code éthique mondial contraignant qui puisse rejeter l’utilisation de l’IA lorsqu’en contradiction avec le droit international et les obligations relative aux droits humains.

Le rôle des États dans le développement d’une gouvernance des données doit être plus proactif. Premièrement, la gouvernance des données doit aller au-delà de l’idée de « consentement informé » et prendre également en compte l’intérêt public. Les hypothèses simplistes sur l’aptitude de l’utilisateur à faire des choix rationnels sur les données peut négliger la situation géographique et la capacité à s’exprimer des personnes concernées. Par exemple, un citoyen fortement dépendant des mesures de protection sociale des États ne peut exercer son « droit de retrait ». Par conséquent, le consentement doit être accompagné de la possibilité de véritablement choisir pour être un moyen efficace d’utiliser, et d’échanger, les données de manière éthique.

Le second impératif en matière de formulation des politiques publiques concerne la reconnaissance du rôle des données et de l’IA fondée sur les données en tant que bien commun essentiel au développement. Les États doivent investir dans l’idée des « données en tant que bien public », afin de pouvoir travailler à l’amélioration des droits humains. Premièrement, les États doivent élaborer des politiques permettant de partager efficacement les données entre les gouvernements et le secteur privé pour les secteurs dont l’importance sociale est vitale. La municipalité de Curitiba au Brésil, par exemple, a joué un rôle moteur dans l’adoption d’une loi locale qui oblige le partage anonyme des données entre les pouvoirs publics locaux et Uber. L’intention est de tirer profit de la richesse et de l’étendue des données de Uber afin d’améliorer l’aménagement urbain et la gestion de la circulation. 

Surtout, les États doivent mettre en commun les données en prévoyant un contrôle indépendant. Bien que nouveaux, les modèles de gestion de bases référentielles de métadonnées sont de plus en plus nombreux. Ces bases de données référentielles peuvent encourager l’innovation au niveau local, les start-ups et les agences publiques jouant un rôle moteur dans le développement de solutions, basées sur l’IA, adaptées aux problématiques sociales. La décision du gouvernement indien de développer un portail prédictif et analytique de données cross-sectorielles sur l’agriculture pour les agriculteurs est un bon exemple. En tant que ressource publique, ce type d’outil peut s’avérer très utile pour les agriculteurs, les start-ups, l’industrie agroalimentaire et les agences publiques. Bien sûr, le succès et la pérennité de ces initiatives dépend d’un contrôle public et de mesures réglementant le partage, le traitement, et l’utilisation des données reposant sur une nouvelle vision de l’indivisibilité des droits. 

*** This article is part of a series on technology and human rights co-sponsored with Business & Human Rights Resource Centre and University of Washington Rule of Law Initiative.

 


Anita Gurumurthy est membre fondatrice et directrice exécutive de l’ONG  IT for Change. Elle dirige les projets et les partenariats de recherche en lien avec la société de réseau, plus particulièrement dans le domaine de la gouvernance, de la démocratie et de l’égalité des sexes.

Deepti Bharthur est attachée de recherche au sein de l’ONG IT for Change. Elle contribue à la recherche-action ainsi qu’à la recherche universitaire et sur les politiques, dans les domaines de l’e-gouvernance et de la citoyenneté numérique, de l’économie des données et des plateformes et de l’exclusion numérique.


 

COMMENTS