L'ampleur et la montée en puissance de la campagne de haine raciale virtuelle qui a déferlé sur la Tunisie sont certainement sans précédent pour le pays, qui a été pionnier du Printemps arabe, il y a dix ans. Toutefois, les conséquences réelles et de grande portée des plateformes numériques sur les droits humains ne sont pas nouvelles à la région du Moyen-Orient et de l'Afrique du Nord (MENA). Les entreprises technologiques sont déjà au cœur de enjeux régionaux liées à la liberté d'expression, à la non-discrimination et aux droits humains.
Des rapports récents documentent comment les forces de sécurité en Tunisie, en Jordanie et au Maroc ont eu recours au ciblage numérique à travers les médias sociaux dans le but de créer des preuves menant à la détention arbitraire, l’abduction et la torture des personnes LGBTQI+. Au Koweït et en Arabie Saoudite, les réseaux sociaux ont été accusés de promouvoir l’esclavage moderne en facilitant la traite des travailleuses domestiques migrantes. Des plateformes telles que Facebook (Meta) et YouTube (Alphabet) ont déjà attiré l'attention pour avoir hébergé des contenus qui ont contribué à la montée de la violence extrémiste dans la région.
Il est certain que les problèmes à l'intersection des droits humains et de la modération de contenu ne sont pas exclusifs à la région MENA : au Myanmar, l'algorithme de Meta a été accusé d’inciter à la violence à l'encontre de la communauté Rohingya. La même société a été poursuivie au Kenya pour avoir attisé la violence et les discours de haine en relation avec le conflit de Tigray en Éthiopie. Si l'on peut se féliciter que les entreprises numériques aient commencé à s'intéresser à ces questions à 'échelle mondiale, il est légitime de constater qu’elles n'ont pas toujours fait assez pour atténuer les risques liés à leurs activités au niveau local et dans les pays du Sud.
Depuis longtemps, les activistes de la région MENA déplorent l'absence de dialogue avec les plateformes numériques et le manque d'engagement effectif des entreprises technologiques à l'égard de leurs demandes. Ces préoccupations ont été régulièrement reprises dans des forums tels que Bread&Net, la conférence de référence sur les droits numériques dans la région. Outre les lacunes dans l'engagement des parties prenantes, les erreurs commises par les entreprises dans la modération des contenus en arabe sont trop fréquentes et entraînent des coûts importants en termes de droits humains. Une étude réalisée en 2020 montre que les algorithmes de Meta suppriment à tort des contenus arabes non violents dans 77 % des cas.
Par ailleurs, il est regrettable que les cas où des personnes originaires de la région ont effectué la modération ont été entachés par des allégations de violation des droits du travail : une enquête récente a révélé comment TikTok aurait imposé à ses travailleurs sous-traitants au Maroc un environnement de travail caractérisé par une surveillance quasi-constante et des objectifs métriques quasi impossibles à atteindre.
Au cours de la vague de haine raciale traversant actuellement la Tunisie, les militants ont déploré l'inefficacité du mécanisme de signalement mis en place par les plateformes et leur incapacité à supprimer rapidement ou efficacement les contenus menaçants pour les migrants noirs.
En vertu des principes directeurs des Nations unies relatifs aux entreprises et aux droits de l'homme, les entreprises ont la responsabilité de respecter les droits humains, y compris les droits à la non-discrimination, à la vie privée et à la liberté d'expression. Elles doivent accorder une attention particulière aux contextes où les droits humains sont les plus menacés.
C'est bien le cas de la région, dont la performance en matière de droits humains et de gouvernance se situe mondialement en bas de l'échelle. Mis à part les abus flagrants qui prévalent dans la région du Golfe et dans les zones de conflit, des pays comme la Tunisie et la Jordanie ont aussi pris un virage à la baisse sur un large éventail de libertés, y compris les droits numériques ; en 2022, sept pays de la région MENA ont enregistré un recul de la liberté d’internet. Les gouvernements tunisien, égyptien et turc ont été critiqués pour avoir promulgué une législation controversée sur la diffusion de fausses rumeurs via les plateformes de médias sociaux, et ce afin de réduire les dissidents au silence. Ces récents développements, ainsi que les tendances politiques de longue date dans la région, rendent d'autant plus importante la nécessité pour les entreprises de faire preuve d'une diligence raisonnable accrue.
Hormis l’argument moral et normatif, une attention accrue portée par les grandes entreprises technologiques aux risques droits humains dans la région MENA pourrait également constituer un investissement intelligent et stratégique de leur part. Les utilisateurs de la région MENA font partie des utilisateurs les plus prolifiques des plateformes de médias sociaux dans le monde, et l'arabe est la troisième langue la plus utilisée sur Facebook. Alors que Meta connaît un ralentissement de sa croissance mondiale, l'entreprise continue de bénéficier d'une puissante présence sur les médias sociaux dans la région. Avec 56 millions d'utilisateurs, l'Égypte était le neuvième plus grand marché pour Meta en mai 2022.
Au regard de la montée des gouvernements vers l'autoritarisme numérique, les communautés et les populations sont susceptibles de se tourner vers les plateformes numériques comme unique voie de redevabilité. Le gain d'un permis social d’exploitation est donc essentiel pour que les entreprises technologiques maintiennent et développent leurs activités dans la région.
Pour les plateformes numériques, la région MENA peut servir de test crucial pour l'adoption d'une approche régionale de la diligence en matière de droits humains. La relative similitude des dialectes arabes par rapport à la diversité linguistique que l'on trouve sur d'autres continents, comme l'Afrique et l'Asie, signifie que les entreprises peuvent jouer un rôle plus visible et proactif pour éviter les conséquences négatives de leurs activités sur la liberté d'expression, l'égalité et au-delà dans la région.
Afin d’y parvenir, elles devraient tout d’abord commencer par allouer les fonds, l'expertise et les ressources humaines nécessaires afin de répondre aux demandes croissantes de transparence de la part de leurs millions d'utilisateurs dans la région. Elles peuvent investir dans la formation de leurs équipes régionales sur les questions relatives aux droits humains et dans l'embauche de personnel maîtrisant l'arabe et comprenant les spécificités du contexte.
Pour éviter que le scenario tunisien ne s’amplifie ou ne se reproduise ailleurs, les plateformes numériques doivent dresser un tableau contextuel précis des risques associés à leurs activités et agir en conséquence. À cette fin, elles doivent impérativement entreprendre une évaluation des risques en matière de droits humains, et s’assurer de la participation des groupes concernés dans la région. Cette approche repose crucialement sur la volonté des entreprises d'établir des alliances avec les groupes de la société civile et les communautés, et leur ouverture à la cocréation de politiques et de mécanismes de recours avec les plus impacté.