Nous connaissons tous l’expression « ce qui se passe à Vegas reste à Vegas ».l est normal de vouloir que seul·es nos proches connaissent nos agissements et nos déplacements. Et pourtant, il devient de plus en plus difficile de préserver notre anonymat et notre vie privée dans les lieux publics. L’année 2019 a été marquée par la montée en puissance des réseaux militants en défense des droits numériques qui s’opposent à l’utilisation des technologies de reconnaissance faciale par les gouvernements et les entreprisesdans dans les lieux publics. Cette année, ces militant·es sont intervenu·es à travers le monde pour tenter d’éviter que les mouvements et les agissements de chaque individu soient méticuleusement surveillés.
Interdiction de l’utilisation massive de la reconnaissance faciale
Les militant·es pour les droits numériques soutiennent depuis longtemps que la reconnaissance faciale représente une surveillance massive, lorsqu’elle est utilisée pour suivre à la trace les déplacements de populations entières dans des lieux publics, en comparant les visages obtenus à partir de caméras de vidéosurveillance, de drones, ou autres appareils, avec ceux des bases de données existantes. En octobre, plus de 90 ONG et des centaines d’expert·es se sont réuni·es en Albanie lors de la Conférence internationale des commissaires à la protection des données et de la vie privée et ont réclamé un moratoire mondial sur la surveillance massive par reconnaissance faciale. La coalition Public Voice a exhorté les pays à passer en revue tous les systèmes de reconnaissance faciale « pour déterminer si les données personnelles ont été recueillies légalement et pour détruire les données qui ont été obtenues illégalement. » En outre, l’Agence des droits fondamentaux de l’Union européenne a également publié un document attestant que « compte tenu de la nouveauté de cette technologie et du manque d’expérience et d’études détaillées sur l’impact des technologies de reconnaissance faciale, il est essentiel de prendre en compte plusieurs éléments avant de développer un tel système dans des applications réelles. L’agence a par ailleurs déclaré que « il est illégal d’utiliser des logiciels de reconnaissance faciale ayant un fort degré d’intrusion et compromettant le noyau inviolable des droits fondamentaux. » Le Rapporteur spécial des Nations Unies sur la liberté d’expression, David Kaye, a aussi demandé l’établissement d’un moratoire immédiat sur la vente, le transfert et l’utilisation des technologies de surveillance, y compris la reconnaissance faciale, en attendant que des dispositifs juridiques conformes aux normes des droits de l’homme soient mis en place.
En Russie, Roskomsvoboda a lancé une campagne pour un moratoire sur l’utilisation massive par le gouvernement de la reconnaissance faciale jusqu’à ce que les effets de cette technologie soient étudiés et que le gouvernement mette en place des garanties juridiques protégeant les informations confidentielles. Au Royaume-Uni, 25 ONG, dont Big Brother Watch, Article 19, Open Rights Group et Privacy International, ont appelé la police britannique et les entreprises privées à cesser immédiatement d’utiliser la reconnaissance faciale directe pour surveiller le public. En 2016 et 2018, des tests sur la reconnaissance faciale à Londres ont identifié à tort des individus comme étant des criminel·les potentiel·les dans 96% des scans, un taux excessivement élevé de faux-positifs. Cette année également, Big Brother Watch a lancé une action en justice contre la Police métropolitaine de Londres et le Ministre de l’Intérieur pour exiger l’arrêt immédiat de l’utilisation par la police de la reconnaissance faciale directe. En France, La Quadrature du Net (LQDN) a demandé d’interdire l’utilisation de la reconnaissance faciale destinée à identifier des manifestant·es. Au cours des six dernières années, le gouvernement français a adopté plusieurs décrets - sans aucun débat public - permettant l’identification automatique des manifestant·es. Aux États-Unis, des militant·es locales·aux se sont lancé·es dans la lutte contre cette technologie en interdisant avec succès la reconnaissance faciale au plan municipal. Les villes d’Oakland, San Francisco, Berkeley et Somerville, Massachusetts ont toutes interdit l’utilisation des technologies de reconnaissance faciale par le gouvernement. En début d’année, la Californie a interdit l’utilisation de la reconnaissance faciale sur les appareils photo utilisés par les forces de l’ordre, ce qui a amené San Diego à mettre fin à un programme qui existait depuis longtemps, la reconnaissance faciale à l’aide de téléphones portables.
La Quadrature du Net ainsi que d’autres ONG françaises ont également déposé une plainte pour interdire l’utilisation de la reconnaissance faciale dans deux lycées de Nice et de Marseille. Ces actions ont amené la CNIL, l’autorité française de protection des données, à conclure que l’utilisation de la reconnaissance faciale à l’entrée des écoles pour cibler en majorité des mineur·es n’est « ni nécessaire ni proportionnée » et que les objectifs du programme pourraient parfaitement « être atteints de manière beaucoup moins intrusive en termes de vie privée et de libertés individuelles. » En Suède, dans un cas similaire, l’Autorité suédoise de protection des données a infligé à une municipalité une amende d’environ 20 000 euros, conformément au Règlement général sur la protection des données (RGPD) après qu’une école ait mené un projet pilote utilisant la technologie de reconnaissance faciale pour détecter les élèves absent·es. La DPA suédoise a rejeté l’argument de la municipalité selon lequel l’école avait consenti à traiter des informations biométriques sensibles, comme l’exige le RGPD, en faisant valoir que « le consentement ne constituait pas une base juridique valable, compte tenu du déséquilibre évident entre la personne concernée et le contrôleur du projet ». Malheureusement, à peine quelques mois plus tard, la même DPA suédoise a émis une nouvelle décision autorisant les services de police à utiliser la reconnaissance faciale pour comparer les visages des séquences de vidéosurveillance aux bases de données biométriques de criminels. Celle-ci précise tout de même que la police doit fixer une période de conservation des informations biométriques recueillies par les caméras.
Mettre fin à la culture du secret
Cette année [NDT : en 2019], des ONG latino-américaines se sont battues contre une culture du secret profondément enracinée dans les mentalités, protégeant l’identité des prestataires de reconnaissance faciale, les sources de données, les méthodes de collecte de données, les applications et les clients. TEDIC, la principale organisation de défense des droits numériques au Paraguay, a intenté un procès contre la constitutionnalité d’une résolution du Ministère de l’Intérieur qui avait rejeté une la demande d’accès aux archives de la part de la TEDIC afin d’obtenir plus de détails sur le ministère de l’Intérieur et sur l’utilisation des technologies de reconnaissance faciale par la Police nationale. La reconnaissance faciale est utilisée dans le centre-ville, l’aéroport et les gares routières d’Asunción depuis 2018, et il est désormais prévu de l’utiliser dans à la ville entière.
En Argentine, l’Asociación por los Derechos Civiles (ADC) a porté plainte contre le gouvernement de la ville de Buenos Aires contestant la constitutionnalité de la résolution 398/19, qui a mis en place un système de reconnaissance faciale relié aux caméras de sécurités et aux centres de surveillance de la ville. La plainte de l’ADC a été présentée après avoir obtenu des réponses à deux demandes d’informations sur le système de reconnaissance faciale.
En collaboration avec l’ADC et l’Observatorio de Derecho Informático Argentino, Access Now a envoyé une demande d’information à la province argentine de Cordoba à propos de l’annonce faite en Octobre 2019, concernant le test d’un système de reconnaissance biométrique relié aux caméras qui utilisent l’intelligence artificielle. Au Pérou, plus tard dans le mois, Access Now et Hiperderecho ont envoyé des demandes d’informations similaires à La Victoria, San Martín de Porres et Miraflores, districts municipaux de Lima. Parmi les informations demandées figurent l’identité du fournisseur de la technologie, les fiches techniques du système et les procédures d’identification et d’arrestation des personnes suspectes.
Des ONG latino-américaines ont également lancé des campagnes de revendication contre la reconnaissance faciale. Derechos Digitales a lancé une campagne de revendication pour mettre en lumière les différentes propositions de reconnaissance faciale et biométrique envisagées en Amérique latine. Au Brésil, l’artiste Gu Da Cei a mené des campagnes d’intervention humaine dans les gares routières de Brasilia, inspiré par les images qu’il avait reçu à la suite d’une demande d’information. Le but de ces actions était d’exposer les photos d’individus prises dans les bus à l’aide d’un système de biométrie faciale afin de renforcer le droit des utilisateurs des transports en commun à leur image personnelle.
Rôle des entreprises privées dans l’utilisation de la reconnaissance faciale à des fins de surveillance
En 2019, certains rapports ont également dévoilé le rôle des entreprises privées dans l’utilisation publique de la reconnaissance faciale. Un rapport du New York Times a révélé la manière dont certaines entreprises chinoises, telles que la C.E.I.E.C., avaient réussi à commercialiser des versions du système chinois de reconnaissance faciale massive en les exportant vers des pays en voie de développement, en particulier l’Équateur, la Bolivie, l’Angola et le Venezuela. En Équateur, la mise en place du système, ECU 911 a été un succès parmi les Équatorien·nes préoccupé·es par la délinquance urbaine, mais en même temps celui-ci a amplifié les craintes face aux abus du système, lorsqu’il est utilisé pour la répression politique. Juste avant la fin de l’année, 78 reconnaissances faciales CCTV liées à ECU911 ont été installés dans le centre historique de Quito, un site où des centaines de militant·es autochtones ont récemment manifesté contre le gouvernement Équatorien. Derechos Digitales a publié un rapport montrant que le C.E.I.E.C. était également actif dans le programme de sécurité de la Bolivie et que le financement du programme provenait d’une banque nationale chinoise. Internet Bolivia a déclaré à Derechos Digitales que Bol-110, le projet ambitieux d’acquérir des technologies de surveillance en Bolivie, "serait présent partout : dans les écoles, les taxis, les hôpitaux". Et bien que Bol-110 n’ait pas été approuvé par le Congrès bolivien, le système de reconnaissance faciale a déjà été acheté.
En Serbie, la Fondation SHARE a déposé une demande d’informations sur un nouveau système de vidéosurveillance basé sur les technologies de reconnaissance faciale et de lecteur de plaque d’immatriculation. Il est apparu que l’entreprise chinoise Huawei était le principal partenaire du gouvernement serbe dans ce projet. De plus, la Fondation SHARE a découvert une étude de cas publiée sur le site Web d’Huawei relative à des caméras de surveillance de nouvelle génération qui avaient déjà été installées à Belgrade. Huawei a supprimé l’étude de cas de son site Web peu de temps après que la Fondation SHARE l’ait rendue publique. En novembre, SHARE a demandé la suspension immédiate du programme de reconnaissance faciale de la Serbie. Dans un récent rapport, SHARE, ainsi que les ONG partenaires, la Serbie et le Centre de Belgrade pour la sureté, ont conclu que l’évaluation de la confidentialité des caméras de surveillance par le ministère de l’Intérieur n’était pas conforme aux normes requises par la loi serbe sur la protection des données. Pendant ce temps, les législateurs brésiliens ont bénéficié d’un voyage en Chine, tous frais payés, pour découvrir et assister à des démonstrations de technologies de surveillance faciale que les entreprises chinoises espéraient vendre au Brésil.
Sécurité et fuite des données
L’Institut brésilien de défense des consommateurs (IDEC) a exigé de Dataprev, une entreprise publique brésilienne chargée de la sécurité des informations concernant la sécurité sociale brésilienne, qu’elle suspende son offre d’acquisition des technologies de reconnaissance faciale et d’empreintes digitales jusqu’à ce que les fuites existantes des données des bénéficiaires soient résolues. L’IDEC a expliqué que si la société avait l’intention d’intégrer dans une application la reconnaissance faciale, pour aider les personnes handicapées à accéder à distance à leurs informations bancaires et à la sécurité sociale, le risque élevé de violation de cette technologie compromettrait les informations personnelles d’environ 35 millions de Brésilien·nes.
Aux Pays-Bas, Bits of Freedom a lancé une campagne avec des militant·es pour démontrer le manque de sécurité d’un programme pilote de reconnaissance faciale néerlandaise sur la place Dam, en plein cœur d’Amsterdam, pendant qu’ une webcam diffusait les images en direct sur YouTube et sur le site Web webcam.nl. Bits of Freedom a téléchargé les images de ses membres sur la place Dam, puis les a projetées via le logiciel de reconnaissance faciale d’Amazon, Rekognition. Le logiciel a été capable identifier ces membres. Bits of Freedom en a conclu que les logiciels de reconnaissance faciale, combinés à une surveillance massive dans les lieux publics, menaçaient la vie privée et la sécurité des personnes vulnérables, y compris les victimes de harcèlement et de violence domestique.
Conclusion
Cette année, les gouvernements du monde entier ont rapidement adopté la technologie de reconnaissance faciale pour l’utiliser dans les lieux publics. Mais les militant·es n’ont pas tardé à réagir, exigeant la transparence et obtenant des moratoires et des interdictions sur l’utilisation de cette puissante technologie. En 2020, les tensions entre l’utilisation par le gouvernement de cette technologie pour la sécurité publique et le droit des individus à la vie privée continueront à s’intensifier. L’EFF restera vigilante et poursuivra sa lutte contre l’adoption par le gouvernement de la technologie de reconnaissance faciale.