À Marseille, le combat contre la surveillance par l’intelligence artificielle
Salle de contrôle du projet de surveillance de Marseille : 2 000 caméras peuvent détecter les personnes, les véhicules et même certaines couleurs de vêtements. Photo Mairie de Marseille
Le projet de smart city sécuritaire “Observatoire Big Data de la tranquillité publique” à Marseille s’appuie sur un vaste réseau de vidéosurveillance et d’outils d’analyse capable d’anticiper d’éventuels incidents à partir de données collectées par les caméras, mais aussi les données des hôpitaux, ou celles publiées sur les réseaux sociaux. L'appel de la Quadrature du Net et de la Ligue des droits de l’homme à arrêter le projet de vidéosurveillance de Marseille a été rejeté par le tribunal administratif début 2020. Et la nouvelle mairie, qui a hérité de ce système, ne semble pas décidée à en changer.
En 2016, Netflix a lancé sa première production européenne, une tortueuse tragédie politique intitulée Marseille. Située dans la ville portuaire historique, la série mettait en scène Gérard Depardieu et était censée être la réponse française à la série télévisée usaméricaine à succès House of Cards. Au lieu de cela, Marseille a été largement critiquée pour avoir amplifié les stéréotypes sur la ville et rétabli sa notoriété d'antan en matière de criminalité, corruption et kalachnikovs. Pierre Sérisier, dans Le Monde avait commenté ; « En langage châtié, cela s’appelle un accident industriel. En langage courant, cela s’appelle une bouse. Un truc qu’on a posé là et dont on ne sait pas quoi faire. La seule certitude est que le regarder est une souffrance ».
Cependant, au-delà de ses dialogues exagérés et de ses scènes de sexe théâtrales, la série illustrait l'attrait pour la surveillance d’une administration municipale cherchant désespérément à remplacer sa réputation de « capitale française du crime » par une industrie touristique lucrative. Dans la deuxième saison, l'adjointe au maire propose de sacrifier le budget artistique de Marseille au profit de caméras de vidéosurveillance de pointe. « La ville mérite d'être plus sûre », argumente-t-elle.
L'adjointe au maire (précédent) dans la vie réelle, Caroline Pozmentier, partage le même zèle pour la surveillance urbaine. Elle a plaidé pour que Marseille revendique le titre de première « safe city » (« ville sûre ») d'Europe, un terme utilisé par les entreprises technologiques pour décrire les villes qui utilisent leurs produits pour réduire la criminalité. « On part du principe que sans sécurité, il n'y a pas de développement économique et touristique possible", a déclaré Mme Pozmentier dans une interview accordée en 2016 au quotidien marseillais La Provence, décrivant ses nouvelles initiatives en matière de surveillance.
Tout au long de son mandat, Marseille a expérimenté des outils de « safe city » qui intègrent l'intelligence artificielle (IA), les données des citoyens et les réseaux de surveillance des collectivités locales. Mme Pozmentier a décliné de nombreuses demandes de commentaires sur cette histoire, mais un porte-parole de la mairie de Marseille a confirmé que la ville utilisait déjà la technologie de « police prédictive » qui permet aux autorités d'utiliser le big data pour « anticiper » les crimes et délits susceptibles de se produire. Le mois dernier, l'administration de la ville était au tribunal, défendant son droit à déployer une « vidéosurveillance intelligente » qui utilisera l'IA pour scruter les images de surveillance, repérer automatiquement les délits et alerter les policiers en cas de comportement suspect.
L'audience, qui s'est tenue au tribunal administratif de Marseille, a mis en évidence la résistance croissante de la population locale à la surveillance par l'IA. « Au tribunal, nous alléguions que l'installation de ces systèmes de vidéosurveillance illégaux provoquait une ingérence directe et grave dans le droit à la vie privée et à la liberté d'expression des citoyens de Marseille », déclare Félix Tréguer, membre fondateur de La Quadrature du Net, le groupe français de défense des droits numériques qui a porté l'affaire devant les tribunaux aux côtés de la Ligue française des droits de l'homme. L'appel des militants à arrêter le projet de vidéosurveillance de Marseille a été rejeté.
Un porte-parole de la mairie de Marseille a confirmé à Coda Story que certaines parties du projet de vidéosurveillance intelligente sont désormais en vigueur. Les enquêteurs sont déjà en mesure de fouiller les images enregistrées par l'armée de 2 000 caméras de surveillance de la ville grâce à des « filtres » qui peuvent détecter des personnes, des véhicules, certaines couleurs de vêtements ou des objets se déplaçant dans des directions spécifiques ou à certaines vitesses.
A l'avenir, ce projet de vidéo intelligente pourra également alerter la police en temps réel si la technologie détecte « un comportement anormal tel qu'une personne entrant dans une zone interdite, un véhicule circulant dans une zone piétonne, une foule dans un endroit pendant la journée ou à une heure tardive », a ajouté le porte-parole.
Pour M. Tréguer, la capacité de ce système à détecter automatiquement les êtres humains est un exemple de technologie qui outrepasse la loi et relègue les citoyens et leurs droits dans une zone d'ombre juridique. « Nous avons besoin d'une loi qui précise ce que les autorités ont le droit de faire et quelles sont les garanties », dit-il.
Des yeux partout à Marseille
Marseille est une ville chargée de contradictions. Au Vieux-Port, les yachts flottent en file indienne sur les eaux vives de la Méditerranée et les touristes tirent leurs valises à roulettes en passant devant la Grande roue. Mais à dix minutes à peine à l'intérieur de la ville se trouve le 3e arrondissement de la ville, autrefois qualifié de quartier le plus pauvre d'Europe. Au cours de l'année écoulée, les habitants ont observé l'installation de caméras de surveillance au-dessus des cafés, aux carrefours très fréquentés, sur les rues résidentielles tranquilles et devant les immeubles d'habitation.
Pour la plupart des Marseillais, le nombre croissant de caméras de sécurité est la seule preuve de l'existence d'un nouvel élément automatisé dans l'appareil de sécurité de leur ville. La surveillance par IA signifie que les autorités ne doivent plus compter sur des êtres humains pour surveiller les flux vidéo. Au lieu de cela, le rôle d'observateur peut être automatisé et la possibilité de surveiller plus de caméras signifie qu'il est possible d'en installer encore plus.
« [Ces outils sont] un moyen d'avoir des yeux partout », déclare Steven Feldstein, chercheur au groupe de réflexion Carnegie Endowment et auteur de l'index mondial de surveillance par l'IA. Dans l'indice de Feldstein pour 2019, il décrit comment un nombre croissant d'endroits utilisent les outils de surveillance par l'IA pour atteindre une série d'objectifs politiques, « certains légaux, d'autres qui violent les droits humains, et dont beaucoup se situent dans une zone grise entre les deux. »
Félix Tréguer vit dans le 3e arrondissement. Le militant me fait visiter les lieux, en gesticulant face aux caméras placées avec vue dégagée sur les portes d'entrée des habitants. Sur notre parcours, nous passons devant des graffitis gravés dans la pierre blanchie à la chaux. « La liberté meurt en toute sécurité », dit l’un.
Félix Tréguer est membre fondateur de La Quadrature du Net, groupe français de défense des droits numériques qui cherche à mettre fin à l'utilisation de la vidéosurveillance à Marseille . Photo Morgan Meaker
Il y a deux ans, Tréguer a entendu parler pour la première fois des projets de surveillance de Marseille. Il a été surpris. « À l'époque, beaucoup de gens parlaient du système de crédit social en Chine. Ou de police prédictive aux USA. Mais cela semblait un peu éloigné de l'Europe continentale à l'époque », dit-il.
Depuis lors, le militant et chercheur a lancé Technopolice, un site web conçu pour sensibiliser à la diffusion des projets de « safe city » dans toute la France. Il a également été impliqué dans des batailles juridiques, tentant de ralentir les tentatives d'intégrer les nouvelles technologies de surveillance dans les dispositifs de sécurité locaux. L'année dernière, M. Tréguer et ses camarades militants ont réussi à mettre un terme aux projets de deux lycées de Marseille et de Nice visant à expérimenter la reconnaissance faciale aux portes des établissements scolaires.
La ville semble s'imposer comme un terrain d'essai pour une nouvelle génération d'outils de surveillance. Tout comme le projet de reconnaissance faciale, la « vidéosurveillance intelligente » de Marseille est qualifiée par l'administration locale d'expérimentation. « [Ces projets] sont destinés à financer ces expérimentations qui sont un moyen pour les entreprises privées de développer leurs produits par des expérimentations sur le terrain », explique M. Tréguer. « C'est un processus d'apprentissage mutuel et un moyen de développer davantage ces technologies, qui ne sont pas encore prêtes à être mises sur le marché ».
Pour Tréguer, l'argent consacré à ces projets pourrait être mieux dépensé ailleurs. Il note que cet emballement pour la surveillance a lieu alors que des maisons s'écroulent dans la ville suite à la négligence. En 2018, huit personnes ont été tuées lors de l'effondrement de deux immeubles délabrés dans le 1er arrondissement. Suite à cela, plus de 1 000 personnes ont été évacuées des bâtiments jugés dangereux, et certaines personnes attendent toujours d'être relogées. « La sécurité, ce n'est pas tant inventer de nouveaux gadgets fantaisistes », dit Tréguer. « Il s'agit aussi de sécuriser les bâtiments réels afin qu'ils ne s'effondrent pas sur les gens ».
La Chine : un "moteur majeur" de l'Intelligence Artificielle
Les projets de surveillance de Marseille sont opaques. Les informations sur le fonctionnement de la nouvelle technologie ne sont divulguées que sporadiquement, par le biais d'entretiens et de demandes d'accès à l'information. Le porte-parole de la mairie de Marseille (l’ancienne) n'a pas voulu faire de commentaires sur le fabricant de la technologie de surveillance intelligente, mais des documents obtenus par La Quadrature du Net indiquent comme fabricant la SNEF, une société française dont le siège est à Marseille.
Les informations obtenues par le groupe grâce aux demandes d'accès à l'information révèlent également comment le projet de police prédictive de Marseille - au titre dystopique, « Projet Big data de la tranquillité publique » - croque les données fournies par la police, les pompiers et les hôpitaux de la ville pour anticiper où et quand de futurs crimes et délits pourraient avoir lieu, en utilisant la technologie développée par la société française Engie Ineo.
Los Angeles utilise un outil de prévision de la criminalité similaire, appelé PredPol, qui analyse automatiquement les données sur le type, l'heure et le lieu des crimes et délits récents afin de fournir aux agents une liste quotidienne des « points chauds » où des crimes sont le plus susceptibles de se produire, afin qu'ils puissent s'y rendre pendant leurs patrouilles. Alors que les partisans de la police prédictive affirment qu'elle aide les policiers à cibler leurs ressources de manière plus efficace, les critiques affirment qu'il s'agit d'un profilage sous un autre nom : cibler de manière disproportionnée les quartiers où vivent des habitants à faible revenu et des groupes minoritaires.
La journaliste marseillaise Rabha Attaf s'inquiète de l'impact que les systèmes de surveillance par IA auront sur les populations marseillaises déjà marginalisées. « Toute délinquance juvénile [ici] est une délinquance sociale en raison de la ségrégation raciale », dit Mme Attaf, qui dirige également l'ONG de défense des droits humains Confluences. « Il n'y a pas d'opportunités ici, donc les gens choisissent une autre voie. S'ils deviennent criminels, ce n'est pas par choix ». Dans un café donnant sur le port, elle décrit une atmosphère de méfiance mutuelle entre autorités locales et habitants d'origine nord-africaine. « Ils vendent à la société l'idée que les musulmans peuvent devenir dangereux », dit-elle. « Nous ne sommes pas complètement citoyens, nous sommes de demi-citoyens ».
Dans ce contexte, Attaf a des doutes sur ceux à qui cette technologie va servir, la population ou la police. Elle justifie son scepticisme en évoquant un incident survenu en 2018 : lors d'une manifestation, une grenade lacrymogène de la police a frappé au visage une habitante du quartier, Zineb Redouane, alors qu'elle fermait les volets de son appartement. La femme de 80 ans a été tuée et le tireur n'a jamais été identifié publiquement. Mais lorsque les avocats représentant la famille de la victime ont suggéré qu'une caméra de surveillance proche pourrait apporter des réponses, la police locale a rapidement répliqué en disant qu'elle ne fonctionnait pas.
Ces craintes sont renforcées par l'implication de la société technologique chinoise ZTE dans l'appareil de sécurité de la ville de Marseille. ZTE et ses filiales ont joué un rôle important dans la mise en place d'un système de surveillance des Ouïghours dans la région chinoise du Xinjiang. Les groupes de défense des droits humains ont décrit la technologie utilisée dans cette région comme une violation de la vie privée, de la liberté d'expression, de la liberté de mouvement et du droit à la présomption d'innocence jusqu'à preuve du contraire. L'année dernière, le ministère usaméricain du commerce a ajouté ZTE à une liste noire de sociétés technologiques et de bureaux gouvernementaux chinois, en citant leur utilisation pour réprimer les Ouïghours et d'autres minorités ethniques de Chine, bien que les tensions commerciales puissent également avoir été un facteur.
Le porte-parole de la mairie de Marseille a confirmé que la ville avait signé deux contrats avec ZTE en 2011 et 2013 pour l’installation de caméras vidéo. « Peu de caméras fournies par le titulaire du contrat étaient de la marque ZTE », a déclaré le porte-parole. « Depuis lors, la majorité de ces caméras ont été remplacées ». Il n'a pas confirmé combien étaient encore en service.
L'adoption par Marseille de la surveillance par IA est ambitieuse, mais elle n'est pas unique. La ville voisine de Nice, par exemple, a également expérimenté une technologie de sécurité urbaine comprenant du big data, la reconnaissance faciale et même la « détection des émotions » sur les trams locaux.
« Le sud et la région parisienne sont les deux régions de France où ces développements sont les plus forts », dit Laurent Mucchielli, directeur de recherche au CNRS. Le sociologue, qui a effectué des recherches approfondies sur la surveillance, voit une corrélation entre la présence de la technologie de surveillance et la politique locale, ajoutant que « ce sont les régions où les conservateurs sont les plus forts ».
Une étude réalisée en septembre 2019 par le Carnegie Endowment for International Peace a révélé que la surveillance par IA est désormais utilisée dans 75 pays du monde. Feldstein, l'auteur du rapport, a identifié la Chine comme un « moteur majeur » de l'industrie, avec des entreprises telles que Huawei et ZTE qui sont de loin les fournisseurs les plus prolifiques.
Lorsque la province de Jujuy, au nord de l'Argentine, a acheté l'année dernière des technologies de surveillance à ZTE , le gouvernement local a déclaré que ce contrat de 30 millions de dollars – qui comprenait des caméras, des centres de surveillance, des services d'urgence et des infrastructures de télécommunications – contribuerait à réduire la criminalité de rue.
Toutefois, la diffusion de la technologie chinoise en Amérique latine a incité Washington à exprimer ses « préoccupations ». Un porte-parole du département d'État a déclaré à Reuters que leurs inquiétudes portaient sur les capacités de la Chine à rassembler des données tout en utilisant ces informations pour promouvoir une surveillance arbitraire et faire taire les dissidents dans le monde entier, mais il n’a pas pu fournir de preuves.
Le partenariat de Marseille avec l'entreprise est cependant passé largement inaperçu. Dans un papier produit en 2019 par l'Institut d'études politiques de Paris, le chercheur Alvaro Artigas a écrit : « Les collectivités locales sont devenues le partenaire le plus important de ZTE car ce sont elles qui ont les clés des opportunités de contrats ». Alors que les programmes fédéraux ou nationaux sont largement passés au crible, les contrats locaux, ajoute-t-il, échappent à une attention au même niveau, ce qui crée une porte dérobée d’entrée en Europe pour les technologies de surveillance chinoises.
Alors que le malaise se répand, il appartiendra aux tribunaux du pays de décider si la surveillance par l'IA continuera à jouer un rôle dans l'avenir de la sécurité française. Ou peut-être la France décidera-t-elle de se ranger du côté du maire de Marseille de la série Netflix, joué par Benoît Magimel dans la deuxième saison. « Les caméras et les flics ne peuvent pas tout résoudre », dit-il.
Morgan Meaker
Traduit par Dominique Macabies
Edité par Fausto Giudice