Safe City – “L’anonymat dans la ville est en train de s’évanouir”

Marseille, Nice, Saint-Etienne… Les villes françaises se lancent dans la course à la “Safe-City”, la Smart City saveur de surveillance et sécurité. Profitant d’un vide juridique concernant les technologies de dernier cri, elles expérimentent et déploient de bon cœur des capteurs sonores, des drones ou des caméras à reconnaissance faciale dans l’espace public.

Le logiciel israélien Anyvision de reconnaissance faciale était testé pendant le carnaval de Nice en février – Anyvision

La ville saupoudrée de capteurs

C’est une des propositions de l’ancien secrétaire d’État au numérique Mounir Mahjoubi en vue des municipales de 2020 : diviser Paris en 240 micro-quartiers et les doter chacun d’un « drone de protection ». L’appareil pourrait intervenir rapidement pour filmer un lieu signalé et faciliter le travail de la police. Le candidat souhaite également équiper la ville de 20 000 boutons d’appel d’urgence et de caméras nouvelle génération utilisant l’intelligence artificielle. Au même moment, le conseil municipal de San Francisco décidait à la quasi-unanimité d’interdire l’usage de la reconnaissance faciale aux services de police, se disant préoccupé de la généralisation d’une telle technologie et de la menace qu’elle fait planer sur les libertés individuelles. Elle devenait ainsi la première ville américaine à contrôler l’usage de l’intelligence artificielle dans l’espace public.

Largement utilisées en Chine et débattues sur le continent américain, ces technologies de surveillance sont encore rares dans l’espace public français. Elles commencent pourtant à solidement s’installer dans certaines villes comme Nice, Marseille ou Saint-Etienne. Implantées au travers de programmes baptisés « Safe City », elles accompagnent un discours techno-sécuritaire qui entend sécuriser l’espace public grâce aux nouvelles technologies. Alors que ses promoteurs s’efforcent de minimiser les potentielles atteintes à la vie privée, ses détracteurs y voient une tendance galopante à faire de la ville un lieu surveillé et normalisé, aux dépends de la vie privée et du débat démocratique.

L’IA révolutionne la vidéo-surveillance

Pour bien comprendre les enjeux, il faut comprendre les technologies en question. Aujourd’hui, 935 000 caméras scrutent le territoire français. Cette vidéosurveillance est réglementée par un cadre légal qui diffère selon qu’il s’agisse de l’espace public, du lieu de travail, d’un commerce, d’un établissement scolaire ou même de chez soi. Concernant l’espace public, l’autorité publique est en principe la seule autorisée à filmer. Elle le fait sous certaines conditions : impossible de filmer l’intérieur des habitations ou de conserver les images plus d’un mois par exemple.

Sauf que les progrès en matière d’objets connectés et d’intelligence artificielle ont boosté les capacités des outils de surveillance. L’intelligence artificielle permet entre autre la reconnaissance faciale, c’est-à-dire le fait que le visage d’un individu filmé soit recoupé avec des bases de données permettant son identification. Dès lors, la vidéo-surveillance n’est plus une simple caméra qu’un agent doit visionner et interpréter, mais une caméra capable d’identifier en temps réel tous les passants. Pour la Commission Nationale de l’Informatique et des Libertés (CNIL) : « Cette technologie n’en est désormais plus à ses balbutiements. Les enjeux de protection des données et les risques d’atteintes aux libertés individuelles que de tels dispositifs sont susceptibles d’induire sont considérables, dont notamment la liberté d’aller et venir anonymement. »

Créer des garde-fous

Interpellés par les médias, municipalités et industriels soutiennent que ces technologies respectent le cadre légal et la vie privée. La réalité est un peu plus compliquée, car il n’existe en fait aucun cadre légal. Dans une publication de septembre 2018, la CNIL a appelé le législateur à réagir. « Il est aujourd’hui impératif que des garde-fous soient prévus afin d’encadrer les finalités pour lesquelles ces dispositifs peuvent être déployés et prévenir tout mésusage des données traitées par leur biais ». L’autorité indépendante appelle à tenir d’urgence un débat démocratique sur ces questions, elle qui s’inquiétait déjà en 2017 : « la possibilité de l’anonymat dans la ville est en train de s’évanouir. »

Car la reconnaissance faciale n’est pas la seule solution problématique. Fervent défenseur de la surveillance, le maire de Nice Christian Estrosi expérimente et déploie de multiples outils depuis plusieurs années. Parmi elle, l’application Reporty a fait parler d’elle. Cette application de dénonciation citoyenne permet aux citadins de filmer une situation nécessitant une intervention d’urgence (qu’elle soit médicale, criminelle, terroriste ou autre). La vidéo est transmise en temps réel au centre de surveillance de la ville, ce qui multiplie encore une fois les captations vidéo dans l’espace public et les possibles atteintes à la vie privée. La CNIL a critiqué un dispositif très intrusif basé sur un cadre légal fragile.

Portique à reconnaissance faciale installé en mai à l’entrée du lycée les Eucalyptus à Nice – Facebook/La Quadrature du Net

Une brèche dans la protection de la vie privée

En avril dernier, on découvrait les détails d’un programme équivalent à Saint-Etienne grâce à la Quadrature du Net. L’association de défense des libertés fondamentales dans l’environnement numérique décrivait notamment un projet de « capteurs sonores » capables de reconnaître des bruits anormaux et d’avertir automatiquement les autorités. Un tel usage soulève de nombreuses interrogations que ni la Mairie ni la CNIL ne semble en mesure d’éclaircir. L’une d’entre elle est la question des bases de données accessible à l’algorithme.

En effet, pour fonctionner au mieux, l’intelligence artificielle doit être dotée d’une base de donnée la plus conséquente possible. Celles-ci peuvent être des données biométriques nationales, des données municipales voire d’un hôpital, mais aussi des données disponibles sur les réseaux sociaux, détaille la Quadrature du Net. La création de super bases de données laisse présager une surveillance totale façon Big Brother. À Marseille, un « Observatoire de la tranquillité publique » doit voir le jour d’ici 2020. « Ce big data ne marchera que si l’on assimile toutes les informations de police, justice, marins-pompiers, transports, route, météo etc. » explique Caroline Pozmentier, l’adjointe au maire chargée de la sécurité publique.

Illustration du projet de capteurs sonores à Saint-Etienne – Serenicity

L’avancée au pas de course

L’engouement avec lequel ces solutions sont déployées hors de tout cadre légal est inquiétant. Le fait est que depuis l’entrée en vigueur du Règlement Général sur la Protection des Données (RGPD), l’autorisation préalable de la CNIL n’est plus nécessaire pour la mise en place de projets relatifs aux données personnelles. En effet, le règlement européen énonce un principe de responsabilité des acteurs que la CNIL accompagne désormais par des analyses d’impact et des avis. Dans ces circonstances, on peut craindre que les velléités sécuritaires se multiplient et que les dérives se généralisent.

En effet les industriels se disputent le gâteau : à Valenciennes, c’est le chinois Huawei qui surveille les rues tandis qu’à Nice, l’américain Cisco finance des portiques à reconnaissance faciale à l’entrée d’un lycée. Le made-in-France n’est pas en reste puisque Engie-Ineo s’installe à Marseille et que Thales lorgne sur La Défense. La plupart bénéficient de financements publics variées : des collectivités à Bpifrance en passant par l’Europe. La Quadrature du Net s’étonne également que le projet à Saint-Etienne soit en partie financé par le programme de rénovation urbaine de l’ANRU, chargé en principe de la cohésion sociale et du développement économique.

Les dérives de la reconnaissance faciale sont déjà documentées. La Chine l’utilise pour ficher les Ouïghours et les États-Unis l’ont utilisé contre des militants Black Lives Matter. Peut-être que la ville de demain gagne à être connectée et surveillée, mais elle ne peut pas faire l’économie de l’exercice démocratique pour y parvenir.

Aller plus loin :

Article du Monde sur le contrôle de l’espace public – décembre 2018

Émission Le Grain à Moudre sur France Culture – mai 2019

Épais dossier de la Quadrature du Net sur la surveillance des “Safe Cities”