Que sait-on de Cloud Town, le projet de ville connectée financé par Alibaba le géant chinois de la distribution ? Pas grand chose, sinon que le projet qui repose sur l’intelligence artificielle ressemble à s’y méprendre à un laboratoire de surveillance de masse pour le Parti Communiste Chinois.

Cloud City, le nom résonne comme un rêve voluptueux et aérien. On imagine Bespin, la cité flottante dans Star Wars, ou Laputa la forteresse volante de Miyazaki. Il n’en est rien. Beaucoup plus terre à terre, Cloud City est le nom d’un vaste campus à Hangzhou près de Shanghai en Chine. Érigé par Alibaba, le géant du commerce en ligne chinois, le site se veut être une vitrine de l’intelligence artificielle, entre loisirs, business et recherche. En septembre dernier, une conférence extrêmement populaire attirait dans ce parc à thème du numérique des entrepreneurs des quatre coin du globe. Le groupe y a notamment présenté la version 2.0 de son programme « ET Brain » qui explore les applications de l’intelligence artificielle dans divers secteurs tels que l’industrie, la médecine, l’aviation ou… la ville.

Externaliser ses désirs

Ce dernier programme urbain fait partie des produits très attendus. Baptisé « ET City Brain system », il est en effet expérimenté en grandeur nature à Hangzhou, où se trouvent donc Cloud Town ainsi que le siège d’Alibaba. Capable de couvrir 1300 feux tricolores sur 420 kilomètres carré de la ville avec 4500 caméras, le système optimise le trafic routier de manière autonome. En cas d’accident, un centre de contrôle peut, entre autre déclencher les feux verts sur la course d’une ambulance et lui faire gagner du temps. Grâce aux caméras de surveillance et à la reconnaissance faciale, « ET Brain » peut également identifier les piétons, déterminer leur âge et adapter la durée du feu à leur rythme de passage.

Caméras de surveillance – Pixabay

Mais ce n’est pas tout. Lors du congrès, Alibaba a fièrement présenté les dernières fonctionnalités d’une voiture autonome dotée d’intelligence artificielle. Celle-ci, connectée au smartphone du passager, est capable de recouper ses habitudes pour suggérer des destinations. A partir des trajets usuels, des lieux visités, des photos sur les réseaux sociaux ou de leurs commentaires, l’IA propose donc des restaurants, des moyens de locomotion, des services personnalisés, mais surtout prédictifs. Pour Alfie Bown du Guardian, « en résumé, le nouveau citoyen externalise une partie de son processus de décision, et peut-être même une partie de ses désirs, à Alibaba ».

Smart city dystopique ?

Deux questions se posent alors, si les prédictions procèdent du travail d’un algorithme sur une base de donnée, comment sont utilisées les données concernées et comment fonctionne l’algorithme ? Alors qu’Alibaba croise le fer avec Tencent sur le marché du paiement mobile, il est probable que les suggestions de l’algorithme évitent soigneusement les commerces où il faut payer avec l’application du concurrent. Peu à peu les désirs du citadin coïncideraient alors, par un heureux hasard, à ceux d’Alibaba. Pour Alfie Bown, le risque est réel : « La triangulation entre les données, la technologie prédictive et les désirs pourraient être une étape majeure vers une smart city dystopique ».

Extrait du film District 9 (2009, Neill Blomkamp)

Concernant les données, leur concentration dans les mains de quelques gros acteurs inquiète. Alibaba est le premier distributeur au monde devant l’américain Walmart, avec près de 500 milliards de dollars de vente en 2016. Son service de paiement mobile Alipay revendique 520 millions d’usagers et s’est lancé à la conquête du marché américain il y a un an. Le concurrent Tencent pèse lui aussi un poids considérable. Avec un milliard de comptes utilisateurs, sa super application WeChat réunit en un seul lieu tous les services du quotidien (réseaux sociaux, moyen de paiement, email, site de rencontre, même l’appli RATP…). À eux deux déjà, ces deux géants absorbent une quantité inimaginable de données en Chine et à l’international.

Aspirer les données des villes

Cette concentration de data inquiète en particulier dans un régime autoritaire comme la Chine qui surveille massivement ses citoyens. Et à plus forte raison depuis que celui-ci a annoncé pour 2020 la mise en place de son « système de crédit social » qui fichera et notera toute la population. Dans cette perspective, la proximité entre des géants de la data et le gouvernement est assez préoccupante. Car l’immixtion de la surveillance dans la vie privée pourrait ne plus avoir de limite. Justement, alors qu’Alibaba revendique son indépendance, Reuters nous apprenait le mois dernier que le groupe avait créé une application de propagande à la gloire du président Xi Jinping. « Renforcer la Chine numérique » : l’intitulé du congrès à Cloud Town prend soudain une drôle de saveur.

Siège social d’Alibaba à Hangzhou – Wikipédia

Troisième fortune de Chine, le fondateur d’Alibaba Jack Ma intrigue également. En novembre, on apprenait qu’il était membre du Parti Communiste Chinois alors qu’il se disait apolitique. Le milliardaire aujourd’hui à la retraite profite d’ailleurs de son aura pour promouvoir la stratégie économique du parti. En 2017, il rencontrait Donald Trump lors d’une opération séduction remarquée. « Ses rencontres répétées avec Trump et son administration montrent qu’il fait des avancées significatives » avait prévenu Michael Wessel, président de la commission d’examen de la sécurité et de l’économie des États-Unis et de la Chine auprès du Congrès américain.

En janvier 2018, la capitale malaisienne Kuala Lumpur était la première ville au monde à adopter « ET City Brain Cloud ». Et si, sous couvert d’optimisation de l’aménagement urbain grâce à l’intelligence artificielle, le programme n’était pas un cheval de Troie pour aspirer des données à travers le monde ?