Le premier épisode de la saison 3 de Black Mirror décrivait une société dans laquelle les citoyens se notaient les uns les autres, les mieux notés ayant accès à certains privilèges. Un projet sociétal similaire est en développement en Chine depuis 2014…

Vous souvenez-vous de « Nosedive », le premier épisode de la saison 3 de Black Mirror? De ses couleurs pastels, de son soleil figé, des sourires permanents de ses personnages? Sous cette vitrine idyllique, en vérité, une certaine forme de cauchemar. L’enfer, c’est les autres.

Dans cet opus de la série Netflix, le spectateur est immergé dans une société régie par la note personnelle. Chaque personne notait les autres et était notée en retour, en fonction de ses interactions sociales et de ses posts sur les réseaux sociaux. Dans ce système, une note globale élevée permettait d’obtenir certains avantages comme par exemple un accès privilégié à des logements recherchés.

Beaucoup ont vu dans Nosedive une dystopie basée sur l’idée du système de l’évaluation permanente, le système « Airbnb-Tripadvisor-Uber », largement utilisé et accepté par les internautes du monde entier. Ainsi, noter les professionnels ou les fournisseurs de service est largement répandu et apparaît assez naturel pour beaucoup d’entre nous.
En réalité, on peut se demander si cet épisode de Black Mirror ne s’inspirait pas d’autres références…

Quand la réalité dépasse la fiction

Le 27 Décembre 2017, lors du Chaos Communication Congress (CCC) à Leipzig, Katika Kühnreich a présenté un état des lieux et une analyse du Social Credit System (SCS), système global de notation sur lequel travaille le gouvernement chinois depuis 2014, en partenariat avec des géants du net chinois tels que Tencent ou Alibaba. En quoi consiste précisément le SCS? A chaque personne est associé un « score » mesurant à quel point elle est un « bon citoyen », en d’autres termes à quel point elle est en accord social, économique et politique avec le parti unique. Ce score varie selon plusieurs paramètres : posts sur les réseaux sociaux, nature des achats en ligne, etc Par exemple, si une personne achète un livre à la gloire de Mao, elle verra son score augmenter. Si par contre, elle like la photo d’un dissident politique, sa note globale chutera. Les citoyens avec un score élevé auront un accès privilégié à certains emplois ou services contrairement aux citoyens mal notés. Concrètement, depuis le 1^er Mai 2018, les autorités chinoises peuvent restreindre voire interdire l’accès aux transports en commun aux citoyens avec une faible note.

Le système est d’autant plus pernicieux que la note de chacun varie également en fonction des scores de ses relations et amis. Ainsi, être ami sur tel réseau social avec une personne au faible score fera diminuer sa propre note. A terme se mettra donc en place ce qu’on pourrait appeler une autorégulation citoyenne où les personnes aux faibles scores seront marginalisées. Le gouvernement n’aura alors qu’à maintenir ce système en place et la pression sociale fera le reste.

Gamified control

Un tel système pourrait-il voir le jour ailleurs ? On pourrait penser que la culture chinoise et la situation politique du pays facilitent la mise en place de ce système mais qu’il ne serait pas possible de l’appliquer dans nos démocraties occidentales. Cette conclusion est sans doute simpliste et hâtive. Il est ainsi intéressant de noter que le SCS a été dans un premier temps testé en Chine au niveau local, dans la province du Jiangsu en 2010, mais rapidement abandonné suite à une forte contestation. Comment alors le gouvernement chinois a-t-il réussi à faire accepter son projet à plus large échelle quelques années plus tard ? Le SCS est ce qu’on pourrait appeler un « gamified control » de la population, c’est-à-dire un outil de contrôle reposant sur les mécanismes du jeu. L’idée est de faire croire que ce système de crédit n’est pas quelque chose de contraignant mais s’apparente à une immense compétition, un jeu auquel participerait l’ensemble de la population. Présenter le projet de façon ludique en permet une meilleure acceptation initiale. Ensuite, la participation massive et régulière à ce jeu est assurée par les petites satisfactions découlant de la hausse de son score. Les citoyens participent alors pleinement et avec satisfaction à ce système global qui les oppresse. Comme le souligne Katika Kühnreich, les réflexions concernant un meilleur contrôle des populations par les outils en ligne ne sont pas une particularité chinoise et il n’est pas farfelu de penser que des systèmes similaires au SCS verront le jour prochainement dans d’autres pays.

Sommes-nous alors condamnés à basculer de manière plus ou moins consciente et insidieuse dans une société où chaque personne serait en permanence jugée et notée ? Notre monde ressemblerait alors probablement à celui de « Nosedive ». Un monde où les débats d’idées seraient impossibles. Un monde propret et d’apparence parfaite mais où le moindre particularisme serait proscrit, où le caractère unique de chacun serait annihilé, où l’uniformisation serait la règle d’or. Un monde où l’enfer, ce serait effectivement les autres.

Pour aller plus loin:

« Nosedive » est disponible sur Netflix