Le système de crédit social en Chine : Pourquoi c'est si effrayant.

La forme moderne de surveillance de masse, la surveillance en ligne, est facile, bon marché et instantanée. Les résultats de la surveillance recueillis en ligne peuvent être facilement agrégés et calculés pour avoir des conséquences dans la vie réelle, par exemple pour établir un système de crédit social.

Le gouvernement autoritaire chinois dirigé par Xi Jinping donne un exemple parfait de système de crédit social moderne. Il s'agit d'un outil très flexible qui peut être rapidement appliqué pour répondre à de nouvelles priorités politiques. Et cela affecte la liberté d'expression, entraînant la censure et l'autocensure, réduisant finalement au silence toute forme d'opposition.

Dans ce billet, nous expliquons pourquoi un système de crédit social est mauvais - et il ne s'agit pas seulement de la Chine.

Le système de crédit social

Lorsque les gens entendent parler de système de crédit social, ils pensent tous à la Chine et à son système visant à faire vivre les gens selon les règles du gouvernement. Pourtant, des systèmes de crédit social sont déjà en place dans de nombreux autres pays, même ici en Europe et en Amérique.

A quel point est-ce mauvais ?

Bien sûr, personne ne l'appelle système de crédit social, mais si vous y réfléchissez, il est déjà là : La compagnie d'assurance qui calcule votre prime de risque en fonction des informations recueillies sur les médias sociaux. La banque qui calcule votre crédibilité financière et, donc, vos taux d'intérêt, sur la base des informations fournies par la Schufa (système allemand). AirBnB et Uber qui désactivent des comptes, par exemple, si un propriétaire ou un chauffeur vous a signalé pour "mauvais comportement", sans vous donner la possibilité de faire appel.

Ce ne sont là que quelques exemples qui montrent clairement qu'une certaine forme de système de crédit social est déjà établie, non seulement en Chine, mais aussi en Europe et aux États-Unis.

Il existe des entreprises qui recueillent des informations sur vous et qui entraînent des conséquences sur la base de ces informations.

La seule différence avec la version chinoise qui se profile est qu'elle n'est pas encore interconnectée. Si Uber vous bloque, vous pouvez toujours utiliser un taxi. Si une assurance demande une prime élevée, vous pouvez essayer d'en obtenir une autre. Mais que se passera-t-il si cela change ?

Le web est une machine de surveillance

Dans l'état actuel des choses, vous êtes ce que vous cliquez. Dès que vous accédez à l'internet, tout ce que vous faites est suivi par votre navigateur, par des tiers, par des cookies, par presque tous les sites sur lesquels vous vous connectez (Google, Facebook, etc.).

L'internet tout entier est une machine de surveillance. Les données que vous donnez librement sont agrégées et un profil sur vous est créé. Jusqu'à présent, ce profil est "uniquement" utilisé pour des publicités ciblées. Mais il pourrait bien être utilisé pour créer un "système de crédit social".

Les conséquences actuelles ne sont pas agréables, mais elles ne sont pas non plus trop graves : les publicités qui vous sont montrées peuvent conduire à des produits et services trop chers, car votre profil suggère que vous êtes prêt à payer trop cher pour ces choses. Que ce soit parce que vous êtes un fan, parce que vous aimez la commodité d'un achat rapide ou simplement parce que vous avez trop d'argent et que, par conséquent, vous vous en moquez.

À l'heure actuelle, il est facile de filtrer les conséquences de cette forme de surveillance en ligne en installant simplement un bloqueur de publicité.

Cependant, l'énorme quantité de données combinée à l'intelligence artificielle ouvre la porte à un suivi et à un abus de données sans précédent : Le scandale Clearview le démontre de la pire façon qui soit.

Une surveillance interconnectée

À l'heure actuelle, chaque entreprise et chaque organisme public ne dispose que d'un sous-ensemble de données. Cependant, cet ensemble de données ne cesse de croître et les courtiers en données utilisent et abusent de ces données. En outre, il est très probable qu'à l'avenir, toutes les données disponibles en ligne seront connectées.

Si vous utilisez plusieurs services Google, c'est déjà le cas. Pourtant, avec une meilleure technologie de suivi, les entreprises technologiques trouveront un moyen de connecter vos données recueillies à travers les services : Votre profil d'utilisateur Google sera fusionné avec votre profil Facebook qui sera fusionné avec votre profil d'assurance et ainsi de suite.

Et c'est exactement ce qui est si effrayant dans le système de crédit social chinois : Les médias occidentaux suggèrent que cette fusion d'informations se fait déjà en Chine. La mise en relation d'un grand nombre d'informations sur des personnes individuelles aboutit à un score individuel qui, soit les aide à réaliser ce qu'elles veulent dans la vie, soit les en empêche.

Dès que cela se produit, dès que toutes les données sont connectées et qu'un profil vous concernant est établi, il sera très difficile de changer ce profil.

La surveillance a des conséquences dans la vie réelle

Votre profil virtuel aura des conséquences dans la vie réelle : Vous pourriez ne pas obtenir le prêt dont vous avez besoin pour acheter une maison en raison d'un mauvais score de crédit social. Vous n'aurez peut-être pas d'assurance automobile et serez donc obligé de prendre les transports en commun.

La plupart des gens pensent que ces conséquences ne les affecteront pas parce qu'ils mènent une bonne vie. Après tout, c'est le but de tout système de ce type : forcer les gens à mener une bonne vie. Et qu'y a-t-il de mal à cela ?

La définition du "bien".

Le problème réside dans la définition du terme "bon" : Pour les entreprises, "bon" peut signifier des personnes qui sont des clients récurrents, qui achètent trop et dépensent trop.

Pour les gouvernements, "bon" peut signifier des personnes qui suivent les règles et ne s'expriment pas. Jamais. Peu importe ce que le gouvernement décide.

La science-fiction dystopique

Si tout cela ressemble à de la science-fiction dystopique, comme le livre "1984" ou comme un épisode de la série télévisée britannique "Black Mirror", la façon dont Internet fonctionne actuellement fait qu'un tel scénario semble beaucoup plus probable qu'il aurait pu l'être il y a deux décennies.

Le Big Data - avec toutes les avancées qu'il promet à la société - s'accompagne également d'une très grande menace : à l 'avenir, les gouvernements et les entreprises auront le pouvoir de tout savoir sur nous.

Pourquoi un système de crédit social est-il mauvais ?

Un système de crédit social va

• Définir la vie des gens, en limitant leurs choix de vie
• conduire à l'inégalité
• influencer le comportement des gens et l'autocensure
• Nuire à la liberté d'expression

Un système de crédit social utilise toutes les données disponibles sur les individus pour appliquer des scores. En fonction de ces scores, les gens peuvent obtenir un prêt ou non, peuvent être autorisés à aller à l'université ou non. Ce qui est si mauvais dans le système de crédit social, c'est que les gens ne peuvent pas faire appel de leur score. Ce système définit leur vie, limite leurs choix de vie et conduit à l'inégalité.

Étant donné que chacun sait comment le score l'affecte, un système de crédit social influencera également le comportement des gens. Que vous souhaitiez faire plaisir à une entreprise dans l'espoir d'obtenir un meilleur accord ou à un gouvernement, toute forme de système de crédit social conduira à l'autocensure.

Vous ne posterez plus vos photos de la soirée d'hier sur les médias sociaux de peur que votre assurance maladie n'augmente. Ou vous ne posterez plus les photos de la manifestation à laquelle vous êtes allé par peur que votre gouvernement ne vous laisse pas aller à l'université.

Pire encore : vous pourriez cesser complètement de faire la fête ou d'aller aux manifestations.

En fin de compte, cela conduira à une autocensure d'une ampleur que nous n'avons jamais vue auparavant. Alimentée par une surveillance en ligne tous azimuts, la majorité des gens essaieront de se présenter de la meilleure façon possible, toujours et partout, même dans leurs conversations privées.

La liberté d'expression est mise à mal

La liberté d'expression est protégée par la plupart des constitutions, et ce pour une très bonne raison. Ce n'est qu'avec la liberté d'expression que nous pouvons discuter librement de n'importe quel sujet, développer de nouvelles idées et faire évoluer nos démocraties vers de meilleurs endroits pour tous.

Tout système de crédit social - qu'il soit privé ou public - est mauvais pour la liberté d'expression.

Même si dans nos démocraties occidentales, aucun acteur étatique ne tente de mettre en place un tel système, la menace est toujours présente.

Si nous percevons le système de crédit social chinois comme "mauvais" - parce qu'un gouvernement non démocratique l'utilise pour obliger ses citoyens à suivre les règles - les systèmes privés qui émergent actuellement dans nos sociétés ne sont pas meilleurs.

La liberté d'expression a besoin de la vie privée

C'est pourquoi la liberté d'expression et la vie privée sont intimement liées. Ce n'est que si vous pouvez préserver la confidentialité de vos données privées qu'il est impossible pour les acteurs étatiques ou les entreprises de récolter vos données et de créer un profil à votre sujet.

Malheureusement, les entreprises technologiques sont beaucoup plus rapides pour développer des applications et des services de surveillance que les acteurs étatiques pour élaborer des lois visant à protéger notre droit à la vie privée, comme le GDPR européen par exemple.

À l'heure actuelle, la seule option dont nous disposons pour nous protéger de l'exploitation extensive des données est de choisir des services qui protègent notre vie privée. Pour commencer, voici nos recommandations sur la manière dont vous pouvez abandonner les services d'extraction de données comme Google et Facebook.

Luttez avec nous pour notre droit à la vie privée !

Qu'est-ce que le système de crédit social de la Chine ?

Le système de crédit social chinois est basé sur une surveillance gouvernementale étendue qui est utilisée pour "noter" les citoyens. Il comprend

1. Une surveillance étendue de l'ensemble de la population
2. Un score social calculé sur la base de ces données de surveillance.
3. Le score social définit la vie des gens.

En Chine, le gouvernement suit les gens de nombreuses manières, ce qui lui permet de calculer un score des individus en fonction de leur comportement. Plusieurs facteurs tels que "ont-ils payé leurs impôts", "ont-ils grillé un feu rouge", "ont-ils publié des commentaires négatifs sur le gouvernement sur les médias sociaux" influencent ce score. En fonction de ce score, les gens peuvent même être mis sur une liste noire par le gouvernement. En conséquence, ils ne pourront peut-être pas réserver de billets de train, aller à l'université ou obtenir un prêt.

Ainsi, le système chinois de crédit social décide directement de la manière dont les gens peuvent mener leur vie. La pression exercée par le système pousse les gens à agir conformément aux attentes du gouvernement et toute forme d'opposition est réduite au silence.

La façon dont le système chinois juge directement les gens est unique. Les gens n'ont pas la possibilité de faire appel de la procédure, ils sont essentiellement condamnés sans procès - et c'est ce qui rend le système si effrayant.

Histoire

En 2020, le système chinois de crédit social, qui est en cours de développement et de test depuis 2009, vise à normaliser l'évaluation de la réputation économique et sociale des citoyens et des entreprises, ou "crédit social".

Grâce à ce système, les personnes et les entreprises peuvent être suivies et évaluées pour leur fiabilité. Le système de crédit chinois est étroitement lié au système de surveillance de la Chine avec la reconnaissance faciale, l'analyse des données massives et l'IA.

Découvrez ici comment fonctionne la reconnaissance faciale et comment l'arrêter.

Le système de crédit social est commercialisé par le Parti communiste chinois de Xi Jinping à son peuple comme une grande amélioration de la société dans son ensemble. L'objectif est de faire en sorte que les personnes et les entreprises deviennent plus honnêtes, de lutter contre la corruption, et d'avoir un meilleur fonctionnement et une société plus stable dans l'ensemble.

L'idée derrière tout cela est compréhensible : Avec le déclin des réseaux sociaux et l'augmentation de l'anonymat dans les villes, la pression sociale pour se comporter de manière acceptable diminue également. La Chine remplace désormais cette pression sociale par le système de crédit social afin que les personnes, même lorsqu'elles vivent dans l'anonymat dans n'importe quelle ville, se comportent de manière acceptable.

Le pouvoir sur le peuple

La Chine est cependant un pays autocratique. Ici, le pouvoir n'appartient pas au peuple, mais le gouvernement veut avoir un maximum de pouvoir sur le peuple. S'opposer au parti communiste chinois n'est pas autorisé. Les activistes et les journalistes d'investigation ont une position très difficile dans la société chinoise, et le système de crédit social ne fera qu'empirer les choses.

Le système de crédit social a le potentiel d'améliorer la société en surface tout en détruisant la confiance des gens dans le gouvernement et la société dans son ensemble. Après tout, le système sape l'état de droit.

Les gens peuvent facilement être mis sur liste noire, ce qui a de graves conséquences dans la vie réelle. Toute personne inscrite sur une liste noire est placée sur une telle liste instantanément. Il n'y a pas de procès au tribunal. Les personnes et les entreprises peuvent faire appel de leur inscription sur la liste noire ou de l'octroi d'un mauvais crédit.

Mais le concept d'"innocent jusqu'à preuve du contraire" est inversé : ils doivent prouver qu'ils sont innocents.

Comme le système de crédit social va de pair avec l'un des pires appareils de surveillance, il enfreint des droits légaux tels que le droit à la réputation, le droit à la vie privée et le droit à la liberté d'expression.

Des millions de personnes sur la liste noire

Les facteurs négatifs pour les notations de crédit ont été différents dans le passé, en fonction de l'endroit où vous vivez, mais ils sont censés être rationalisés dans toute la Chine à l'avenir. Les facteurs négatifs sont les suivants

• Un comportement financier malhonnête et frauduleux
• écouter de la musique forte
• Violation du code de la route
• Réserver des restaurants et ne pas s'y présenter
• Ne pas trier correctement ses déchets
• utiliser frauduleusement les cartes d'identité des transports publics d'autres personnes.

Les facteurs positifs, quant à eux, sont les suivants :

• le don de sang
• Faire un don à une œuvre de charité
• le bénévolat dans les services communautaires.

Selon Wikipedia, les personnes figurant sur la liste noire se voient déjà interdire l'utilisation des transports publics : Par exemple, 26,82 millions de billets d'avion ainsi que 5,96 millions de billets de train à grande vitesse ont été refusés à des personnes jugées "indignes de confiance (失信)".

En plus de cela, certaines informations personnelles des personnes figurant sur la liste noire sont délibérément rendues accessibles à tous et sont affichées en ligne ainsi que dans divers lieux publics comme les cinémas et les bus. Certaines villes ont également interdit aux enfants des résidents "indignes de confiance" de fréquenter des écoles privées et même des universités.

Une façon moderne de mettre les gens au pilori.

Qui est mis sur liste noire ?

Chaque citoyen et chaque entreprise en Chine doit désormais s'inquiéter d'être mis sur la liste noire du système de crédit social. Comme la règle de droit ne s'applique pas au système, les gens peuvent même être mis sur la liste noire par accident. Il leur incombe alors de prouver leur innocence, et non l'inverse. Cela peut rendre la vie de nombreuses personnes très difficile.

Pour les personnes figurant sur la liste noire, les conséquences peuvent être très similaires à celles des personnes accusées innocemment sur la base de données de localisation, comme le montrent ces deux exemples aux États-Unis.

En outre, la Chine utilise également ce système pour mettre sur liste noire les personnes qui s'opposent au gouvernement. Selon le Globe and Mail, l'une des premières personnes à être mise sur liste noire a été Liu Hu, un journaliste chinois qui écrit sur la censure et la corruption du gouvernement.

Liu a été inscrit sur une liste de personnes malhonnêtes susceptibles d'être sanctionnées par la Cour suprême du peuple comme "non qualifié" pour acheter un billet d'avion, et interdit de circuler sur certaines lignes de train, d'acheter une propriété ou de contracter un prêt.

"Il n'y avait pas de dossier, pas de mandat de police, pas de notification préalable officielle. Ils m'ont juste coupé des choses auxquelles j'avais droit autrefois", a-t-il déclaré au Globe and Mail.

"Ce qui est vraiment effrayant, c'est qu'il n'y a rien que vous puissiez faire à ce sujet. Vous ne pouvez vous adresser à personne. Vous êtes coincé au milieu de nulle part".