La Commission européenne prévoit le balayage automatique de vos communications privées par le CSAM - ou une surveillance totale au nom de la protection des enfants.

Proposition de surveillance de l'UE

Dans sa proposition, la Commission européenne prévoit d'abolir complètement la vie privée en ligne. Elle propose un nouveau système de surveillance de masse qui lirait les messages texte privés, non seulement pour détecter le CSAM, mais aussi pour détecter le "grooming".

Pour détecter le "grooming", l'IA devrait lire tous nos messages privés, en permanence.

Il s'agirait du pire mécanisme de surveillance jamais mis en place en dehors de la Chine, et tout cela sous le prétexte de protéger les enfants.

Le professeur de cryptographie Matthew Green a déclaré que la proposition de l'UE "décrit le mécanisme de surveillance de masse le plus sophistiqué jamais déployé en dehors de la Chine et de l'URSS. Ce n'est pas une exagération".

Qu'est-ce qui pourrait bien se passer ?

Nous devons examiner très attentivement ce qui pourrait mal tourner avec des mesures de surveillance aussi étendues que celles que la Commission européenne vient de proposer.

Nous devons tous être conscients que, selon les plans de la Commission, nous allons tous être secrètement surveillés - tout le temps. La liste des images et des contenus qui seront recherchés peut être adaptée.

Dès lors qu'une loi oblige les fournisseurs de communications à mettre en place un balayage côté client, l'outil qui s'en chargera pourra théoriquement rechercher tout et n'importe quoi.

La liste peut donc être étendue à la demande. Au début, les lois stipuleront que les fournisseurs doivent rechercher la pornographie infantile - c'est ce que les politiciens prétendent toujours lorsqu'ils ont besoin du plus large consensus possible pour de nouvelles capacités de surveillance. Mais à l'étape suivante, les autorités rechercheront également d'autres choses : terroristes, trafiquants d'êtres humains, trafiquants de drogue, gangs criminels.

Cette liste peut être poursuivie indéfiniment.

"Pour protéger les enfants" ?

La Commission européenne affirme que ce balayage basé sur l'IA est une approche équilibrée entre la protection de la vie privée des personnes et la protection des enfants. Dans leSpiegel allemand, le commissaire européen Dubravka Šuica a déclaré : Un enfant sur cinq est victime d'abus sexuels et souffre "de cette expérience traumatisante souvent à vie".

Cependant, les données accessibles au public montrent que la plupart des ordonnances de surveillance sont émises pour des crimes liés à la drogue, et non pour protéger les enfants.

Ces données nous amènent à nous demander si le projet de la Commission européenne vise uniquement à protéger les enfants ou à introduire des capacités de surveillance qui, une fois établies, pourront également être utilisées pour d'autres enquêtes.

Les crimes liés à la drogue en tête de liste

En Allemagne, plus de 47,3 % des mesures de surveillance des télécommunications selon l'article 100a StPO ont été ordonnées pour trouver des suspects d'infractions liées aux drogues en 2019. Seulement 0,1 pour cent des ordonnances - soit 21( !) au total - ont été émises en lien avec la pornographie infantile.

Comparaison du pourcentage d'ordonnances de mise sur écoute pour la pornographie infantile et les infractions liées aux drogues en Allemagne, 2009-2019. Source :

Dans la plupart des cas, la surveillance des télécommunications a été ordonnée pour poursuivre des infractions liées à la drogue. Aucun autre domaine n'a connu autant de mesures de surveillance ordonnées. En Allemagne, un peu moins de la moitié de toutes les mesures de surveillance des télécommunications ont été effectuées pour des infractions liées aux drogues ces dernières années. C'est ce que montrent les statistiques annuelles de l'Office fédéral de la justice (BfJ).

Une porte dérobée pour les "bons" seulement

Une question importante - et qui est complètement négligée par la Commission européenne. La cybersécurité.

Des moyens seront trouvés pour pirater le processus d'analyse côté client. Les attaquants malveillants pourraient, par exemple, injecter des images ou des documents sur les appareils des personnes qu'ils veulent discréditer. Ou encore, des attaquants malveillants pourraient trouver un moyen de siphonner les données qui sont scannées sur nos appareils et les utiliser pour des cyberattaques.

En définitive, il doit être clair pour chacun d'entre nous qu'une "porte dérobée réservée aux bons" n'est pas possible.