Die EU-Kommission plant, was Apple nach Aufschrei von Datenschützern gestoppt hat: Automatische CSAM-Scans Ihrer privaten Kommunikation.

Handeln Sie jetzt, um die Überwachung zu beenden!

2022-06-03
Die Europäische Kommission hat einen Entwurf veröffentlicht, der Unternehmen dazu zwingen würde, nach CSAM-Bildern und privaten Nachrichten zu suchen - so wie es Apple einst vorgeschlagen hat. Dies öffnet die Tür für eine allgemeine Überwachung und muss gestoppt werden.
Erst letztes Jahr wollte Apple KI-gestütztes Scannen nach CSA-Material in iPhones einführen und so die Geräte der Menschen in kleine Überwachungsmaschinen verwandeln. Nach einem internationalen öffentlichen Aufschrei ruderte das Unternehmen wieder zurück. Jetzt hat die EU-Kommission ganz ähnliche Pläne veröffentlicht, die für alle Unternehmen, die Kommunikationsdienste in Europa anbieten, verbindlich werden sollen. Wir müssen jetzt handeln, um diese Pläne zu stoppen!

Apple-ähnliche CSAM-Überwachung in Europa

Was sind die Pläne der EU-Kommission?

Der von der EU-Kommission vorgestellte Plan sieht ein KI-gestütztes Scannen aller Nachrichten und Bilder direkt auf den Geräten der Bürger nach CSAM (Child Sexual Abuse Material) vor. Dieses sogenannte clientseitige Scannen wäre ein Angriff auf jede vertrauliche Kommunikation.

Apples CSAM-Scan-Pläne

Der EU-Plan ähnelt sehr dem, was Apple 2021 einführen wollte: Client-seitiges CSAM-Scanning direkt auf dem Apple-Gerät, z.B. dem iPhone.

"Das ist eine absolut schreckliche Idee, denn sie wird zu einer verteilten Massenüberwachung unserer Telefone und Laptops führen", sagte Ross Anderson, Professor für Sicherheitstechnik an der Universität Cambridge, der Financial Times 2021. Der Kryptographie-Professor Matthew Green sagt: "Das wird den Damm brechen - die Regierungen werden es von jedem verlangen."

Der große öffentliche Aufschrei von Datenschützern auf der ganzen Welt veranlasste Apple, seine Pläne für CSAM-Scans auf den eigenen Telefonen zu stoppen.

Neue Überwachungspläne

Jetzt stellt die Europäische Kommission im Prinzip dieselben Pläne vor und versucht, Kommunikationsanbieter zu Hilfssheriffs der Behörden zu machen und eine allgemeine Massenüberwachung aller unserer E-Mails und Chat-Nachrichten zu ermöglichen.

Bei der Suche nach Material, das sexuellen Missbrauch von Kindern darstellt, auf den Geräten der Bürger handelt es sich um nichts Geringeres als in das System eingebaute Bugs - oder Sicherheitsschwächen -, die permanent nach bestimmten Inhalten suchen. Wonach sie genau suchen, ist noch nicht definiert. Aber was könnte schon schief gehen?

Lassen Sie uns diesen Gedanken ein wenig weiter spinnen!

Was könnte schief gehen?

  1. Zunächst einmal werden wir alle heimlich überwacht - die ganze Zeit. Die Liste der Bilder und Inhalte, nach denen gesucht wird, kann angepasst werden. Sobald ein Gesetz die Kommunikationsanbieter dazu zwingt, clientseitiges Scannen einzuführen, könnte das entsprechende Werkzeug theoretisch nach allem suchen. Die Liste kann also auf Anfrage erweitert werden. Zunächst ist es Kinderpornografie - wie immer, wenn man einen möglichst breiten Konsens für neue Überwachungsmöglichkeiten braucht. Dann wird nach Terroristen, Menschenhändlern, Drogenhändlern ect. gesucht.

  2. Aus dem Entwurf der Europäischen Kommission geht nicht hervor, wer die Liste definiert und Zugang zu den gesuchten Inhalten erhält. Wir können jedoch davon ausgehen, dass es zumindest alle europäischen Regierungen sein werden, wozu auch Länder wie Polen (das gerade die Abtreibung verboten hat) und Ungarn (das für seine Unterdrückung der Medien bekannt ist) gehören.

  3. Ein wichtiges Thema, das von der Europäischen Kommission völlig vernachlässigt wird: Die Cybersicherheit. Es werden Wege gefunden, den Prozess des clientseitigen Scannens zu hacken. So könnten böswillige Angreifer beispielsweise Bilder oder Dokumente auf die Geräte von Personen einschleusen, um sie zu diskreditieren. Oder böswillige Angreifer könnten einen Weg finden, die Daten, die auf unseren Geräten gescannt werden, abzuschöpfen und für Cyberangriffe zu nutzen.

Schließlich wissen wir alle, dass eine "Hintertür nur für die Guten" nicht möglich ist.

CSAM schadet der Cybersicherheit

Unsere gesamte Kommunikation mit einer permanenten Überwachungsfunktion auszustatten, die jegliches Fehlverhalten an den Anbieter meldet, ist eine schreckliche Idee. Es ist ein Dammbruch, der zu einer noch nie dagewesenen Totalüberwachung führen wird. Wer so etwas auch nur in Erwägung zieht, muss mit massivem Gegenwind rechnen.

Und es formiert sich bereits Widerstand.

Die Deutsche Digitale Gesellschaft hat sehr kurzfristig eine Protestaktion organisiert, die mit der Veröffentlichung des Gesetzesentwurfs der EU-Kommission zusammenfiel, der das CSAM-Scannen von Telefonen und Computern vorsieht - so wie es Apple einst erfolglos vorgeschlagen hatte.

Die europäische Organisation für digitale Rechte EDRi sagt, dass "der Vorschlag der Europäischen Kommission zu Online-CSAM nicht die richtigen Lösungen zur Bekämpfung des sexuellen Missbrauchs von Kindern findet".

Ella Jakubowska, politische Beraterin bei EDRi, sagt:

"Die Europäische Kommission öffnet die Tür für ein breites Spektrum an autoritären Überwachungstaktiken. Heute werden Unternehmen unsere privaten Nachrichten auf CSAM-Inhalte durchsuchen. Aber wenn diese Methoden erst einmal im Umlauf sind, was hält die Regierungen davon ab, die Unternehmen morgen zu zwingen, nach Beweisen für Dissidenz oder politische Opposition zu suchen?"

Selbst der Deutsche Kinderschutzbund hält "Eingriffe in die verschlüsselte Kommunikation im Kampf gegen Kinderpornografie für unnötig". Vorstandsmitglied Türk bezeichnete die von der EU-Kommission geplante anlasslose Durchleuchtung der privaten Kommunikation über Messenger oder E-Mail als "unverhältnismäßig und nicht zielführend".

Was auf dem Spiel steht, ist klar: Es geht um die Privatsphäre aller Menschen im Internet und um einen guten Schutz der Cybersicherheit.

Vergleich mit den CSAM-Plänen von Apple

Es ist zu erwarten, dass der internationale Aufschrei, der sich anbahnt, das widerspiegeln wird, was gesagt wurde, als Apple letztes Jahr ankündigte, die iPhones der Nutzer nach CSAM-Bildern zu durchsuchen (und den Plan dann nicht umsetzte).

Werfen wir also einen Blick darauf, wie Sicherheitsexperten das clientseitige CSAM-Scannen bewertet haben, nachdem Apple seine Pläne angekündigt hatte:

So bezeichnete der Sicherheitsexperte Bruce Schneier den Plan, jede iMessage zu scannen, als "Apples iPhone-Hintertür". Edward Snowden sagte, Apple habe dem Datenschutz den Krieg erklärt, und fügte hinzu: "Ganz gleich, wie gut gemeint, Apple führt damit eine Massenüberwachung auf der ganzen Welt ein. Machen Sie keinen Fehler: Wenn sie heute nach Kinderpornos scannen können, können sie morgen nach allem scannen."

In Bezug auf den Vorschlag der EU-Kommission fügt der Kryptographie-Professor Matthew Green hinzu:

"Apropos Meinungsfreiheit: Die EU schlägt eine Verordnung vor, die das Scannen von verschlüsselten Nachrichten auf CSAM-Material vorschreiben könnte. Das ist wieder wie bei Apple."

Massenüberwachung wird das Problem nicht lösen

Die Fokussierung der EU-Kommission auf eine technische Lösung für ein komplexes gesellschaftliches Problem des Kindesmissbrauchs ist ein verfehlter Ansatz.

Die Verantwortung auf die Kommunikationsanbieter zu verlagern, alle Bürgerinnen und Bürger unter Generalverdacht zu stellen und das Kommunikationsgeheimnis auszuhöhlen, kann nicht die Alternative zu einer verantwortungsvollen und gezielten Polizeiarbeit in einem Rechtsstaat sein.

Der Chaos Computer Club Deutschland warnt in einer Stellungnahme:

"Bislang ist nicht klar, wer die Erkennungsalgorithmen und Datenbanken definieren und kontrollieren soll. Ein solches intransparentes System kann und wird nach seiner Einführung leicht ausgebaut werden. Es ist bereits absehbar, dass die Rechteverwertungsindustrie ebenso an dem System interessiert sein wird wie antidemokratische Regierungen. Umso erschreckender ist die Arglosigkeit, mit der es nun eingeführt werden soll."

Werden Sie jetzt aktiv, um das Gesetz zu stoppen

Sicherheitsexperten sind sich einig, dass die im aktuellen Entwurf der EU-Kommission vorgeschlagenen Überwachungsmaßnahmen die Privatsphäre im Internet zerstören und unser Recht auf das Kommunikationsgeheimnis verletzen würden.

Eine allgemeine Massenüberwachung - selbst wenn sie von einer KI durchgeführt wird - verstößt gegen die Charta der Grundrechte der Europäischen Union und muss gestoppt werden.

Wir müssen jetzt handeln, um zu verhindern, dass dieser Entwurf zu einem Gesetz wird!

  1. Wenn Sie in Deutschland leben, unterschreiben Sie die Petition von Camapct.

  2. Wenn Sie in Österreich leben, unterschreiben Sie die Petition von #aufstehn.

  3. Geben Sie der Europäischen Kommission Ihr Feedback und teilen Sie Ihre Bedenken zu diesem Gesetzesentwurf mit.

  4. Hier erfahren Sie, wie Sie sich dem Protest anschließen können und wie Sie Ihre politischen Repräsentanten anrufen und anmailen können.

Gemeinsam müssen wir die Massenüberwachung bekämpfen!


Was ist neu am EU CSAM-Vorschlag im Vergleich zu Apples Ansatz?

Der Vorschlag der EU-Kommission ist insofern neu, als er CSAM-Scans verpflichtend vorschreibt, Scans für "Grooming" einschließt (was nur durch das Scannen privater Chat-Nachrichten möglich ist) und Ende-zu-Ende-verschlüsselte Kommunikation einschließt. Ende-zu-Ende verschlüsselte Anbieter können nicht nach CSAM scannen, da dies die Ende-zu-Ende Verschlüsselung untergraben würde.