Chatkontrolle
:
Kein Chat zu geheim
Die EU-Kommission hegt Pläne, die Verbreitung von Kindesmissbrauchsbildern durch Scans verschlüsselter Messengerchats einzudämmen. Dagegen gibt es Widerstand.
Von Meike Laaff
13. November 2021, 7:00 Uhr148 Kommentare
Artikel hören
Smartphone wird in zwei Händen gehalten, Daumen in Tipphaltung, auf dem Bildschirm verschwommen ein Chatverlauf.
Was hast du da verschickt? © Sebastian Gollnow/dpa
Offenbar plant die EU-Kommission, Anbieter künftig zu verpflichten, Chatnachrichten, Mails und andere digitale Kommunikation von Nutzerinnen und Nutzern auf Kindesmissbrauchsinhalte zu scannen. Unter dem Schlagwort Chatkontrolle gibt es im Netz einige Proteste und kritische Berichte dazu, auch die EU-Innenminister sprachen am Freitag über das Thema. Was Sie darüber wissen sollten.
Alle Fragen im Überblick:
Was ist geplant?
Was genau würde das für meine Messengernachrichten bedeuten?
Warum regen sich die Kritiker so auf?
Wer will die Chatkontrolle?
Wird meine digitale Kommunikation nicht längst schon auf solche Inhalte gescannt?
Kommt das wirklich durch?
Wie würde das Scannen von Nachrichten technisch gesehen funktionieren?
Was ist geplant?
Die EU-Kommission plant offenbar, die automatisierte Durchsuchung von Chatnachrichten, Mails und anderen digitalen Kommunikationsformen vorzuschreiben, um die Verbreitung von Kindesmissbrauchsdarstellungen zu verhindern. Anbieter sollen Bildmaterial, das Kindesmissbrauch zeigt, aufspüren und melden. Besonders umstritten daran ist, dass das wohl auch für verschlüsselte Kommunikation gelten soll, also für Nachrichten, die zum Beispiel über Messenger-Apps wie WhatsApp oder Signal verschickt werden.
Die EU-Kommission wollte ein entsprechendes Gesetzespaket gegen Kindesmissbrauch Anfang Dezember vorlegen, dieser Termin hat sich nun jedoch verschoben. Auf Anfrage teilte die Pressestelle der Kommission keinen neuen Termin mit. Patrick Breyer, Piratenpartei-Abgeordneter im Europäischen Parlament und der wohl lauteste Gegner des Vorhabens, erwartet, dass der Vorschlag Anfang kommenden Jahres kommt. Laut aktuellen Berichten brodelt die Diskussion im Hintergrund dazu weiter, manche sehen bereits Hinweise auf eine Abschwächung der Pläne.
Schon im Sommer hat das EU-Parlament beschlossen, dass Anbieter von E-Mail-, Messaging- oder Videokonferenzdiensten die Kommunikation aller Nutzerinnen auf Kindesmissbrauchsinhalte scannen dürfen. Manche Anbieter, etwa Gmail, durchleuchten Nachrichten bereits heute, allerdings tun sie das freiwillig. Das EU-Parlament erläuterte damals außerdem, dass auch Texte mithilfe von künstlicher Intelligenz kontrolliert werden könnten, "um zu erkennen, ob hier Täter versucht haben, Kontakt mit Kindern aufzunehmen".
Neu hinzukommen soll nach allem, was bislang bekannt ist, dass Innenkommissarin Ylva Johansson Anbieter digitaler Kommunikationsdienste verpflichten will, ihre Kundinnen und Kunden für diesen Zweck zu durchleuchten. Außerdem soll die Maßnahme entfristet werden – und eben auch für verschlüsselte Messenger gelten.
Was genau würde das für meine Messengernachrichten bedeuten?
Wenn die Pläne nicht noch abgeschwächt werden, heißt das wohl: Alle Messengernachrichten, alle Mails und auch andere digitale Kommunikation würde automatisiert durchleuchtet werden, darauf, ob darin Material enthalten ist, das Kindesmissbrauch zeigt – und zwar von den jeweiligen Diensteanbietern. Kritiker verstehen das als gravierenden Grundrechtseingriff (siehe unten). Im Alltag allerdings dürfte die Nutzerin oder der Nutzer davon wenig spüren – es sei denn, es wird der Versand von illegalem Kindesmissbrauchsmaterial festgestellt und kommt zu dementsprechenden Konsequenzen.
Gravierende Folgen hätten solche Kontrollvorgaben aber für starke Ende-zu-Ende-Verschlüsselungen, wie sie zum Beispiel die Messenger-Apps Signal und WhatsApp anbieten. Denn die sind extra so gebaut, dass auch die Anbieter keinen Einblick in verschickte Nachrichten haben, sondern nur Sender und Empfänger die Chatinhalte lesen können. Auch wenn noch nicht ganz klar ist, wie die technische Umsetzung von EU-Scanvorgaben konkret aussehen wird, sagen Kritiker: Die starke Verschlüsselung dieser Dienste müsste aufgeweicht werden. Oder anders gesagt: Der Austausch über diese Messenger-Apps würde weniger vertraulich und weniger sicher werden.
Warum regen sich die Kritiker so auf?
Viele ärgern sich, weil sie sich einfach nicht in Mails und Chatnachrichten reinschauen lassen möchten. Besonders nicht in verschlüsselte.
Die Möglichkeit, geschützt vor den Blicken anderer, das heißt nicht verdachtsunabhängig überwacht, im Netz kommunizieren zu können, ist Grundlage für Meinungsfreiheit und Demokratie, so lautet die Argumentation. Nicht umsonst sind entsprechende Vertraulichkeiten zum Beispiel auch im Grundgesetz eigentlich geregelt. "Man stelle sich vor, die Post würde verdachtslos unsere Briefe öffnen und scannen. Niemand würde sich das bieten lassen", zitiert die Tagesschau den Europaabgeordneten (Piraten) Patrick Breyer. Breyer ist Wortführer im Protest gegen die Maßnahme, prägte den Begriff Chatkontrolle. Andere sehen darin eine Gefahr für die Privatsphäre, die auch gegen die EU-Grundrechte-Charta verstößt.
Piratenpolitiker Breyer kritisiert außerdem, dass die Verfahren, die fürs automatisierte Scannen der Inhalte zum Einsatz kommen sollen, fehleranfällig sein könnten.
Gegen das grundsätzliche Anliegen, die Verbreitung von Kindesmissbrauchsdarstellungen zu unterbinden, dürfte niemand, der sich in der öffentlichen Debatte zu Wort meldet, etwas einzuwenden haben. Viele IT-Fachleute aber sagen: Die geplante Scanpflicht mit technischen Mitteln ist nicht der richtige Weg. Sie befürchten größere Risiken bei der IT-Sicherheit. Manche warnen, dass Kriminelle einfach auf andere Kommunikationskanäle ausweichen würden. Andere fürchten, dass es bei der Durchsuchung nach Kindesmissbrauchsdarstellungen nicht bleiben könnte, sondern schon bald Forderungen folgen könnten, die Maßnahme auch zum Aufspüren von anderen Inhalten einzusetzen.
Wer will die Chatkontrolle?
Kinderschutzverbände sprechen sich dafür aus: Joachim Türk, Vorstandsmitglied des Deutschen Kinderschutzbunds, argumentiert gegenüber Business Insider, angesichts der hohen Zahl von Hinweisen auf sexualisierte Gewalt an Kindern und der personellen Ausstattung der Strafermittlungsbehörden sei ein automatisches Kontrollsystem nötig. Er sprach von einer "Rechtsgüterabwägung", bei der die Unversehrtheit von Kindern gegen den Schutz persönlicher Daten abgewogen werden müsse.
Polizei und Strafverfolgungsbehörden bekämen mit der verpflichtenden Chatkontrolle auch den lang gehegten Wunsch erfüllt, mehr Einblick in die digitale Kommunikation von Menschen zu haben. Wenn diese sich zum Beispiel über wohlverschlüsselte und doch einfach zu bedienende Messenger austauschen, haben Behörden darauf bisher nämlich kaum Zugriff. Dieses Problem wird in der Branche oft mit dem Schlagwort "Going Dark" zusammengefasst. Entsprechend fordern Sicherheitsbehörden oft und gern mehr Zugriff auf digitale Kommunikation, zum Beispiel auf Messenger.
Wird meine digitale Kommunikation nicht längst schon auf solche Inhalte gescannt?
Die unbefriedigende Antwort: Das kommt ganz darauf an.
Anbieter wie Google oder Microsoft scannen schon jetzt verdachtsunabhängig und flächendeckend auf Inhalte, die Kindesmissbrauch darstellen – bei Diensten wie Skype, OneDrive oder Gmail. Dafür allerdings fehlte zwischenzeitlich auf EU-Ebene die ausdrückliche rechtliche Basis. Facebook hat aus diesem Grund Scans nach Kindesmissbrauchsinhalten in seinem Privatnachrichten ausgesetzt.
Um dieses Problem zu kitten, beschloss die EU im Juli eine Verordnung, die es den Anbietern erlaubt, mithilfe spezifischer Technologien freiwillig in den Daten ihrer Nutzerinnen und Nutzer nach Bildern, Videos oder Text zu suchen, die dokumentierten Kindesmissbrauch darstellen – und sie dann zu entfernen und zu melden. Diese technischen Mittel (siehe unten) sollen so wenig wie möglich in die Privatsphäre der Nutzerinnen und Nutzer eingreifen, heißt es in einer Erläuterung des Europäischen Parlaments. Dieser Beschluss war auf drei Jahre beschränkt. Messengerdienste, die Ende-zu-Ende verschlüsseln, waren ausgenommen.
Das soll sich mit dem angekündigten Kommissionsvorschlag wohl ändern: Berichten zufolge ist geplant, Scans verpflichtend zu machen und sie zum Beispiel auf verschlüsselte Messenger auszuweiten und die Maßnahme zu entfristen.
Kommt das wirklich durch?
Das ist noch nicht klar. Genauso, wie man vor Vorlage des Kommissionsentwurfs ja auch noch nicht endgültig sagen kann, was genau in der Verordnung stehen wird.
Laut einem Bericht von Netzpolitik.org soll es im Europäischen Rat, also in der Runde der Mitgliedsstaaten, durchaus Sympathien geben für das Vorhaben der Kommission. Laut einem Bericht des österreichischen Senders FM4 gibt es Anzeichen, dass der Ministerrat das Vorhaben ausbremsen oder abschwächen könnte: In einer Erklärung, die unter anderem die EU-Innenminister nach einer Konferenz am Freitag abgegeben hatten, war nur noch im Konjunktiv die Rede davon, dass die EU-Kommission in ihrem Gesetzesentwurf Onlinedienstanbieter zum Erkennen, Entfernen und Melden von Kindesmissbrauchsinhalten verpflichten könnte. Andererseits hieß es in der Erklärung auch, dass man den Vorstoß begrüße.
Die Positionierung des Europäischen Parlaments ist noch nicht klar. Dort stimmten die Abgeordneten im Sommer für eine Verordnung, die Onlinediensten das Scannen von Inhalten ihrer Nutzerinnen und Nutzer auf freiwilliger Basis für einen begrenzten Zeitraum erlaubt. Andererseits gab es auch im Europäischen Parlament kritische Stimmung zu der Entscheidung – und angeführt von Piratenparteipolitiker Patrick Breyer artikuliert sich online ein gewisser Widerstand gegen das Vorhaben.
Wie würde das Scannen von Nachrichten technisch gesehen funktionieren?
Da noch nicht einmal der konkrete Entwurf für die geplante Verordnung vorliegt und die Debatten darüber offenbar noch laufen, kann man das noch nicht eindeutig sagen. So ist nicht bekannt, ob die Kommunikationsdiensteanbieter beim Scannen bestimmte technische Vorgaben erfüllen müssen oder ob sie selbst entscheiden dürfen, auf welche Weise sie kontrollieren.
Anhaltspunkte bieten Verfahren, die schon heute im Einsatz sind, um Kindesmissbrauchsdarstellungen und andere Rechtsverstöße im Netz aufzuspüren. Häufig kommen dabei zum Beispiel eindeutig identifizierbare digitale Fingerabdrücke, auch Hashes genannt, zum Einsatz. Derartige Hashes werden von Bildmaterial erstellt, das bereits als problematisch eingestuft wurde, und sie werden in Datenbanken gespeichert. Lädt eine Person ein Foto oder Video hoch oder verschickt es, findet ein Hash-Abgleich mit der Missbrauchsbilder-Datenbank statt. Die Idee ist, dass schon beim Versenden oder Hochladen auffällt, dass illegales Material verbreitet werden soll. Das könnte der Anbieter dann unterbinden und die Polizei benachrichtigen. Dieses Verfahren wird auch in der Begründung zu der vom EU-Parlament bereits beschlossenen freiwilligen Scanverordnung erwähnt.
Große Firmen wie Microsoft, Google oder Twitter verwenden Hashing-Verfahren bereits, eine wichtige Rolle spielt dabei das US-amerikanische National Center for Missing and Exploited Children, NCMEC, das eine wichtige Hash-Datenbank für bereits bekannte Missbrauchsbilder unterhält. Der Abgleich findet dabei auf den Servern der jeweiligen Dienstleister statt.
Will man hingegen Inhalte scannen, die Ende-zu-Ende-verschlüsselt übertragen werden, reduzieren sich die Möglichkeiten deutlich – gerade ist ja auch der Sinn derartig vertraulicher Kommunikation. Der grobschlächtigste Ansatz wäre, die Anbieter solcher Messenger zum Einbauen einer Hintertüre zu verpflichten, die den Scanzugriff erlauben könnte. Das würde allerdings praktisch das gesamte Verschlüsselungsversprechen dieser Dienste brechen, sie würden Vertrauen vieler Nutzerinnen verlieren – auch über die EU hinaus. Denn: Mathematische Verschlüsselungsverfahren nur ein bisschen, für bestimmte Zwecke oder beschränkt auf einen engen Personenkreis aufzuknacken, das geht einfach nicht. Entweder Daten sind Ende-zu-Ende-verschlüsselt und für alle außer Sender und Empfänger nichts als Datengulasch – oder sie sind es eben nicht.
Alternativ – und darauf deutet nach Ansicht vieler Beobachter einiges hin – könnte eine andere Möglichkeit verwendet werden. Dabei wird die Verschlüsselung technisch gesehen nicht gebrochen, denn die Nachricht wird gescannt, bevor sie verschlüsselt wird. Auch hier findet ein Hash-Abgleich mit entsprechenden Fingerabdrücken einer Missbrauchsbilder-Datenbank statt – allerdings nicht auf Servern, sondern lokal auf dem Gerät der Nutzerin. Der Fachbegriff ist Client-Side-Scanning-Verfahren (CSS).
Der Vorteil hierbei, so meinen die Befürworter: Weder der Kommunikationsanbieter noch Strafverfolgungsbehörde bekommen im direkten Sinne Zugriff auf den Inhalt aller Messages und Mails, die verschickt werden. In einem Papier, in dem die EU-Kommission 2020 verschiedene Möglichkeiten zum Scannen von Kindesmissbrauchsinhalten trotz Verschlüsselung erörtern ließ, war auch noch von hybriden Varianten die Rede, die Prüfsummen auf den Geräten erstellten und einen Abgleich mit Datenbanken erst auf den Servern von Anbietern erlaubte. Experten zeigten sich allerdings von den Vorschlägen damals schon nicht überzeugt.
Ein solches CSS-Verfahren hat Apple im Sommer als Teil seiner Maßnahmen gegen die Verbreitung von Kindesmissbrauchsdarstellungen vorgestellt. Damit sollten Fotos kontrolliert werden, die Nutzerinnen und Nutzer in die iCloud hochladen wollen. Der Abgleich mit den Hashes aus der US-Missbrauchsbild-Datenbank NCMEC sollte aber noch lokal, also auf dem Gerät der Nutzerin oder des Nutzers stattfinden. Das bedeutet: Grundsätzlich kann ein solches Verfahren greifen, bevor eine Datei Ende-zu-Ende-verschlüsselt verschickt wird. Bürgerrechtlern und Sicherheitsforschern ist aber auch dieses Verfahren nicht geheuer. Nach scharfer Kritik zog Apple die Pläne vorerst zurück.
Eine Reihe renommierter Sicherheitsforscher, darunter Bruce Schneier, Carmela Troncoso oder Matt Blaze, haben Mitte Oktober ein gemeinsames Papier veröffentlicht, in dem sie das CSS-Verfahren generell und Apples Ansatz im speziellen, scharf kritisieren: Die Technologie könne auch zum Massenüberwachungswerkzeug umfunktioniert werden, greife tief in die Privatheit von Nutzerinnen und Nutzern ein und sei obendrein missbrauchsanfällig. Technisch gesehen bohre das CSS-Verfahren Ende-zu-Ende-Verschlüsselung zwar nicht auf, das sei aber irrelevant, wenn Nachrichten schon vor dem Versand auf bestimmte Inhalte gescannt würden.