Digitale Freiheitsrechte in der EU in Gefahr: Bedrohung durch Chatkontrolle und Überwachungsmaßnahmen

In einem Video [auf YouTube HIER] warnt Prof. Dr. Christian Rieck vor den aktuellen Digital-Initiativen der EU. 

Chatkontrolle, Altersverifikation, DSA, VPN-Verbot

Die meist wenig öffentlich diskutierten Initiativen wirken zusammen wie ein "Sättigungsangriff" gegen den Widerstand der Bevölkerung und der digitalen Freiheit. Kritische Komponenten wie richterliche Kontrolle, technische Machbarkeit, Datensicherheit und Machtbalancen fehlen oder sind unzureichend berücksichtigt. Die Chatkontrolle ist dabei nur die Spitze des Eisbergs.

Dabei sind zahlreiche Initiativen wie der Digital Services Act, die Einführung von Trusted Flaggers, die obligate Altersverifikation, das EU-Vermögensregister, und die verpflichtende Öffnung von Betriebssystemen für Drittanbieter-KI zu nennen.

Chatkontrolle öffent Tor zu Missbrauchsmöglichkeiten

Die Chatkontrolle 1 erlaubt bereits das Scannen privater Nachrichten (vermeintlich gegen Kindesmissbrauch), doch technische Umsetzungsprobleme und Missbrauchsmöglichkeiten sind evident. Die geplante Chatkontrolle 2 soll diese Überwachung verpflichtend machen und auch Ende-zu-Ende verschlüsselte Nachrichten zunächst lokal vor dem Versenden überwachen. Das ist ein Vorstoß, der deutliche Risiken für Privatsphäre und Sicherheit birgt.

Zudem gibt es Sorgen um die Sicherheit der gesammelten Daten, deren Missbrauch möglich ist und schon vorgekommen ist. Ohne richterliche Kontrolle drohen Exekutivmaßnahmen gegen die Nutzer. Zu kritisieren ist der Umgang mit den digitalen Rechten und Datenschutz, der sich oft nur oberflächlich oder gar nicht gegen diese Entwicklungen wehrt. 

Folgedes droht uns:

Erstens: Die Chatkontrolle ermöglicht das automatische Scannen privater Nachrichten und steht vor einer verschärften, verpflichtenden Version.

Zweitens: EU-Vorhaben wie Digital Services Act und Trusted Flaggers fördern Plattformüberwachung und ausgelagerte Zensur.

Drittens: Ende-zu-Ende-Verschlüsselung wird bei der Chatkontrolle 2 nicht mehr wirksam sein, da Monitoring auf Endgeräten stattfinden soll.

Viertens: Biometrische Überwachung und digitale Identitätskontrolle drohen zur Normalität in der digitalen Welt zu werden.

Fünftens: Die Datensicherheit ist unsicher; Missbrauch und Datenlecks stellen massive Risiken dar.

Sechstens: Die Vielzahl gleichzeitig laufender Überwachungsinitiativen erzeugt eine Überforderung der Öffentlichkeit ("Sättigungsangriff").

Die Maßnahmen der EU sind keine abstrakten oder harmlosen Regulierungen, sondern greifen tief in die Privatsphäre ein – vergleichbar mit totaler Überwachung in der analogen Welt. Dies führt zu einem Klima der Angst und Selbstzensur.

Technische Beschränkungen der Chatkontrolle 

Die Anwendung von Hashwert-Abgleichen für das Erkennen missbräuchlicher Bilder oder Nachrichten ist technisch an Mindestgrenzen gebunden, da neue oder manipulierte Inhalte dadurch nicht erkannt werden können. Zudem kann der Missbrauch durch zusätzliche Verschlüsselung oder Manipulation ausgenutzt werden. 

Dies zeigt, dass Überwachungssysteme kaum effektiv gegen echte Kriminelle sind, dafür aber die Masse der Nutzer überwacht und gefährdet wird.

Fehlende richterliche Kontrolle führt zu Willkür 

Die geplanten Regulierungen erlauben Eingriffe und Sanktionen durch Behörden oder Plattformen oft ohne richterlichen Beschluss oder effektive Widerspruchsmöglichkeiten. Dies verletzt Grundrechte und führt zu Machtkonzentrationen in Exekutive und Plattformbetreibern, die zu Überreaktionen und Zensur neigen.

Auslagerung der Zensur auf private Akteure (Trusted Flagger)

Private Gruppen erhalten bei der Inhaltsbewertung eine bevorzugte Behandlung und können indirekt bestimmen, welche Inhalte zulässig sind. Dies verschiebt die Kontrolle von staatlicher auf private Ebene und wirf Fragezeichen hinsichtlich Transparenz, Verantwortlichkeit und Machtmissbrauch auf.

Öffnung der Betriebssysteme für Dritt-KI schwächt Sicherheit 

Die Verpflichtung für Betriebssystem-Anbieter (Apple, Google), Schnittstellen für andere KI-Anbieter zu öffnen, stellt ein erhebliches Sicherheitsrisiko dar. Damit sinkt die Systemsicherheit und der Zugang zu kritischen Systemkomponenten wird für potenziell unkontrollierbare Instanzen möglich. Dies dürfte globale Tech- und Sicherheitsinteressen beeinflussen und Geheimdienste freuen.

Datensicherheit und Missbrauch sind bereits jetzt gravierende Probleme

Datenlecks oder gezielte Angriffe auf gespeicherte biometrische oder finanzielle Daten von Bürgern sind reale Gefahrensituationen. Gerade umfassende Datensammlungen in EU-weiten Registern erhöhen das Risiko, dass sensible Informationen in falsche Hände gelangen.