Die in diesem Artikel geäußerten Meinungen sind die des Autors und repräsentieren in keiner Weise die redaktionelle Position von Euronews.
Ein neues Gesetz bedroht die Privatsphäre der Europäischen Union 447 Millionen Einwohner.
Die von EU-Kommissarin Ylva Johansson vorgeschlagene CSA-Verordnung könnte das Vertrauen untergraben, das wir in sichere und vertrauliche Prozesse wie das Versenden von Arbeits-E-Mails, die Kommunikation mit unseren Ärzten und sogar den Schutz von Geheimdiensten durch Regierungen haben.
Die Verordnung will routinemäßig unsere private Online-Kommunikation mit KI-Tools scannen, um nach der Verbreitung von Material über sexuellen Missbrauch von Kindern zu suchen.
Es spielt keine Rolle, ob Sie einer Straftat verdächtigt werden oder nicht, dieses Scannen könnte jeden umfassen – Hunderte Millionen gesetzestreue europäische Einwohner.
Dieses EU-Innengesetz schlägt nicht nur vor, die Wörter, die wir tippen, zu scannen. Es möchte auch die persönlichen Bilder auf unseren Telefonen, die Dokumente in unseren Clouds und den Inhalt unserer E-Mails scannen.
Alle Arten, wie wir unser Leben online leben, einschließlich vieler zutiefst persönlicher Informationen, könnten regelmäßig digital durchsucht werden.
Die Überwachung legitimer Gespräche von irgendjemandem schadet allen, insbesondere Kindern. Experten zeigen, dass niemand geschützt wird, wenn das Internet weniger sicher wird.
Die Massenüberwachung im Internet macht uns nicht sicherer, sie untergräbt unsere demokratischen Rechte und Freiheiten.
Wissen Sie, dass KI-basierte Tools grundsätzlich diskriminierend sind?
Die Forschung bestätigt das KI-Systeme setzen Diskriminierung fort. Wir sehen, dass Farbige als misstrauisch gekennzeichnet werden, wenn sie nichts falsch machen. Die Körper von Frauen und Mädchen und LGBTQ+-Personen werden überzensiert.
Diese Technologien verankern strukturellen Rassismus, Sexismus, Homophobie und Ungleichheit, was bedeutet, dass bestimmte Personen zu stark ins Visier genommen werden, während andere ausgelöscht werden.
Wie können wir dieser von Natur aus fehlerhaften Technologie bei einem so heiklen Thema wie der Sicherheit unserer Kinder im Internet vertrauen?
Anders als der Name vermuten lässt, KI-Tools sind nicht einmal besonders intelligent – zumindest nicht so, wie wir gemeinhin an Intelligenz denken.
Sie Fehler machen die nicht einmal ein kleines Kind machen würde. Das bedeutet nicht, dass sie nicht nützlich sein können, aber wir müssen sehr vorsichtig sein, wann es angemessen ist – und wann nicht –, sie zu verwenden.
Nach dem neuen Vorschlag würden diese voreingenommenen, unzuverlässigen KI-Tools vorhersagen, wessen Nachrichten, Bilder oder Uploads Kindesmissbrauch enthalten.
Basierend auf dem, was wir über KI und Diskriminierung wissen, ist es wahrscheinlich, dass beispielsweise ein schwarzer Mann oder eine queere Person eher zu Unrecht als Verdächtiger gekennzeichnet und den Behörden gemeldet wird.
Die KI-Erkennung markiert unweigerlich eine Menge unschuldiges Material. Geschätzte Bilder von Familien am Strand oder ein Schnappschuss von den Kindern in der Badewanne, die an Oma geschickt wurden.
Ein Selfie, das in Ihre persönliche Cloud hochgeladen wurde. Eine Nachricht von einem Teenager an seinen älteren Cousin mit der Bitte um Rat.
Nichts davon wird mehr privat sein.
Woher wissen wir? Denn diese KI-basierten Falschmeldungen finden bereits statt – und zu Raten, die viel höher sind als die neuen gesetzlichen Forderungen.
Schuldig bis zum Beweis des Gegenteils?
Wenn Sie sich für die Nutzung von Online-Apps oder -Plattformen entscheiden, die Ihre Privatsphäre und Ihre personenbezogenen Daten respektieren, ist es nach dem Gesetzesentwurf wahrscheinlicher, dass Ihre private Kommunikation routinemäßig gescannt wird.
„Warum sollten Sie Ihre persönlichen Nachrichten schützen, wenn Sie nichts zu verbergen haben?“ ist die Logik des Referats für Inneres der EU.
In einer Zeit der Überwachungswerbung, des Massenmissbrauchs unserer persönlichen Daten und „Big Tech“-Plattformen, die mehr Macht haben als manche Regierungen, ist die Wahl von Chat- und E-Mail-Anbietern, die unsere Privatsphäre respektieren, die einzig kluge Wahl.
Verschlüsselte Chat-Apps sind beispielsweise eines der wenigen Tools, die uns tatsächlich helfen, online sicher zu bleiben.
Deshalb Downloads der sicheren Messenger-App Signal um das Zehnfache erhöht nach dem Einmarsch Russlands in die Ukraine.
Die EU darf nicht in unser digitales Privatleben eingreifen, „nur für den Fall“, dass wir etwas falsch machen. Dies verstößt gegen die grundlegendsten Prinzipien, wie wir uns als Gesellschaft organisieren.
Kann Überwachung Kinder tatsächlich schützen?
Die EU-Chefin für Inneres, Ylva Johansson, sagt, dass dieser Vorschlag die einzige Möglichkeit ist, wie die EU Kinder online schützen kann.
Doch sowohl die Vereinte Nationen Und UNICEF haben bereits mehrfach vor einer pauschalen Überwachung der Internetnutzung durch Jugendliche gewarnt und deren Gefährdung für Kinder bestätigt.
Der EU-Datenschutzbeauftragte warnt vor diesem Gesetz fast alle Internetnutzer in der EU gefährdenmit sehr wenigen Beweisen, dass es Kindesmissbrauch stoppen wird.
Und in einer wegweisenden neuen Umfrage haben 80 % der jungen Menschen angegeben, dass, wenn ihre Kommunikation routinemäßig gescannt würde, sie würden sich nicht mehr sicher fühlen politisch aktiv sein oder ihre Sexualität erforschen.
Wie Anti-Trafficking-Technologie-Expertin Anjana Rajan warnt, sind sichere Kommunikationstools sicher meist für legitime Zwecke verwendet.
Die Tatsache, dass eine Minderheit sie missbraucht, bedeutet nicht, dass wir alle einem größeren Risiko aussetzen sollten.
Das bedeutet, dass wir mehr tun müssen, um diese Personen anzusprechen, indem wir in Kinderschutzspezialisten, Prävention, Justiz, Bildung und bessere Online-Berichterstattungs- und Benutzer-Empowerment-Tools investieren.
Darauf sollte die EU ihre Bemühungen konzentrieren.
Ella Jakubowska ist Senior Policy Advisor bei European Digital Rights (EDRi), einem Netzwerkkollektiv aus gemeinnützigen Organisationen, Experten, Anwälten und Akademikern, die sich für die Verteidigung und Förderung digitaler Rechte auf dem gesamten Kontinent einsetzen.
Wir bei Euronews glauben, dass alle Meinungen zählen. Kontaktieren Sie uns unter [email protected], um Pitches oder Einreichungen zu senden und sich an der Konversation zu beteiligen.
