Die Europäische Union plant ein Verbot von sogenannten Nudification-Apps, die mithilfe von KI täuschend echte Nacktbilder ohne Zustimmung der Betroffenen erstellen. Die Regelung ist Teil des KI-Omnibus zur Anpassung des AI Act. Bei Zustimmung der Mitgliedstaaten tritt das Verbot am 2. Dezember 2026 in Kraft, um digitale Gewalt gegen Frauen und Jugendliche einzudämmen.
Die EU verschärft ihren Kurs gegen die missbräuchliche Nutzung generativer KI. Im Zentrum steht der Kampf gegen Deepfake-Programme, die aus gewöhnlichen Fotos pornografisches Material generieren. Während bisherige Gesetze primär die Verbreitung oder Erstellung unter Strafe stellten, zielt die neue Initiative darauf ab, die Anbieter dieser Tools direkt in die Pflicht zu nehmen.
Dieser regulatorische Hebel ist ein strategischer Wechsel. Indem die EU die Infrastruktur – also die Apps und Plattformen – angreift, versucht sie, das Problem an der Wurzel zu packen, bevor die Bilder überhaupt entstehen. Laut einem Bericht von heute.at ergänzt die neue Regelung bestehende Vorschriften und schafft eine explizite Verantwortung für die Software-Entwickler.
Die rechtliche Lücke bei Bikini-Bildern
Trotz des weitreichenden Verbots bleibt ein kritischer Schwachpunkt in der Gesetzgebung bestehen. Die Definition dessen, was als Nacktaufnahme gilt, ist juristisch eng gefasst. Das bedeutet: KI-generierte Bilder, die Personen in Bikini-Kleidung zeigen, fallen nicht unter das Verbot, selbst wenn diese Bilder ohne Zustimmung der betroffenen Person erstellt wurden.
Diese Lücke ist nicht nur theoretischer Natur. Als konkretes Beispiel für diese Problematik nennt heute.at den Chatbot Grok auf der Plattform X, der in der Vergangenheit solche Bilder erzeugte. Da Bikini-Aufnahmen rechtlich nicht als Nacktbilder eingestuft werden, bleiben solche Generierungen unter Umständen weiterhin erlaubt.
Für Betroffene ist die Unterscheidung zwischen einem nackten und einem bekleideten Deepfake oft irrelevant, da der Übergriff und die psychologische Wirkung der unerlaubten Manipulation identisch sind. Die EU-Gesetzgebung hinkt hier der technischen Realität hinterher, in der die Grenze zwischen „Nacktheit“ und „sexualisierter Darstellung“ fließend ist.
Der Zeitplan und die Integration in den AI Act
Die neue Regelung ist kein isoliertes Gesetz, sondern Teil des sogenannten KI-Omnibus. Dieses Paket dient dazu, den bereits bestehenden AI Act der Union an die rasanten technologischen Entwicklungen anzupassen.
Der AI Act, der am 1. August 2024 offiziell in Kraft getreten ist, verfolgt einen risikobasierten Ansatz. KI-Systeme werden je nach Gefährdungspotenzial in Kategorien eingeteilt. Systeme, die eine klare Gefahr für die Sicherheit oder die Grundrechte der Menschen darstellen, fallen in die Kategorie des „unannehmbaren Risikos“ und sind innerhalb der EU grundsätzlich verboten.
- Zustimmung: Die EU-Mitgliedstaaten müssen dem Gesetz erst zustimmen.
- Inkrafttreten: Bei einer positiven Entscheidung ist der 2. Dezember 2026 als Stichtag für das Inkrafttreten vorgesehen.
Die Integration in den AI Act bedeutet, dass Verstöße gegen dieses Verbot potenziell mit den drakonischen Strafen belegt werden können, die der AI Act für Hochrisiko-KI-Systeme und verbotene Praktiken vorsieht. Konkret können Bußgelder von bis zu 35 Millionen Euro oder bis zu 7 % des weltweiten Jahresumsatzes des vorangegangenen Geschäftsjahres verhängt werden – je nachdem, welcher Betrag höher ist. Das erhöht den wirtschaftlichen Druck auf Anbieter massiv, ihre Sicherheitsfilter zu verschärfen oder ihre Dienste in der EU komplett einzustellen.
Schutz von Frauen und Jugendlichen gegen digitale Gewalt
Die Motivation hinter dem Verbot ist primär der Schutz vulnerabler Gruppen. Frauen und Jugendliche sind überproportional häufig Opfer von Deepfake-Nacktbildern, die oft für Erpressungen, Mobbing oder die gezielte Rufschädigung eingesetzt werden.
Die EU erkennt damit an, dass KI-gestützte Bildmanipulation eine neue Form der digitalen Gewalt darstellt. Durch das Verbot der Nudifier-Apps soll die Hürde für die Erstellung solcher Inhalte drastisch erhöht werden. Wenn die Tools nicht mehr legal in der EU angeboten werden dürfen, sinkt die Verfügbarkeit für Gelegenheitsnutzer.
Dieses Vorgehen ergänzt den bereits bestehenden Digital Services Act (DSA), der Plattformbetreiber dazu verpflichtet, illegale Inhalte schneller zu entfernen und Transparenz über ihre Moderationsalgorithmen zu schaffen. Während der DSA die Verbreitung bekämpft, zielt die Ergänzung des AI Act auf die Produktion ab.
Dennoch bleibt die Durchsetzung eine Herausforderung. Viele dieser Apps werden über ausländische Server betrieben oder als Open-Source-Modelle verteilt, die lokal auf Rechnern installiert werden können. Hier stößt die regulatorische Macht der EU an ihre Grenzen, da ein Verbot der kommerziellen Anbieter zwar die Masse erreicht, aber die technisch versierte Minderheit kaum stoppen kann.
Was nun folgt, wird die Reaktion der Plattformbetreiber sein. Wenn die Anbieter der Tools unter Druck geraten, müssen die sozialen Netzwerke, auf denen diese Bilder verbreitet werden, ihre Erkennungsalgorithmen verbessern. Die Kombination aus Anbieterverbot und Plattformhaftung ist der einzige Weg, um die Verbreitung dieser manipulierten Inhalte effektiv zu begrenzen.
Find more reporting in our Unternehmen section.
