EU verbietet KI-gesteuerte „Nacktbilder“-Tools

Die EU schlägt hart zurück gegen digitale Gewalt: Das Europäische Parlament hat am Donnerstag, dem 26. März 2026, ein umfassendes Verbot für KI-gesteuerte „Nudification“-Software beschlossen. Diese Tools erzeugen ohne Einwilligung pornografische Bilder von Personen. Die historische Entscheidung verschärft die EU-KI-Verordnung radikal und stellt die Entwicklung und Verbreitung solcher Anwendungen unter Strafe.

Ein historischer Schritt gegen digitale Gewalt

Mit überwältigender Mehrheit von 569 Ja-Stimmen bei 45 Gegenstimmen und 23 Enthaltungen wurde das Verbot im Plenum in Brüssel angenommen. Es zielt speziell auf Software und Dienste ab, die sexuell explizite Bilder von Personen ohne deren Zustimmung generieren. Die neuen Regeln werden in das „Digital Omnibus“-Paket integriert, eine Reihe kritischer Nachbesserungen für den KI-Rechtsakt (AIA) von 2024.

Angesichts der verschärften EU-KI-Verordnung und drohender Bußgelder müssen Unternehmen ihre KI-Systeme jetzt rechtssicher klassifizieren. Dieser kostenlose Leitfaden erklärt verständlich die neuen Anforderungen, Risikoklassen und Dokumentationspflichten. EU-KI-Verordnung kompakt: Jetzt Gratis-Leitfaden sichern

Damit wird nicht-einvernehmliche Deepfake-Pornografie aus der Kategorie „begrenztes Risiko“ – die lediglich eine Kennzeichnungspflicht vorsah – in die Kategorie „verboten“ hochgestuft. Die Entwicklung und der Vertrieb entsprechender Tools sind im EU-Binnenmarkt damit faktisch untersagt. Ein entscheidender Paradigmenwechsel, der auf Monate intensiver Debatten und öffentlichen Protests folgt.

Der „Grok-Skandal“ als Katalysator

Den entscheidenden Schub für das Verbot lieferte der sogenannte „Grok-Skandal“ Ende 2025. Damals wurde bekannt, dass die Bildgenerierungsfunktion von Elon Musks KI-Chatbot „Grok“ massenhaft zur Erstellung sexualisierter Bilder realer Frauen und Minderjähriger missbraucht wurde. Untersuchungen für das Parlament ergaben, dass das Tool in nur zwei Wochen etwa drei Millionen solcher Bilder produzierte.

Dieser Vorfall offenbarte eine fatale Lücke im ursprünglichen KI-Gesetz: Es verlangte zwar eine Kennzeichnung KI-generierter Inhalte, verbot aber nicht explizit die Existenz von Werkzeugen, die solch schädliches Material überhaupt erst ermöglichen. Der Skandal führte zu einem seltenen politischen Konsens. Unter Führung von Frankreich und Spanien drängten Mitgliedstaaten auf eine beschleunigte Nachschärfung der Regeln.

Harte Strafen und verschärfte Aufsicht

Die Einhaltung des Verbots wird vom erweiterten Europäischen KI-Amt überwacht. Dieses erhält die Befugnis, generative KI-Modelle zu auditieren, um sicherzustellen, dass sie keine Funktionen zur Massenproduktion verbotener Inhalte besitzen. Unternehmen, die gegen das Verbot verstoßen, drohen drakonische Geldstrafen: bis zu 35 Millionen Euro oder sieben Prozent ihres weltweiten Jahresumsatzes – je nachdem, welcher Betrag höher ist.

Die Regulierung zielt bewusst auf die Quelle des Problems ab. Nicht nur die Endnutzer, die Inhalte teilen, sollen belangt werden, sondern vor allem die Entwickler und Vertreiber der „Nudifier“-Software. Bisherige Sicherheitsmaßnahmen wie Wasserzeichen hätten sich als unzureichend erwiesen, um den psychischen und sozialen Schaden durch Deepfake-Nacktbilder zu verhindern, so die Begründung der Gesetzgeber.

Fristen für andere KI-Systeme verlängert

Während das Verbot für Deepfake-Pornografie schnell umgesetzt werden soll – erste Durchsetzungsmechanismen sind bereits für Ende 2026 geplant – gewährt das Parlament der Tech-Industrie in anderen Bereichen mehr Zeit. Die Fristen für die Compliance von „Hochrisiko“-KI-Systemen in kritischen Sektoren wie Gesundheitswesen oder Strafverfolgung wurden verschoben.

Da die ersten Übergangsfristen der KI-Verordnung bereits laufen, riskieren viele Anbieter und Nutzer von KI-Systemen unwissentlich hohe Sanktionen. Erfahren Sie in diesem kostenlosen E-Book, wie Sie die Kennzeichnungspflichten und Übergangsfristen rechtssicher in Ihre Prozesse integrieren. Kostenlosen Umsetzungsleitfaden zur KI-Verordnung herunterladen

Eigenständige Hochrisiko-KI-Systeme müssen nun bis zum 2. Dezember 2027 vollständig konform sein. Für KI, die in regulierte Produkte wie Medizingeräte eingebettet ist, gilt sogar eine Frist bis August 2028. Diese Verlängerung soll der technischen Komplexität bei der Überprüfung großer KI-Modelle auf Voreingenommenheit und Sicherheit Rechnung tragen.

EU setzt globalen Maßstab

Mit dem Verbot der Werkzeuge selbst positioniert sich die EU an der Spitze der globalen KI-Regulierung. Länder wie das Vereinigte Königreich oder Teile der USA kriminalisieren bisher vor allem das Verbreiten von Deepfake-Pornografie. Die EU geht nun proaktiv einen Schritt weiter und verbietet die Werkzeuge zu deren Erstellung. Es ist ein Wechsel von reaktiver Inhaltsmoderation hin zu einer „Safety-by-Design“-Philosophie.

Die Entscheidung wird unmittelbare Auswirkungen auf Social-Media-Plattformen und KI-Startups haben. Unternehmen wie X, Meta und Google müssen wahrscheinlich robustere Filtertechnologien auf API-Ebene implementieren. Die EU-Kommission erwartet bereits jetzt proaktive Maßnahmen zur Entfernung illegaler Inhalte.

Kritiker, darunter einige digitale Bürgerrechtler, warnen vor möglicher Überregulierung. Zu breit definierte Verbote könnten legitime künstlerische oder satirische Ausdrucksformen beeinträchtigen. Die Berichterstatter des Parlaments betonen jedoch, die Grenze zwischen „künstlerischen Deepfakes“ und „nicht-einvernehmlicher sexueller Ausbeutung“ sei klar genug. Die Gesetzgebung sieht explizite Ausnahmen für Film, Bildung und Satire vor – vorausgesetzt, die Inhalte sind klar gekennzeichnet und verletzen nicht die Würde realer Personen.

Nächste Schritte und Ausblick

Nach dem Parlamentsbeschluss folgen nun die finalen Trilog-Verhandlungen zwischen Parlament, Kommission und dem EU-Rat der Mitgliedstaaten. Da der Rat dem Verbot bereits am 13. März 2026 grundsätzlich zugestimmt hat, rechnen Experten mit einer formalen Annahme des endgültigen Textes noch im Sommer 2026.

Die Kommission arbeitet bereits mit Forschungszentren an fortschrittlichen Erkennungstools, die synthetische intime Bilder auch ohne Wasserzeichen identifizieren können. Bis Juni 2026 soll das KI-Amt einen umfassenden „Verhaltenskodex“ vorlegen, der Entwicklern ihre Compliance-Pflichten detailliert erläutert.

Für Opfer digitaler Gewalt ist die Abstimmung ein lang erwarteter Sieg. Die neuen Regeln schließen eine große Gesetzeslücke, hinter der Täter bisher hinter der angeblichen „Neutralität“ der Technologie Schutz suchten. Bis Ende 2027 will die EU eine voll funktionsfähige Regulierung etabliert haben, in der KI-generierte Gewalt mit derselben rechtlichen Härte verfolgt wird wie physische Übergriffe – und könnte so einen globalen Standard für die ethische Governance synthetischer Medien setzen.