KI-generierte Erotikbilder und Deepfakes: Was gilt beim Jugendschutz?

Welche Regeln gelten für KI-generierte Erotikbilder und Deepfakes?

Mit generativer Künstlicher Intelligenz lassen sich heute realistisch wirkende Bilder und Videos erzeugen, die von echten Aufnahmen kaum noch zu unterscheiden sind. Dazu gehören auch erotische und pornografische Darstellungen sowie sogenannte Deepfakes.

Für Betreiber entsprechender Internetangebote entstehen dadurch neue rechtliche und praktische Fragen. Wann ist ein KI-generiertes Bild jugendschutzrechtlich problematisch? Welche Regeln gelten für künstlich erzeugte Personen? Und darf das Gesicht einer realen Person ohne deren Zustimmung in eine sexuelle Darstellung eingefügt werden?

Bei der Bewertung müssen insbesondere der Jugendmedienschutz, die Rechte abgebildeter Personen und die Transparenzpflichten der europäischen KI-Verordnung (AI Act) unterschieden werden.

Was sind KI-generierte Erotikbilder?

KI-generierte Erotikbilder sind künstlich erzeugte Darstellungen mit erotischem oder sexuellem Inhalt.

Die abgebildeten Personen können vollständig fiktiv sein. Ebenso können reale Fotografien als Grundlage verwendet und durch KI verändert werden.

Die technische Herstellung eines Bildes entscheidet jedoch nicht allein über seine rechtliche Einordnung.

Auch bei künstlich erzeugten Darstellungen kommt es insbesondere auf den konkreten Inhalt, seine Wirkung und die Art der Veröffentlichung an.

Was ist ein Deepfake?

Als Deepfake werden insbesondere durch KI erzeugte oder manipulierte Bild-, Ton- und Videoinhalte bezeichnet, die den Eindruck einer authentischen Darstellung erwecken können.

Beispielsweise kann das Gesicht einer realen Person in eine andere Aufnahme eingefügt oder eine vollständig künstliche Szene erzeugt werden, die wie ein tatsächliches Ereignis aussieht.

Artikel 3 Nummer 60 des europäischen AI Act enthält eine rechtliche Definition von Deepfakes. Danach kommt es unter anderem darauf an, ob die Darstellung bestehenden Personen, Gegenständen, Orten oder Ereignissen ähnelt und fälschlich authentisch oder wahrheitsgemäß erscheint.

Nicht jedes KI-generierte Bild ist deshalb automatisch ein Deepfake im rechtlichen Sinne.

Sind KI-generierte Erotikbilder grundsätzlich erlaubt?

Nein, eine pauschale Aussage ist nicht möglich. KI-generierte erotische Darstellungen sind nicht allein deshalb verboten, weil sie künstlich erzeugt wurden.

Entscheidend sind insbesondere der Inhalt, die dargestellten Personen, die Rechte möglicherweise Betroffener und die Art der Zugänglichmachung.

So können erotische Darstellungen Erwachsener unter bestimmten Voraussetzungen zulässig sein. Bei pornografischen Inhalten gelten dagegen besondere Zugangsbeschränkungen.

Darstellungen sexualisierter Gewalt, bestimmte Inhalte mit Minderjährigen oder die Verletzung von Persönlichkeitsrechten können darüber hinaus eigenständige rechtliche Probleme begründen.

Die künstliche Erzeugung eines Bildes ist daher keine Möglichkeit, gesetzliche Inhaltsverbote oder Rechte anderer Personen zu umgehen.

Wann wird ein KI-generiertes Erotikbild als pornografisch eingestuft?

Die Abgrenzung zwischen Erotik und Pornografie richtet sich grundsätzlich nach dem konkreten Inhalt und seiner Darstellungsweise.

Auch bei KI-generierten Bildern können beispielsweise die ausdrückliche Darstellung sexueller Handlungen, die Fokussierung auf sexuelle Vorgänge und der Gesamtkontext für die Bewertung relevant sein.

Die Tatsache, dass keine reale Person an der Herstellung beteiligt war, schließt eine pornografische Einordnung nicht aus.

Umgekehrt ist nicht jede Darstellung von Nacktheit oder Sexualität automatisch pornografisch.

Bei Zweifeln sollte eine fachliche Einordnung der konkreten Darstellungen erfolgen.

Welche Altersverifikation ist bei KI-Pornografie erforderlich?

Für selbst verantwortete pornografische Inhaltsangebote gelten nach § 4 Abs. 2 JMStV besondere Anforderungen.

Entsprechende Angebote können in Telemedien unter den gesetzlichen Voraussetzungen zulässig sein, wenn der Anbieter sicherstellt, dass sie ausschließlich Erwachsenen innerhalb einer geschlossenen Benutzergruppe zugänglich sind.

Dies erfordert eine geeignete Altersverifikation und eine wirksame Zugangsbeschränkung.

Ein einfacher Hinweis „Ab 18 Jahren“, eine Checkbox oder die bloße Eingabe eines Geburtsdatums genügt hierfür nicht.

Die Anforderungen gelten unabhängig davon, ob pornografische Bilder mit einer Kamera aufgenommen oder durch KI erzeugt wurden.

Was gilt für KI-generierte Darstellungen Minderjähriger?

Besonders strenge Regeln gelten für sexualisierte Darstellungen von Kindern und Jugendlichen.

§ 4 Abs. 1 JMStV untersagt unter anderem Angebote mit kinder- oder jugendpornografischen Inhalten im Sinne der §§ 184b und 184c StGB. Das Verbot erfasst ausdrücklich auch virtuelle Darstellungen.

Darüber hinaus sind Darstellungen von Kindern oder Jugendlichen in unnatürlich geschlechtsbetonter Körperhaltung nach § 4 Abs. 1 Nr. 9 JMStV unzulässig. Auch diese Vorschrift erfasst virtuelle Darstellungen.

Dass eine dargestellte minderjährige Person vollständig künstlich erzeugt wurde, macht entsprechende Inhalte deshalb nicht automatisch zulässig.

Die rechtliche Einordnung einzelner Darstellungen richtet sich nach den jeweiligen gesetzlichen Tatbestandsmerkmalen.

Eine Altersverifikation für Erwachsene kann absolut unzulässige Inhalte nicht legalisieren.

Was gilt bei KI-generierten Personen mit unklarem Alter?

Generative KI kann Figuren erzeugen, deren Alter nicht eindeutig erkennbar ist.

Gerade bei sexualisierten Darstellungen kann dies problematisch werden, wenn die dargestellte Person minderjährig wirkt oder entsprechende Merkmale aufweist.

Die bloße Behauptung des Betreibers, eine künstliche Figur sei volljährig, entscheidet nicht allein über die rechtliche Bewertung.

Bei der Prüfung müssen die konkrete Darstellung und die anwendbaren gesetzlichen Voraussetzungen berücksichtigt werden.

Betreiber sollten deshalb bei sexualisierten KI-Inhalten mit erkennbar kindlichen oder jugendlichen Erscheinungsmerkmalen besondere Vorsicht walten lassen.

Dürfen reale Personen ohne Einwilligung in erotische Deepfakes eingefügt werden?

Die Verwendung des Gesichts oder anderer identifizierender Merkmale einer realen Person in einer sexualisierten KI-Darstellung kann deren Persönlichkeitsrechte erheblich verletzen.

Je nach Sachverhalt können insbesondere das Recht am eigenen Bild, das allgemeine Persönlichkeitsrecht, datenschutzrechtliche Vorschriften und strafrechtliche Bestimmungen relevant sein.

Besonders problematisch sind Darstellungen, die den falschen Eindruck erwecken, eine identifizierbare Person habe an sexuellen Handlungen teilgenommen.

Auch wenn die dargestellte Szene nie stattgefunden hat, können für die betroffene Person erhebliche Folgen entstehen.

Eine Kennzeichnung als KI-generiert beseitigt eine mögliche Rechtsverletzung nicht automatisch.

Betreiber sollten deshalb sexualisierte Deepfakes identifizierbarer realer Personen nicht ohne sorgfältige Prüfung der erforderlichen Rechte und Einwilligungen veröffentlichen.

Sind sexualisierte Deepfakes strafbar?

Ob die Herstellung oder Verbreitung eines sexualisierten Deepfakes strafbar ist, hängt von den konkreten Umständen und den jeweils geltenden Strafvorschriften ab.

Bereits bestehende Straftatbestände können je nach Fall einschlägig sein. Daneben kommen zivilrechtliche Ansprüche der betroffenen Person in Betracht.

Die Bundesregierung hat im Oktober 2026 einen Gesetzentwurf zum besseren Schutz vor digitaler Gewalt beschlossen. Dieser sieht unter anderem einen neuen Straftatbestand vor, der Strafbarkeitslücken bei bildbasierter sexualisierter Gewalt einschließlich sexualisierter Deepfakes schließen soll.

Ein Kabinettsbeschluss ist jedoch noch kein geltendes Gesetz. Bis zum Abschluss des Gesetzgebungsverfahrens muss zwischen bestehenden Strafvorschriften und geplanten Neuregelungen unterschieden werden.

Betreiber sollten sich deshalb nicht darauf verlassen, dass eine bestimmte Form sexualisierter KI-Manipulation schon deshalb erlaubt ist, weil sie von einem geplanten neuen Straftatbestand erfasst werden soll.

Müssen Deepfakes als KI-generiert gekennzeichnet werden?

Artikel 50 der europäischen KI-Verordnung enthält Transparenzpflichten für bestimmte KI-generierte und manipulierte Inhalte.

Seit dem 2. August 2026 müssen Betreiber von KI-Systemen, die Bild-, Audio- oder Videoinhalte erzeugen oder manipulieren, unter den gesetzlichen Voraussetzungen offenlegen, wenn diese Inhalte Deepfakes im Sinne der Verordnung darstellen.

Die Information muss klar und unterscheidbar sein und grundsätzlich spätestens bei der ersten Konfrontation mit dem betreffenden Inhalt erfolgen.

Für offensichtlich künstlerische, kreative, satirische oder fiktionale Werke gelten besondere Regeln zur Art der Offenlegung.

Die Pflicht zur Offenlegung eines Deepfakes ist von der technischen Kennzeichnung KI-generierter Inhalte durch Anbieter entsprechender KI-Systeme zu unterscheiden.

Außerdem ist nicht jedes KI-generierte Erotikbild automatisch ein kennzeichnungspflichtiger Deepfake.

Reicht ein Hinweis „KI-generiert“ aus?

Ein Hinweis auf die künstliche Herstellung kann eine gesetzlich erforderliche Transparenzmaßnahme unterstützen.

Er ersetzt jedoch keine anderen rechtlichen Anforderungen.

Insbesondere macht die Kennzeichnung weder pornografische Inhalte ohne erforderliche Altersverifikation zugänglich noch erlaubt sie die Veröffentlichung absolut unzulässiger Darstellungen.

Auch Persönlichkeitsrechte realer Personen müssen unabhängig von einer KI-Kennzeichnung beachtet werden.

Betreiber sollten deshalb zwischen Transparenzpflichten, Zugangsbeschränkungen und inhaltlichen Verboten unterscheiden.

Welche Verantwortung haben Betreiber von KI-Erotikplattformen?

Die rechtliche Verantwortung hängt unter anderem davon ab, ob der Betreiber selbst KI-Inhalte erzeugt und veröffentlicht oder lediglich technische Funktionen für Nutzer bereitstellt.

Bei eigenen Inhalten sind insbesondere die jeweils anwendbaren jugendschutzrechtlichen Anforderungen zu berücksichtigen.

Beim Speichern und Veröffentlichen fremder KI-Bilder ist zu prüfen, ob eine Hosting- oder Online-Plattformleistung im Sinne des Digital Services Act (DSA) erbracht wird. Eine Generierungsfunktion ist nicht allein deshalb ein Hostingdienst, weil ein Nutzer einen Prompt eingibt; die tatsächliche Leistung und die Verantwortung für die Ausgaben sind gesondert zu bestimmen.

Hierzu gehören unter bestimmten Voraussetzungen Meldeverfahren für rechtswidrige Inhalte und Pflichten im Umgang mit entsprechenden Hinweisen.

Soweit der DSA auf eine Vermittlungsleistung Anwendung findet, gilt nach § 2 Abs. 2 JMStV der Staatsvertrag für diese Leistung nicht. Die zuvor erläuterten Vorgaben für selbst verantwortete pornografische Inhaltsangebote dürfen deshalb nicht ohne Weiteres als zusätzliche Betreiberpflichten für fremde Uploads behandelt werden. Eigene veröffentlichte KI-Bildserien sind gesondert einzuordnen; nicht jeder eigene Beitrag hebt die Einordnung einer daneben bestehenden Hostingfunktion auf.

Die Einordnung als Vermittlungsdienst führt nicht zu einer pauschalen Freistellung von sämtlichen gesetzlichen Anforderungen.

Müssen KI-Bildgeneratoren eine Altersprüfung durchführen?

Eine allgemeine gesetzliche Pflicht, jeden Nutzer eines beliebigen KI-Bildgenerators vor der Nutzung anhand eines Ausweises zu identifizieren, besteht nicht.

Anders kann die Situation sein, wenn ein Angebot pornografische Inhalte bereitstellt oder andere gesetzliche Zugangsbeschränkungen greifen.

Entscheidend sind die tatsächlich angebotenen Funktionen, die möglichen Inhalte und die rechtliche Einordnung des Dienstes.

Ein Betreiber sollte deshalb prüfen, ob sein System entsprechende Inhalte erzeugen, speichern oder zugänglich machen kann und welche Schutzmaßnahmen dafür erforderlich sind.

Welche Schutzmaßnahmen sind für KI-Erotikangebote sinnvoll?

Je nach Angebot können unterschiedliche technische und organisatorische Maßnahmen erforderlich oder empfehlenswert sein.

Dazu gehören beispielsweise:

• geeignete Altersverifikation für pornografische Angebote,
• Beschränkungen bei der Erzeugung unzulässiger sexualisierter Darstellungen,
• Schutzmechanismen gegen die Erstellung sexualisierter Inhalte mit Minderjährigen,
• Verfahren zum Umgang mit Beschwerden betroffener Personen,
• Prüfung und gegebenenfalls Entfernung rechtswidriger Nutzerinhalte,
• erforderliche Kennzeichnung von KI-generierten oder manipulierten Inhalten,
• regelmäßige Tests der eingesetzten Inhaltsfilter.

Automatische Filter können Risiken reduzieren, aber nicht garantieren, dass sämtliche erzeugten Inhalte rechtlich unproblematisch sind.

Besonders bei neuen KI-Modellen oder geänderten Generierungseinstellungen sollten vorhandene Schutzmaßnahmen erneut überprüft werden.

Benötigt eine KI-Erotikplattform einen Jugendschutzbeauftragten?

Ob eine gesetzliche Bestellungspflicht besteht, richtet sich insbesondere nach § 7 JMStV und der konkreten Einordnung des Angebots.

Für bestimmte geschäftsmäßige Anbieter allgemein zugänglicher Telemedien mit entwicklungsbeeinträchtigenden oder jugendgefährdenden Inhalten besteht grundsätzlich eine Bestellungspflicht.

§ 7 Abs. 3 JMStV enthält allerdings eine Ausnahme für Vermittlungsdienste im Sinne von Artikel 3 Buchstabe g DSA.

Deshalb kann nicht pauschal behauptet werden, dass jede KI-Erotikplattform einen Jugendschutzbeauftragten bestellen muss.

Auch eine freiwillige jugendschutzfachliche Betreuung kann sinnvoll sein, insbesondere wenn die Plattform regelmäßig neue Inhalte oder Funktionen anbietet.

Welche Aufgaben kann ein Jugendschutzbeauftragter übernehmen?

Ein Jugendschutzbeauftragter kann Betreiber bei der jugendschutzfachlichen Bewertung KI-generierter Inhalte und der Auswahl geeigneter Schutzmaßnahmen beraten.

Dazu können beispielsweise gehören:

• die Einschätzung erotischer und pornografischer KI-Darstellungen,
• die Beratung zu altersabhängigen Zugangsbeschränkungen,
• Hinweise auf besonders problematische Darstellungen Minderjähriger,
• die Bewertung neuer Funktionen und Inhaltskategorien,
• die Unterstützung bei jugendschutzbezogenen Nutzeranfragen.

Die Prüfung von Persönlichkeitsrechten, strafrechtlichen Risiken oder datenschutzrechtlichen Fragen kann darüber hinaus eine spezialisierte rechtliche Beratung erfordern.

Ein Jugendschutzbeauftragter ersetzt keine anwaltliche Vertretung und übernimmt nicht automatisch die rechtliche Verantwortung für das Angebot.

Unsere Einschätzung aus der Praxis

Bei KI-generierten Erotikbildern ist eine sorgfältige Trennung der unterschiedlichen rechtlichen Fragen besonders wichtig.

Ein künstlich erzeugtes Bild kann jugendschutzrechtlich unproblematisch sein und dennoch die Persönlichkeitsrechte einer realen Person verletzen.

Umgekehrt kann eine vollständig fiktive Darstellung jugendschutzrechtlich unzulässig sein, obwohl keine reale Person abgebildet wurde.

Auch die Kennzeichnung als KI-generiert löst diese Fragen nicht automatisch.

Wir empfehlen deshalb, sowohl die möglichen Bildinhalte als auch die eingesetzten Generierungsfunktionen, Zugangsbeschränkungen und Veröffentlichungsverfahren zu betrachten.

Fazit: KI-generierte Erotik erfordert mehr als eine Kennzeichnung

KI-generierte Erotikbilder und Deepfakes können unterschiedliche gesetzliche Anforderungen auslösen.

Für pornografische Inhalte gelten die jugendschutzrechtlichen Zugangsbeschränkungen unabhängig von der Herstellungsmethode. Bestimmte sexualisierte Darstellungen Minderjähriger sind auch dann unzulässig, wenn sie vollständig künstlich erzeugt wurden.

Bei Deepfakes realer Personen müssen zusätzlich deren Rechte beachtet werden. Der AI Act enthält außerdem Transparenzpflichten für bestimmte KI-generierte und manipulierte Inhalte.

Unser Tipp: Prüfen Sie KI-Erotikangebote nicht nur anhand der verwendeten Technik. Entscheidend sind die tatsächlich erzeugten Inhalte, mögliche Rechte betroffener Personen, die erforderlichen Zugangsbeschränkungen und die anwendbaren Kennzeichnungspflichten.