Muss ich KI-generierte Inhalte kennzeichnen?

Drache mit große Stempel "Mit KI generiert"

Lange habe ich mich um diesen Blog-Beitrag gedrückt. Denn obgleich ich die Frage „Muss ich KI-generierte Inhalte kennzeichnen?“ in jedem Workshop gestellt bekomme, kommt die Beantwortung immer schnell in die Richtung einer Rechtsberatung. Da ich keine Juristin bin, darf, will und kann ich das aber nicht.

Dennoch: Ich setze mich viel mit den Regeln auseinander, muss sie ja auch selber kennen, weil ich viel mit KI mache. Deshalb hier meine Recherchen und meine persönliche Praxis dazu – plus Links zu hilfreichen Leitfäden anderer.

Und nochmal deutlich: Ich bin keine Juristin und dies ist keine Rechtsberatung. Im Zweifel holt euch rechtliche Unterstützung.

Kein Urheberrecht (oder?)

KI-generierte Inhalten fehlt die „geistige schöpferische Leistung“. Das heißt: Ein Text, den ChatGPT schreibt, oder ein Bild aus Midjourney ist nicht urheberrechtlich geschützt. Für viele Vereine und NGOs ist das erstmal eine gute Nachricht – ihr könnt die Inhalte frei verwenden. Allerdings auch jeder*r andere. Euer selbstgeneriertes tolles Logo – nicht schützbar. Alle meine Drachen – nicht schützbar. Und für Kreative und Agenturen, die KI in Design-Prozesse einbeziehen, wird es noch viel herausfordernder…¹ (Quelle z.B. https://digitalzentrum-berlin.de/leitfaden-ki-generierte-inhalte-kennzeichnen)

International kann das übrigens anders sein. In China bspw. gibt es auch bei KI-generierten Inhalten eine Autorenschaft beim Menschen. Aber Europa und USA sind sich bisher zumindest weitgehend einig.

Aber was, wenn ich nacharbeite?

Was, wenn ich ein Bild oder einen Text nachbearbeite? Nehmen wir diesen Newsletter als ein typisches Beispiel aus meinem Alltag. Ich habe eine Idee und diskutiere sie mit ChatGPT. Ich recherchiere mit Perplexity und ChatGPT. Dann schreibe ich einen Textentwurf mit Claude. Ich überarbeite den Text, ergänze Beispiele wie dieses und checke die Fakten, setze Links. Ich integriere KI-generierte Bilder. Zuletzt lasse ich eine KI die Rechtschreibung und Formatierung checken. Ist der Text jetzt eine geistige-schöpferische Leistung mit Urheberrecht – oder weiter Allgemeingut? Niemand weiß es aktuell.

Ein Beispiel aus den USA zeigt das am individuellen Fall: Das US Copyright Office musste über den Comic „Zarya of the Dawn“ entscheiden. Die Einzelbilder waren mit Midjourney erstellt – diese bekamen keinen Urheberrechtsschutz. Aber: Der selbst geschriebene Text und vor allem das Gesamtwerk wurden als geschützt eingestuft. Die kreative Leistung lag in der Auswahl und Anordnung der Bilder zum Text.²

Was das für diesen Blog-Beitrag bedeutet? Ich weiß es nicht.

Und wie muss ich kennzeichnen?

Lange gabe es keine spezifische Kennzeichnungspflicht für KI-generierte Inhalte. Das bedeutet aber nicht, dass es ein rechtsfreier Raum war: Bestehende Gesetze gegen Irreführung, Betrug oder Desinformation und auch Marken- und Persönlichkeitsrechte gelten selbstverständlich auch für KI-Inhalte. Das heißt zum Beispiel: Eine täuschend echte KI-Aufnahme von Angela Merkel, die Falschaussagen verbreitet? Verboten! Ein KI-generierter Leitfaden, der sich als „von Menschen handgeschrieben“ ausgibt? Auch problematisch.

Seit 2.August gilt der EU AI ACT

Der EU AI Act sorgt für noch mehr Klarheit. Die Verordnung unterscheidet, wo KI-Nutzung gekennzeichnet werden muss – und wo bzw. wann nicht. Die entsprechenden Artikel gegen DeepFakes und für Transparenz gelten ab August 2026. Dann gilt:

Deepfakes, KI-Audios und fotorealistische Bilder? Unbedingt kennzeichnen, wenn ein Mensch glauben könnte, dass das Bild/Audio/Video von einem Menschen oder einer realen Situation sein könnte. Deepfakes umfasst dabei nicht nur KI-Varianten von echten Menschen, sondern auch, wenn ihr den Bundestag unter einer Regenbogenflagge zeigt, die da nicht geweht hat oder ihr Menschen in einem Workshop generiert, die nicht existieren oder eine neue Limonade fotorealistisch erfindet.

Chatbots auf eurer Website? Klar, die auch – denn Menschen sollen wissen, wenn sie mit KI interagieren.

Und wenn ihr Texte zu öffentlichen Themen ohne redaktionelle Kontrolle veröffentlicht, müsst ihr die KI-Unterstützung ebenfalls offenlegen. Das macht Sinn, denn gerade bei politischen oder gesellschaftlichen Themen wollen Menschen wissen, woher Inhalte stammen. Aber wenn ihr den Text kontrolliert habt, ist keine Kennzeichnung nötig.

Weil so viel Unfug kursiert, hier mal die echten Rechtstexte. So schwer sind die nämlich gar nicht:

(1) Die Anbieter stellen sicher, dass KI-Systeme, die für eine direkte Interaktion mit natürlichen Personen bestimmt sind, so konzipiert und entwickelt werden, dass die betreffenden natürlichen Personen darüber informiert werden, dass sie mit einem KI-System interagieren, es sei denn, dies ist aus der Sicht einer natürlichen Person, die unter Berücksichtigung der Umstände und des Nutzungskontexts angemessen informiert, aufmerksam und umsichtig ist, offensichtlich.

[…]

(4) Wer ein KI-System einsetzt, das Bild-, Audio- oder Videoinhalte erzeugt oder manipuliert, die einen Deep Fake darstellen, muss offenlegen, dass die Inhalte künstlich erzeugt oder manipuliert wurden. […]

Wer ein KI-System einsetzt, das Text generiert oder manipuliert, der zu dem Zweck veröffentlicht wird, die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, muss offenlegen, dass der Text künstlich generiert oder manipuliert wurde.

ABER

Diese Verpflichtung gilt nicht, […] wenn die KI-generierten Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterzogen wurden und eine natürliche oder juristische Person die redaktionelle Verantwortung für die Veröffentlichung der Inhalte trägt.
EU AI ACT, Artikel 50 in Auszügen

Wenn ihr KI nur als Schreibassistenz nutzt oder Texte redaktionell überarbeitet, braucht ihr keine Kennzeichnung. Auch die interne Nutzung für Recherche, Brainstorming oder Textverbesserung bleibt kennzeichnungsfrei. Bei all dem gilt: im Team vereinbarte Leitlinien, wie ihr KI nutzt, wird sehr sinnvoll (und gute Schulungen aller Mitarbeitenden auch – dazu gilt die Kompetenz-/Schulungspflicht für Unternehmen und Organisationen übrigens schon seit Februar 2025).

Ah es gibt noch eine Dimension: Deepfakes sollen technisch und menschlich lesbar markiert werden. Für das technische sind die KI-Tool-Anbieter zuständig, für das menschliche ihr. Wie genau ist euch überlassen. Die EU hat beispielhafte Logos veröffentlich: https://digital-strategy.ec.europa.eu/en/policies/eu-icons-labelling-ai-generated-content. Sie sind superschlicht und nicht verpflichtend, aber zeigen wie einfach es sein darf.

Wer es sich leicht machen will. Der Kollege Georg Neumann hat ein nicht-datenspeicherndes Tool entwickelt, das euch diese Logos oder eigene auf jedes Bild setzt: label.marketing-ki.de/ DANKE.

Ah und ursprünglich war unklar, ob die Kennzeichnung auch rückwirkend geschehen muss. Der Omnibus (eine Nachbesserung des EU AI Act) hat das abgeschwächt, aber alle fotorealistischen KI-Bilder, die ihr ab jetzt veröffentlicht, sollten eine klare Kennzeichnung haben.

Was die Plattformen vorgeben

Die Plattform-Regeln sind oft strenger als die Gesetze – und gelten bereits ab dem Moment, wo ihr AGBs oder Community Guidelines bestätigt:

Tools zur KI-Generierung

Midjourney, Ideogram, Flux, Stable Diffussion, DALL-E und Adobe Firefly erlauben weitgehend die kommerzielle Nutzung ihrer Bilder, aber: Die Einschränkungen stecken im Detail: Viele verbieten die Nutzung für politische Kampagnen oder kontroverse Themen. Auch eine Kennzeichnungspflicht kann sich in den Nutzungsbedingungen verstecken. (Bsp. Magnific (früher Freepik) in der Gratis-Version) Oder Einschränkungen wie die Erlaubnis eigene Bilder zu verwenden, aber nicht die anderer… (Midjourney). Es hilft nix: Lest die Bedingungen durch, wenn ihr Sicherheit braucht.

Hier mein Recherchestand von Februar 2025:

⛔ Quasi alle Tools untersagen Irreführung, Hass, Pornographie etc.
❗ Persönlichkeits-, Marken- und Urheberrecht gelten weiter.
📝 Nur Freepik weist auf Kennzeichnungspflicht bei freien Inhalten hin.

Midjourney (Midjourney)
✅ Kommerzielle Nutzung: Erlaubt – unter Beachtung von Einschränkungen (z. B. bei der Verwendung von Inhalten Dritter)
❌ Politische Nutzung: Explizit verboten (keine politischen Kampagnen, Wahlwerbung o. Ä.)

DALL‑E (OpenAI)
✅ Kommerzielle Nutzung: Erlaubt.
✅ Politische Nutzung: Erlaubt.

Stable Diffusion (Stability AI)
✅ Kommerzielle Nutzung: Erlaubt – Community-Lizenz für Nutzer (Jahresumsatz < $1M)
✅ Politische Nutzung: Erlaubt

Ideogram (Ideogram AI)
✅ Kommerzielle Nutzung: Erlaubt – Nutzung variiert je nach Account (Free vs. Paid)
❌ Politische Nutzung: Nutzungen zu politischen Zwecken sind ausgeschlossen

Magnific (bisher Freepik)
✅ Kommerzielle Nutzung: Erlaubt – sowohl für private als auch kommerzielle Projekte (bei Free-Inhalten meist mit Attributionspflicht)
❓Politische Nutzung: Nutzung darf keine Unterstützung im Wahlkampf suggerieren (indirekt vermutlich politische Nutzung ausgeschlossen)

Adobe Firefly(Adobe)
✅ Kommerzielle Nutzung: Erlaubt – generell gestattet; bei Betaversionen evtl. spezielle Einschränkungen
✅ Politische Nutzung: Erlaubt

Flux (Blackforest Forest Labs)
🔀 Kommerzielle Nutzung: Variiert je nach Variante:
• Flux.1 [schnell] (Apache‑2.0) erlaubt kommerzielle Nutzung
• Flux.1 [dev] ausschließlich nicht-kommerziell
• Flux.1 [pro] kommerzielle Nutzung über API gemäß vertraglicher Bedingungen
✅ Politische Nutzung: mindestens beim schnellen Modell erlaubt

Bei Textgenerierungstools konnte ich solche Einschränkungen bisher nicht finden.

Plattformen zum Teilen

Auch auf den Plattformen auf denen wir die Inhalte teilen wollen, gibt es Spielregeln.

Meta entwickelt für Facebook, Instagram und Threads eine automatische Erkennung von KI-Bildern, Mircosoft für Linkedin. Der Fokus liegt auch hier auf Deepfakes, besonders fotorealistischen Aufnahmen, KI-generierte Videos, aber auch Stimm-Klone. Die anderen großen Plattformen arbeiten an KI-Richtlinien. Das gilt besonders für die, die selbst KI-Generierung integrieren. Auch hier gilt: Wer mitspielen will, muss die Spielregeln kennen und akzeptieren.

So arbeite ich bisher

Bei Illustrationen bin ich transparent, aber sehr pragmatisch. Ein summarischer Hinweis auf der Website oder in der Präsentation reicht mir, wenn ohnehin erkennbar ist, dass es sich ja um eine fiktive Illustration handelt. Bei fotorealistischen Bildern bemühe ich mich um Kennzeichnung in Bildnähe oder gebe klare Hinweise z.B. zu Beginn von Präsentationen.

Für umfangreichere Texte gebe ich einen allgemeinen Hinweis auf KI-Unterstützung z.B. auf der Website, im Impressum etc. Die Endredaktion liegt ohnehin immer bei mir. Ein Rechtschreibcheck oder das Formulieren eines Social Media Posts kennzeichne ich nicht. Jede Post-Idee ist weiterhin von mir bzw. fische ich sie bewusst aus Brainstormings mit KI – ich automatisiere nicht.

Wer es genauer dokumentieren will: An Hochschulen entstehen gerade detaillierte Dokumentationsformate. Sie schlüsseln auf, wie KI im Arbeitsprozess eingesetzt wurde:

Recherche
Ideenfindung
Strukturierung
Ausformulierung
Feedback
Rechtschreibkontrolle

Ein Tipp: Einige Organisationen unten haben bereits Leitlinien veröffentlicht. Sie gehen über die rechtlichen Vorgaben hinaus. Meinen Vorschlag für Leitlinien findet ihr hier.