Seit dem 2. August 2026 gelten die Transparenzpflichten der europäischen KI-Verordnung, besser bekannt als EU AI Act. Seitdem herrscht viel Verunsicherung: Wir gehen der Frage nach, ab wann eine Kennzeichnung rechtlich nötig ist.

Zwei wichtige Hinweise vorweg:

Dieser Artikel ist erstens keine Rechtsberatung, sondern eine Orientierungshilfe. Vieles rund um den AI Act ist noch neu, manche Auslegungsfragen werden erst die kommenden Monate und vermutlich auch die Gerichte klären. Bei konkreten Fragen zu deinem Projekt wende dich an unseren Verbandsjustiziar oder an eine auf Medienrecht spezialisierte Kanzlei.

Und zweitens geht es hier allein um die Rechtslage. Dieser Artikel informiert, er empfiehlt nicht. Ob und wie viel KI beim Schreiben zum Einsatz kommen sollte, darüber gehen die Meinungen in der Community weit auseinander, und das aus guten Gründen. Hier geht es darum, dass alle, die mit dem Thema in Berührung kommen, die Spielregeln kennen.

Warum gibt es dieses Gesetz überhaupt?

Mit der zunehmenden Qualität generativer KI verschwimmt die Grenze zwischen echten und synthetischen Inhalten: Bilder, Stimmen und Videos lassen sich heute so erzeugen, dass sie von authentischem Material kaum zu unterscheiden sind. Gefälschte Videos von Politiker:innen, die Dinge sagen, die sie nie gesagt haben. Fotorealistische Bilder von Ereignissen, die nie stattgefunden haben. Stimmen von Prominenten, die für Produkte werben, von denen sie noch nie gehört haben.

Solche Inhalte nennt man Deepfakes, und der AI Act definiert sie als KI-generierte oder KI-manipulierte Bild-, Ton- oder Videoinhalte, die realen Personen, Objekten oder Ereignissen ähneln und fälschlicherweise als authentisch erscheinen würden. Die EU will mit den Transparenzpflichten verhindern, dass Menschen unbemerkt von solchen Inhalten getäuscht werden. Wer mit einer KI interagiert oder KI-generierte Inhalte sieht, soll das erkennen können.

Das Gesetz zielt also in erster Linie auf die Unterbindung von Täuschung ab. Das ist eine wichtige Einordnung, denn daraus ergeben sich die meisten Ausnahmen, die für uns Autor:innen relevant sind.

Muss ich mein Buch kennzeichnen?

Die Frage, die viele beschäftigt, zuerst: Für den Text eines fiktiven belletristischen Werks selbst gibt es nach aktuellem Stand in den allermeisten Fällen keine rechtliche Kennzeichnungspflicht.

Die Transparenzpflicht für KI-generierte Texte greift nach Artikel 50 der Verordnung nur, wenn ein Text veröffentlicht wird, um die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse zu informieren, also typischerweise bei Nachrichtenartikeln oder redaktionellen Inhalten mit gesellschaftlicher Relevanz. Und selbst bei solchen Texten entfällt die Pflicht, wenn eine menschliche redaktionelle Prüfung und Verantwortung dahintersteht. Ein fiktiver Roman fällt nicht darunter. 

Dazu kommt die generelle Hilfsmittel-Regel: Wer einen KI-generierten Roman-Entwurf nutzt, ihn überarbeitet und maßgeblich prägt, muss nicht kennzeichnen. Die KI gilt dann als Werkzeug, vergleichbar mit einer Rechtschreibprüfung oder einem Thesaurus. Wer also mit KI brainstormt, recherchiert, Formulierungen glättet oder Plotideen durchspielt und den Text selbst verantwortet, ist von der Kennzeichnungspflicht nicht betroffen.

Anders kann es aussehen, wenn ein Text vollständig von einer KI erstellt und ohne nennenswerte menschliche Bearbeitung veröffentlicht wird. Hier ist die Rechtslage für Belletristik allerdings noch nicht abschließend geklärt, und es gilt die Kunstausnahme, zu der wir gleich kommen.

Die Kunstausnahme

Der AI Act enthält eine Sonderregel für künstlerische, kreative, satirische und fiktionale Werke. Für sie gilt eine abgeschwächte Transparenzpflicht: Die KI-Nutzung muss zwar offengelegt werden, aber auf eine Weise, die die Darbietung oder den Genuss des Werks nicht beeinträchtigt. Bei einem Film wäre das etwa ein Hinweis im Abspann, bei einem Buch könnte das Impressum der passende Ort sein.

Die Kunstausnahme hat allerdings Grenzen: Ein KI-generiertes Video einer realen Politikerin, die Dinge sagt, die sie nie gesagt hat, wird nicht dadurch legal, dass man es als Kunst deklariert. Sobald reale Personen täuschend echt dargestellt werden, gelten strengere Maßstäbe.

KI-generiertes Bildmaterial: Hier wird es konkret

Bei Bildern ist die Lage eindeutiger als bei Texten, und hier gibt es für Selfpublisher:innen tatsächlich Handlungsbedarf.

Kennzeichnungspflichtig sind nach den Leitlinien der EU-Kommission vor allem fotorealistische KI-Bilder mit Täuschungswirkung, also Bilder, die wie echte Fotografien wirken. Ein offensichtlich illustratives Fantasy-Cover mit einem Drachen über einer brennenden Stadt täuscht niemanden und fällt unter die Kunstausnahme; hier genügt eine dezente Offenlegung, etwa im Impressum. KI als reines Bearbeitungswerkzeug (Retusche, Freistellen, Hintergrundkorrektur) löst in der Regel gar keine Kennzeichnungspflicht aus.

Kritischer wird es bei fotorealistischen Darstellungen von Menschen. Wer sich etwa ein fotorealistisches „Autorenfoto“ generieren lässt oder fotorealistische KI-Personen in Werbematerialien einsetzt, bewegt sich im Bereich, für den die Kennzeichnungspflicht gedacht ist. Die Offenlegung muss dann nach den Leitlinien der EU-Kommission unmittelbar dort wahrnehmbar sein, wo der Inhalt wahrgenommen wird, ein versteckter Hinweis irgendwo in der Beschreibung reicht nicht.

Amazon und die Metadaten

Wie ernst auch die Plattformen das Thema nehmen, zeigt Amazon. Seit Kurzem verlangt Amazon von Verkäufer:innen, Produktbilder mit fotorealistischen KI-generierten Personen zu kennzeichnen, bevor sie zu Angeboten oder A+ Inhalten hinzugefügt werden. Wer also für seine A+ Inhalte (die erweiterten Produktbeschreibungen auf der Amazon-Buchseite) z.B. fotorealistische Bilder seiner Protagonist:innen generiert hat, fällt unter diese Regel. Ein fotorealistisch dargestellter Buchheld auf der Produktseite ist aus Sicht der Plattform eine KI-generierte Person und muss entsprechend markiert werden. 

Auch bei KDP selbst gibt es seit Längerem eine Meldepflicht: Beim Upload eines Buches muss angegeben werden, ob Inhalte KI-generiert sind, das gilt für Texte wie für Cover.

Wichtig zu verstehen: Die Amazon-Metadaten und die KDP-Angaben sind Plattformregeln, die parallel zur EU-Verordnung existieren. Man muss also unter Umständen beides beachten: die Vorgaben des AI Act und die Regeln der jeweiligen Plattform.

Website, Newsletter, Social Media

Auch abseits des Buches nutzen viele Autor:innen KI, etwa für Bilder auf der Autorenwebsite, Illustrationen im Newsletter oder Posts auf Social Media. Hier gilt dieselbe Grundlogik: Offensichtlich illustrative oder künstlerische Bilder (die stilisierte Buchwelt, das gezeichnete Portrait der Romanfigur) sind unkritisch beziehungsweise fallen unter die Kunstausnahme. Fotorealistische Bilder, die den Eindruck echter Fotografien erwecken, sollten gekennzeichnet werden, und zwar sichtbar am Bild, nicht versteckt im Footer.

Viele Social Media Plattformen haben zusätzlich eigene Regeln eingeführt: Meta, TikTok, Pinterest und YouTube setzen inzwischen alle auf irgendeine Form von KI-Inhaltskennzeichnung, teilweise mit automatischer Erkennung.

Bei Chatbots gilt übrigens: Wer auf seiner Autorenwebsite einen KI-Chatbot einsetzt, muss klar erkennbar machen, dass Besucher:innen mit einer Maschine sprechen.

Die Grauzone: Wo hört das Hilfsmittel auf?

Die ehrliche Antwort auf viele Detailfragen lautet derzeit: Es ist noch nicht abschließend geklärt. Wo genau die Grenze zwischen „KI als Hilfsmittel“ und „KI-generiertem Inhalt“ verläuft, wird sich erst in der Praxis zeigen. Ist ein Klappentext, den ChatGPT geschrieben und die Autorin nur leicht angepasst hat, noch redaktionell verantwortet? Wie viel menschliche Überarbeitung macht aus einem KI-Text einen menschlichen Text?

Für diese Grauzone gibt es eine pragmatische Faustregel: Je näher ein Inhalt an der Täuschung ist (fotorealistisch, scheinbar authentisch, scheinbar von einem Menschen), desto eher solltest du kennzeichnen. Je offensichtlicher der kreative, künstlerische oder unterstützte Charakter, desto entspannter kannst du sein. Und im Zweifel schadet eine freiwillige, dezente Kennzeichnung nie.

KI-Übersetzungen

Auch bei der Übersetzung gilt: Die Kennzeichnungspflicht für KI-Texte nach Artikel 50 erfasst nur Texte, die der Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse dienen. Die Leitlinien der EU-Kommission nehmen Belletristik, Unterhaltung und gewöhnliche Werbung ausdrücklich davon aus. Wer seinen Roman mit KI-Unterstützung übersetzen lässt, unterliegt für den übersetzten Buchtext also in der Regel keiner Kennzeichnungspflicht nach dem AI Act. Dazu kommt: Eine reine KI-Übersetzung gilt grundsätzlich als technische Bearbeitung, solange Inhalt und Aussage des ursprünglichen Textes unverändert bleiben.

Vorsicht ist aber bei Sachtexten geboten: Für Texte über Angelegenheiten von öffentlichem Interesse (etwa Gesundheitsratgeber oder Texte mit Sicherheitsbezug) spricht nach den aktuellen Leitlinien mehr dafür, dass eine ungeprüfte KI-Übersetzung gekennzeichnet werden sollte. Wer also ein Sachbuch zu einem sensiblen Thema per KI übersetzen lässt, sollte die Übersetzung entweder von einem Menschen prüfen und verantworten lassen oder kennzeichnen.

Unabhängig von der Rechtslage lohnt auch hier ein Blick auf die Qualitätsfrage: Der Verband deutschsprachiger Übersetzer:innen (VdÜ) weist darauf hin, dass die Nachbearbeitung von KI-Übersetzungen (das sogenannte Post-Editing) oft einer Neuübersetzung vieler Passagen gleichkommt, mit denselben Anforderungen, aber weniger Zeit und Honorar. Für die Qualität deiner fremdsprachigen Ausgabe gilt daher dasselbe wie für das Original: Eine ungeprüfte Maschinenübersetzung kann dir im Zielmarkt mehr schaden als nutzen. Wenn du KI-Übersetzungen einsetzt, plane ein professionelles Übersetzungslektorat durch Muttersprachler:innen ein.

Was die Community dazu sagt

Mindestens so wichtig wie die Rechtslage ist die Stimmung in der Leserschaft, denn die Leser:innen sind beim Thema KI teilweise deutlich strenger als das Gesetz. Besonders bei Covern reagieren viele Leser:innen empfindlich auf KI-generierte Gestaltung, bis hin zu öffentlicher Kritik an den betreffenden Autor:innen. Was rechtlich zulässig ist, kann fürs Image also trotzdem heikel sein.

Das Wichtigste in Kürze

Wenn du KI als Werkzeug nutzt (Recherche, Brainstorming, Korrektur, Formulierungshilfe) und deine Texte selbst verantwortest, ändert sich für dich durch den AI Act voraussichtlich wenig. Bei fotorealistischen KI-generierten Bildern, besonders von Personen, solltest du kennzeichnen: sichtbar am Bild und zusätzlich nach den Regeln der jeweiligen Plattform, auf der das Bild erscheint. Bei künstlerischen Werken genügt eine dezente Offenlegung, etwa im Impressum. Und bei allem, was unklar ist, gilt: lieber einmal mehr fragen.

Dieser Artikel gibt den Stand von August 2026 wieder und ersetzt keine Rechtsberatung. Die Auslegung vieler Bestimmungen des AI Act ist noch im Fluss.

Quellen und weiterführende Links

Offizielle Quellen der EU:

• Verordnung (EU) 2024/1689 (KI-Verordnung / AI Act) im Volltext: https://eur-lex.europa.eu/legal-content/DE/TXT/?uri=CELEX:32024R1689
• EU-Icons zur Kennzeichnung von KI-generierten Inhalten (kostenlos nutzbar): https://digital-strategy.ec.europa.eu/de/policies/eu-icons-labelling-ai-generated-content
• Leitlinien und Verhaltenskodex der EU-Kommission zur Transparenz KI-generierter Inhalte: https://digital-strategy.ec.europa.eu/de/policies/regulatory-framework-ai

Zuständige Behörde in Deutschland:

• Bundesnetzagentur (zentrale Marktüberwachungsbehörde für den AI Act und Anlaufstelle für Beschwerden): https://www.bundesnetzagentur.de

Für Autor:innen besonders lesenswert:

IHK Köln: Transparenzpflichten nach der KI-Verordnung mit Praxisbeispielen: https://www.ihk.de/koeln/hauptnavigation/digitalisierung-und-innovation/digitalisierung/transparenzpflichten-nach-der-ki-verordnung-7100068jetzt wissen müssen.

VFLL-Blog: Transparenzpflichten durch den EU AI Act. Was bedeutet das für das Lektorat? https://lektorenverband.de/transparenzpflichten-eu-ai-act-lektorat/

Rechtsanwalt Dr. Thomas Schwenke: Praktischer Ratgeber zum AI Act 2026 mit ausführlichen FAQ: https://datenschutz-generator.de/ki-transparenz/