Stell dir vor, du kaufst dir einen Erdbeer-Smoothie. Er sieht köstlich aus, und die Verpackung suggeriert dir, dass er gesund, natürlich und voller Vitamine ist. Zuhause liest du das Kleingedruckte und erschreckst: Er ist voll künstlicher Aromen, Zusatzstoffe und ohne echten Fruchtanteil.
Du bist sauer und fühlst dich betrogen. So etwas trinkst du nicht. Aber jetzt stell dir vor, die Liste mit den Zutaten würde auch noch fehlen. Als Konsument wüsstest du nicht mehr, was du da eigentlich konsumierst. Unvorstellbar, oder?
Genau deshalb verlangt der AI Act, dass synthetische Medien – so nennt man Inhalte, die von der KI erstellt wurden – klar und deutlich gekennzeichnet werden. Damit Konsumenten wissen, was ihnen serviert wird. Und das gilt sowohl im Web als auch in gedruckter Form. Aber der Reihe nach.
Inhaltsverzeichnis
KI-Inhalte sind gekommen, um zu bleiben. Wir zeigen dir, wie du sie richtig kennzeichnest!
- Welche KI-generierten Medien sind kennzeichnungspflichtig?
- Sind Bildmontagen aus echten Fotos und KI-Inhalten kennzeichnungspflichtig?
- Sind durch die KI retuschierte Fotos / Portraits kennzeichnungspflichtig?
- Ab wann spricht der AI Act von einem Deepfake?
- Wen betrifft die KI Kennzeichnungspflicht?
- Wo und wie hat die KI-Kennzeichnung zu erfolgen?
- KI-Kennzeichnungspflicht auf einen Blick
- Fazit: Transparenz als Qualitätsmerkmal
Welche KI-generierten Medien sind kennzeichnungspflichtig?
Die Grundregel ist schnell erklärt: Sobald du einen Inhalt – egal ob Text, Bild, Video oder Audio – mithilfe einer Künstlichen Intelligenz erstellst, ist er prinzipiell kennzeichnungspflichtig.
Künstlich erstellte Medien werden auch synthetischen Medien genannt. Von dieser Grundregel gibt es einige Ausnahmen:
- Texte müssen nur dann gekennzeichnet werden, wenn sie synthetisch erstellt und automatisiert veröffentlicht werden – zum Beispiel durch einen KI Agenten. Ein Text, der durch eine KI erstellt, aber von einem Menschen kontrolliert, veröffentlicht und verantwortet wird, muss nicht gekennzeichnet werden.
- Darstellungen, die nicht täuschend echt aussehen, müssen nicht gekennzeichnet werden. Das wäre zum Beispiel ein Bild, das einen Hund zeigt, der genüßlich einen Cocktail am Mars trinkt.
- Inhalte, die nur betriebsintern genutzt werden – zum Beispiel für Schulungszwecke – müssen nicht gekennzeichnet werden.
Dennoch empfehlen wir, sämtliche Inhalte, die mithilfe von Künstlicher Intelligenz erstellt wurden, zu kennzeichnen.
Sind Bildmontagen aus echten Fotos und KI-Inhalten kennzeichnungspflichtig?
Ja, KI-gestützte Bildmontagen sind kennzeichnungspflichtig.
Nehmen wir an, du fotografierst euren Firmensitz und fügst mittels KI einen strahlend blauen Himmel und lachende Menschen im Vordergrund ein. Das Firmengebäude ist real, Himmel und Menschen sind künstlich geschaffen. Auch solche Montagen müssen gekennzeichnet werden.
Der Gesetzgeber sagt: Sobald KI-generierte Elemente den Gesamteindruck des Bildes verändern oder die Realität verfälschen, müssen sie gekennzeichnet werden.
Sind durch die KI retuschierte Fotos / Portraits kennzeichnungspflichtig?
Nein, solange die Person noch erkennbar ist.
Das Aufhübschen deines Portraits – zB durch das Glätten von Hautpartien, das Aufhellen der Zähne oder das entfernen von Pickeln – fällt rechtlich unter den Begriff der digitalen Bildoptimierung (auch als KI-gestützte Retusche bezeichnet).
Mit dem AI Act will der Gesetzgeber verhindern, dass Leser durch synthetische Medien getäuscht werden. Das bedeutet: Solange die Person auf dem Portrait noch erkennbar ist, sind KI-gestützte Bearbeitungen nicht kennzeichnungspflichtig. Immerhin ist das spätestens seit Photoshop ohnehin gängige Praxis.
Geht die Bearbeitung allerdings so weit, dass das Gesicht so stark verändert wird, dass die Person nicht mehr erkennbar ist, muss dass Bild gekennzeichnet werden.
Ab wann spricht der AI Act von einem Deepfake?
Der Begriff Deep Fake setzt sich aus den Begriffen „Deep Learning“ (dem maschinellen, tiefgehenden Lernen von Computern) und „Fake“ (Fälschung) zusammen.
Ein Deepfake liegt dann vor, wenn existierenden Personen Handlungen, Gesichter und/oder Stimmen täuschend echt zugeschrieben werden, die sie nie getätigt haben.
Auch wenn solche Deepfakes nicht per se verboten sind, sollte man sich dennoch bewusst sein, dass man sich hier schnell strafbar machen kann.
Deepfakes sind in jedem Fall zu kennzeichnen!
Wen betrifft die KI Kennzeichnungspflicht?
Die KI Kennzeichnungspflicht gilt für alle Akteure, die im Internet geschäftlich oder professionell auftreten.
Es spielt absolut keine Rolle, ob es sich um einen Einzelunternehmer oder einen Großkonzern handelt. Sobald eine kommerzielle Absicht dahintersteckt, bist du an die Regeln gebunden.
Privatpersonen mit rein privaten Blogs sind von der strengen Transparenzregel ausgenommen. Aber Vorsicht: Die Grenze zur Öffentlichkeit ist fließend. Sobald ein privater Blog eine hohe Reichweite erzielt oder gar Werbeeinnahmen generiert, gilt er als professionell.
Deepfakes müssen immer gekennzeichnet werden!
Wo und wie hat die KI-Kennzeichnung zu erfolgen?
Vorweg: Ein allgemeiner und versteckter Satz im Impressum wie „Diese Website verwendet teilweise KI-generierte Bilder“ ist rechtlich nicht ausreichend.
Die Kennzeichnung muss unmittelbar am betroffenen Inhalt erfolgen. Entweder durch eine klassische Bildunterschrift oder durch ein sichtbares Wasserzeichen im Bild.
Zusätzlich muss diese Information in den Metadaten der Datei hinterlegt sein. Die meisten KI Bildgeneratoren legen diese Information in den Metadaten ab oder speichern sie direkt als unsichtbares Wasserzeichen im Bild.
Hier ist zum Beispiel der C2PA-Standard (Coalition for Content Provenance and Authenticity) zu nennen. C2PA ist ein offener Standard für digitale Herkunftsnachweise und als kryptographisches Wasserzeichen verankert.
Mit diesem Online-Tool kann man Bilder per Drag-and-Drop auf ihre KI-Herkunft untersuchen.
KI-Kennzeichnungspflicht auf einen Blick
Überblick über die relevantesten Medien und ihre Kennzeichnungspflicht nach dem EU AI Act.
| Medientyp | Kennzeichnungspflicht | Anmerkung |
|---|---|---|
| KI Text | Nein | Solange ein Mensch die KI-Texte kontrolliert, veröffentlicht und verantwortet |
| KI Bild | Ja | Außer das KI-Bild ist offensichtlich Fiktion (zB Hund am Mars trinkt Cocktail) |
| KI Illustration | Nein | KI-Illustrationen bilden nicht die Realität ab |
| Mixed Media (KI + Foto) | Ja | KI-Bildmontagen spiegeln nicht die Realität wieder |
| KI Portrait-Retusche | Nein | Solange es sich bei der KI-Retusche um kosmetische Korrekturen handelt |
| KI Video | Ja | Außer das KI-Video ist offensichtlich Fiktion |
| KI Audio | Ja | Bei KI-Audio ist es fast unmöglich, zwischen Realität und Fiktion zu unterscheiden |
| Deepfake | Ja | Erfordert höchste Transparenz; kann rechtliche Schritte nach sich ziehen; wir raten dringend davon ab! |
Fazit: Transparenz als Qualitätsmerkmal
Synthetische Medien sind in unserem Alltag angekommen – und sie sind gekommen, um zu bleiben. Also machen wir uns nichts vor:
Der Einsatz von KI ist allgegenwärtig und die meisten Menschen haben schon einmal Inhalte mithilfe der KI erstellt.
Wenn wir alle fair spielen und die Transparenzpflichten respektieren, profitieren wir alle von den großartigen technologischen Möglichkeiten, die uns die KI bietet. Es wird im Zweifelsfall immer ehrlicher und besser sein, einen Inhalt zu kennzeichnen, anstatt unnötig ein Risiko einzugehen.
Die meisten KI generierten Bilder tragen ohnedies ein unsichtbares Wasserzeichen, welches mit Hilfe einer speziellen Software ausgelesen werden kann. Es ist davon auszugehen, dass Web-Crawler in Zukunft automatisiert Webseiten nach KI-Inhalten und der zugehörigen Kennzeichnung absuchen – und diejenigen strafen, die sich nicht an die Kennzeichnungspflicht halten.
Deshalb unsere klare Empfehlung an alle: Lieber großzügig der KI Kennzeichnungspflicht nachkommen, anstatt es später zu bereuen.
Folgender Artikel könnte Sie auch interessieren:
SEO für KI – 20 Fragen und Antworten zu Generative Engine Optimization5 (1)
Fast drei Jahrzehnte lang war Platz 1 bei Google das Non-Plus-Ultra im Online Marketing. KI Chatbots und KI Suchmaschinen ändern dieses Paradigma. Sichtbarkeit erfordert heute nicht nur SEO, sondern auch GEO.
