Kennzeichnungspflicht für KI-Inhalte – Art. 50 KI-VO

Mit der zunehmenden Digitalisierung ist Künstliche Intelligenz (KI) nicht mehr wegzudenken. Immer mehr Unternehmen nutzen KI-generierte Inhalte und es kommen stetig mehr Tools auf den Markt, die immer einfacher zu bedienen sind und qualitativ hochwertige Inhalte erstellen. Dadurch ist oft nicht mehr erkennbar, ob der Inhalt von einer KI oder von einem Menschen erstellt wurde. Um für mehr Transparenz auf dem Markt zu sorgen gibt es jetzt die KI-Verordnung, die ab August 2026 in Kraft tritt. Doch wie sieht es mit der Kennzeichnungspflicht aus? Wann müssen Inhalte, die mithilfe von KI-Systemen verfasst wurden, als solche gekennzeichnet werden?

Ab August 2026 gilt die Pflicht zur Kennzeichnung von KI-Inhalten für Anbieter und Betreiber. Wer sich nicht daran hält und KI-Inhalte nicht als solche kennzeichnet, drohen Bußgelder bis zu 15 Mio. oder 3% des Jahresumsatzes. Zudem muss das Unternehmen mit einem Vertrauensverlust seitens seiner Kunden rechnen.

Als Anbieter gelten Unternehmen oder Personen, die ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt. Betreiber sind natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System in eigener Verantwortung verwenden. Es muss sich dabei jedoch um eine berufliche Tätigkeit handeln. Doch ab wann unterliegen KI-Inhalt einer Kennzeichnungspflicht?

In Artikel 50 der KI-Verordnung wird hierfür der Rahmen gesetzt. KI generierte Inhalte werden wie folgt unterschieden:

Die Erstellung von Inhalten durch ein KI-System, sodass der Eindruck entsteht, der Beitrag sei ausschließlich von einem Menschen verfasst worden, unterliegt grundsätzlich der Kennzeichnungspflicht.

Für die Kennzeichnungspflicht ist also entscheidend, ob die KI nur als Hilfsmittel genutzt wird oder der Inhalt maßgeblich durch die KI erstellt wurde. Wenn die KI z.B. einen Textentwurf erstellt, dieser Text von einem Menschen nur geringfügig verändert wird, ist eine Kennzeichnungspflicht erforderlich, weil für den Leser der Eindruck entstehen könnte, ein Mensch habe ihn verfasst. Ziel dieser Regelungen ist es, die Transparenz im digitalen Informationsaustausch zu fördern und gleichzeitig den kreativen Einsatz von KI in Prozessen angemessen zu berücksichtigen.

Schatten-KI passiert schneller, als man denkt: Ein Chatbot hier, ein Bild-Tool dort – und plötzlich werden Inhalte erstellt, Entscheidungen vorbereitet oder Daten verarbeitet, ohne dass klar ist, wo KI drinsteckt und wer dafür verantwortlich ist. Genau hier setzt die KI-Kennzeichnungspflicht an: Unternehmen müssen nachvollziehbar machen, wenn KI Inhalte erzeugt oder wesentlich beeinflusst – und das so, dass es intern wie extern sauber dokumentiert, kommuniziert und geprüft werden kann.

Damit Kennzeichnung nicht zur reinen Pflichtübung wird, braucht es klare Zuständigkeiten, Regeln und Prozesse. Kurz: eine Person, die KI-Einsatz steuert, absichert und prüffähig macht.

Die Kennzeichnungspflicht ist nicht nur ein Label am Ende eines Textes. Sie hängt zusammen mit Fragen wie:

• Welche Tools dürfen Mitarbeitende nutzen – und wofür?
• Wie werden KI-Use-Cases bewertet (Risiken, Daten, Transparenz, Nachvollziehbarkeit)?
• Welche Vorgaben gelten aus der EU-KI-Verordnung (AI Act / KI-VO) – und wie setzt man sie praktisch um?
• Wie verhindert man unkontrollierten KI-Einsatz („Shadow AI“) und schafft gleichzeitig sichere Freiräume?

Wer das im Unternehmen sauber aufsetzt, sorgt dafür, dass KI-Nutzung konform, transparent und auditfest wird – und dass Kennzeichnung dort erfolgt, wo sie wirklich erforderlich ist.

Genau dafür haben wir eine praxisnahe Lösung: In unserer Live-Online Ausbildung wirst du zum KI-Beauftragten (DEKRA) und zertifizierten AI Officer – als zentrale Ansprechperson für KI-Governance, KI-Compliance und die EU-KI-Verordnung (AI Act / KI-VO).

Du lernst unter anderem:

• KI-Use-Cases sicher zu bewerten (inkl. Risiken und Pflichten rund um Transparenz/Kennzeichnung)
• klare Richtlinien & Prozesse gegen unkontrollierten KI-Einsatz zu etablieren
• KI-Kompetenz im Unternehmen nachweisbar aufzubauen und dokumentierbar zu machen
• inklusive intensiver Prüfungsvorbereitung und DEKRA-Zertifikat

So wird aus „Wir müssten eigentlich kennzeichnen …“ ein belastbares System, das Mitarbeitende verstehen und das im Zweifel auch einer Prüfung standhält.

Gemäß Artikel 50 KI-VO müssen KI-Anbieter wie z.B. OpenAI, Meta oder die Entwickler von ChatGPT sorgen, dass die erstellten Inhalte als solches markiert werden. Die Kennzeichnung kann unsichtbar mit z.B. Wasserzeichen erfolgen. Diese sind nicht erkennbar aber maschinell nachweisbar und Unternehmen sollten drauf achten, dass diese unsichtbare Kennzeichnung erhalten bleibt, um die gesetzlichen Anforderungen zu erfüllen.

Die Kennzeichnungspflicht für KI-Inhalte soll für mehr Transparenz im digitalen Raum sorgen. Ab August 2026 sind Anbieter und Betreiber von KI-Systemen dazu verpflichtet, klar zu kennzeichnen, wenn Inhalte maßgeblich durch KI erstellt wurden. Verstöße können hohe Bußgelder nach sich ziehen.

Die Regelungen der KI-Verordnung unterscheiden dabei zwischen vollständig KI-generierten Inhalten, unterstützender Nutzung durch den Menschen und rein internen Anwendungen. Inhalte müssen immer dann als KI-generiert gekennzeichnet werden, wenn die KI in wesentlichem Maße zur Erstellung des Inhalts beiträgt und keine ausreichende menschliche Kontrolle und Einflussnahme erfolgt. Eine klare Vorgabe ab wann die Ausnahmen gemäß Artikel 50 KI-VO greifen und die Kennzeichnungspflicht nicht notwendig ist, bedarf noch weitere Klärung. Allgemein gilt, wenn die KI allein oder maßgeblich den Inhalt erstellt, ist eine Kennzeichnungspflicht gemäß Artikel 50 KI-VO notwendig.

Mit z.B. Wasserzeichen soll die Erkennbarkeit von KI-Inhalten gewährleistet werden. Unternehmen sollten sich frühzeitig mit den Anforderungen auseinanderzusetzen, um sowohl rechtliche Vorgaben zu erfüllen als auch das Vertrauen ihrer Zielgruppen zu sichern.