Kennzeichnungspflicht für KI-Inhalte – Art. 50 KI-VO

Mit der zunehmenden Digitalisierung ist Künstliche Intelligenz (KI) nicht mehr wegzudenken. Immer mehr Unternehmen nutzen KI-generierte Inhalte und es kommen stetig mehr Tools auf den Markt, die immer einfacher zu bedienen sind und qualitativ hochwertige Inhalte erstellen. Dadurch ist oft nicht mehr erkennbar, ob der Inhalt von einer KI oder von einem Menschen erstellt wurde. Um für mehr Transparenz auf dem Markt zu sorgen gibt es jetzt die KI-Verordnung, die ab August 2026 in Kraft tritt. Doch wie sieht es mit der Kennzeichnungspflicht aus? Wann müssen Inhalte, die mithilfe von KI-Systemen verfasst wurden, als solche gekennzeichnet werden?

Ab August 2026 gilt die Pflicht zur Kennzeichnung von KI-Inhalten für Anbieter und Betreiber. Wer sich nicht daran hält und KI-Inhalte nicht als solche kennzeichnet, drohen Bußgelder bis zu 15 Mio. oder 3% des Jahresumsatzes. Zudem muss das Unternehmen mit einem Vertrauensverlust seitens seiner Kunden rechnen.

Als Anbieter gelten Unternehmen oder Personen, die ein KI-System oder ein KI-Modell entwickelt oder entwickeln lässt. Betreiber sind natürliche oder juristische Personen, Behörden, Einrichtungen oder sonstige Stellen, die ein KI-System in eigener Verantwortung verwenden. Es muss sich dabei jedoch um eine berufliche Tätigkeit handeln. Doch ab wann unterliegen KI-Inhalt einer Kennzeichnungspflicht?

In Artikel 50 der KI-Verordnung wird hierfür der Rahmen gesetzt. KI generierte Inhalte werden wie folgt unterschieden:

Die Erstellung von Inhalten durch ein KI-System, sodass der Eindruck entsteht, der Beitrag sei ausschließlich von einem Menschen verfasst worden, unterliegt grundsätzlich der Kennzeichnungspflicht.

Für die Kennzeichnungspflicht ist also entscheidend, ob die KI nur als Hilfsmittel genutzt wird oder der Inhalt maßgeblich durch die KI erstellt wurde. Wenn die KI z.B. einen Textentwurf erstellt, dieser Text von einem Menschen nur geringfügig verändert wird, ist eine Kennzeichnungspflicht erforderlich, weil für den Leser der Eindruck entstehen könnte, ein Mensch habe ihn verfasst. Ziel dieser Regelungen ist es, die Transparenz im digitalen Informationsaustausch zu fördern und gleichzeitig den kreativen Einsatz von KI in Prozessen angemessen zu berücksichtigen.

Gemäß Artikel 50 KI-VO müssen KI-Anbieter wie z.B. OpenAI, Meta oder die Entwickler von ChatGPT sorgen, dass die erstellten Inhalte als solches markiert werden. Die Kennzeichnung kann unsichtbar mit z.B. Wasserzeichen erfolgen. Diese sind nicht erkennbar aber maschinell nachweisbar und Unternehmen sollten drauf achten, dass diese unsichtbare Kennzeichnung erhalten bleibt, um die gesetzlichen Anforderungen zu erfüllen.

Die Kennzeichnungspflicht für KI-Inhalte soll für mehr Transparenz im digitalen Raum sorgen. Ab August 2026 sind Anbieter und Betreiber von KI-Systemen dazu verpflichtet, klar zu kennzeichnen, wenn Inhalte maßgeblich durch KI erstellt wurden. Verstöße können hohe Bußgelder nach sich ziehen.

Die Regelungen der KI-Verordnung unterscheiden dabei zwischen vollständig KI-generierten Inhalten, unterstützender Nutzung durch den Menschen und rein internen Anwendungen. Inhalte müssen immer dann als KI-generiert gekennzeichnet werden, wenn die KI in wesentlichem Maße zur Erstellung des Inhalts beiträgt und keine ausreichende menschliche Kontrolle und Einflussnahme erfolgt. Eine klare Vorgabe ab wann die Ausnahmen gemäß Artikel 50 KI-VO greifen und die Kennzeichnungspflicht nicht notwendig ist, bedarf noch weitere Klärung. Allgemein gilt, wenn die KI allein oder maßgeblich den Inhalt erstellt, ist eine Kennzeichnungspflicht gemäß Artikel 50 KI-VO notwendig.

Mit z.B. Wasserzeichen soll die Erkennbarkeit von KI-Inhalten gewährleistet werden. Unternehmen sollten sich frühzeitig mit den Anforderungen auseinanderzusetzen, um sowohl rechtliche Vorgaben zu erfüllen als auch das Vertrauen ihrer Zielgruppen zu sichern.