Künstliche Intelligenz ist längst im Unternehmensalltag angekommen und für die meisten kaum mehr wegzudenken. Sie erleichtert das Erstellen von Inhalten wie Texten und Bildern, unterstützt bei der Recherche und dem Sammeln von Ideen und kann darüber hinaus interne Prozesse durchaus effizienter gestalten. Damit einhergehend entstehen neue rechtliche und organisatorische Fragen.

Ab dem 2. August 2026 gelten neue Transparenzvorschriften des bereits 2024 in Kraft getretenen EU AI Acts. Das erste umfassende Regelwerk für künstliche Intelligenz innerhalb der Europäischen Union verpflichtet Unternehmen künftig in bestimmten Fällen dazu, den Einsatz von künstlicher Intelligenz offenzulegen.

Müssen künftig sämtliche KI-Inhalte gekennzeichnet werden? Wie wirkt sich die neue Regelung auf die Arbeit Ihres Unternehmens aus?

Darüber sprechen wir mit Patrick Jost, Geschäftsführer der Digital- und Webagentur Medianauten aus Offenburg und geschäftsführendem Vorstand des Marketing Clubs Ortenau.

Welche Rolle spielt künstliche Intelligenz inzwischen in Ihrem Arbeitsalltag?

Patrick Jost: KI ist inzwischen ein fester Bestandteil unserer Agenturarbeit. In kreativen Prozessen nutzen wir sie, um unsere eigenen Ideen und Konzepte weiterzuentwickeln, diese zu visualisieren oder erste Entwürfe für Texte und Kampagnen zu erstellen. Besonders bei der Entwicklung verschiedener Varianten hilft sie uns, Ansätze frühzeitig greifbar zu machen und effizienter zu arbeiten. Ebenso nutzen wir KI zur Bild- und Videogenerierung, um Inhalte individueller auf den jeweiligen Kunden und die konkrete Kampagne abzustimmen, statt auf austauschbares Stockmaterial zurückgreifen zu müssen.

Auch in der Webentwicklung unterstützt uns KI, etwa beim Erstellen und Prüfen von Code, bei der Fehlersuche und der Analyse technischer Zusammenhänge. So bleibt mehr Zeit für die individuelle Konzeption und die Qualität der Lösung.

Für uns ist KI aber immer ein Werkzeug und kein Ersatz für menschliche Kompetenz. Die Ergebnisse müssen geprüft, eingeordnet und weiterbearbeitet werden. Zudem benötigt man fundiertes Fachwissen, um die generierten Ergebnisse hinsichtlich Qualität und Best Practice einordnen zu können. Umso wichtiger ist es, im Umgang mit KI mündig zu bleiben und das eigene Denken, Bewerten und Entscheiden nicht zu verlernen. Strategie, Verantwortung und Qualitätskontrolle bleiben deshalb beim Menschen.

Ab dem 2. August 2026 treten die Transparenzvorschriften aus Artikel 50 des EU-AI Act in Kraft.

Welche Auswirkungen werden sie auf Unternehmen haben? Was ändert sich?

Patrick Jost: Ab diesem Zeitpunkt gelten für bestimmte KI-Anwendungen und KI-generierte Inhalte neue Informations- und Kennzeichnungspflichten. So muss beispielsweise erkennbar sein, wenn Nutzer mit einem KI-System wie einem Chatbot interagieren. Auch täuschend echt erzeugte oder manipulierte Bild-, Audio- und Videoinhalte können offengelegt werden müssen. Bei KI-generierten Texten gilt dies insbesondere dann, wenn sie die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Wurden solche Texte jedoch menschlich geprüft, redaktionell kontrolliert und von einer Person oder Organisation verantwortet, entfällt die Offenlegungspflicht nach Artikel 50.

Für Unternehmen bedeutet das konkret: Sie müssen ihre KI-Anwendungen erfassen, prüfen, welche Transparenzpflichten greifen, und entsprechende Hinweise in ihre bestehenden Prozesse und Veröffentlichungen integrieren.

Müssen Unternehmen ab diesem Zeitpunkt alle KI-generierten Texte und Bilder kennzeichnen?

Patrick Jost: Nein. Eine allgemeine Kennzeichnungspflicht für sämtliche KI-Inhalte gibt es nicht. Bei Texten sind vor allem Beiträge relevant, die die Öffentlichkeit über Angelegenheiten von öffentlichem Interesse informieren. Zudem entfällt die Kennzeichnungspflicht, sofern ein menschlicher Redakteur den Text verändert oder inhaltlich abgenommen hat und für dessen Korrektheit die Verantwortung übernimmt.

Bei Bildern, Audio- und Videoinhalten kommt es insbesondere darauf an, ob sie realistisch wirken und dadurch fälschlicherweise für authentisch gehalten werden könnten. Rein illustrative oder offensichtlich fiktive Darstellungen fallen nicht automatisch darunter.

Können Sie ein konkretes Beispiel nennen?

Patrick Jost: Ein kennzeichnungspflichtiger Fall könnte ein fotorealistisches KI-Bild sein, das ein Firmengebäude, eine Veranstaltung oder eine reale Person in einer Situation zeigt, die so nie stattgefunden hat. Auch eine manipulierte Produktpräsentation kann beim Publikum einen falschen Eindruck erwecken.

Anders ist es bei einer klar erkennbaren Illustration, einem Icon oder einer grafisch gestalteten Werbedarstellung. Derartige Inhalte geben in der Regel nicht vor, eine reale Situation abzubilden.

Was bedeutet das für klassische Unternehmenskommunikation und Werbung?

Patrick Jost: Für die klassische Werbung bleibt der Einsatz von KI grundsätzlich weiterhin möglich. Ein mit KI unterstützter Werbetext, eine Produktbeschreibung oder eine klar erkennbare Illustration muss nicht automatisch gekennzeichnet werden.

Für Unternehmen kommt es vielmehr darauf an, den Einsatz nachvollziehbar zu gestalten und insbesondere dort transparent zu sein, wo künstlich erzeugte Inhalte wie reale Darstellungen wirken oder beim Publikum einen falschen Eindruck erwecken und dieses in die Irre führen könnten.

Wie könnte eine solche Kennzeichnung aussehen?

Patrick Jost: Hier gibt es bislang lediglich eine Leitlinie, an welcher wir unseren Kunden empfehlen, sich zu orientieren. Die Kennzeichnung sollte klar, verständlich und dem jeweiligen Inhalt eindeutig zugeordnet sein. Bei einem Bild sollte beispielsweise ein Vermerk wie „mit KI erstellt“ auf dem Bild selbst genügen, bei einem Video hingegen muss der Hinweis direkt zu Beginn des Videos eingeblendet werden und nach einer Unterbrechung ebenfalls nochmals wiederholt werden. Bei Texten kann die Information am Ende des Beitrags stehen, sofern klar erkennbar ist, welcher Textpassage sie zugeordnet ist. Im Fall reiner Audioinhalte sollte zu Beginn ein klarer Disclaimer integriert werden. Hier wird es spannend sein zu sehen, wie Streaminganbieter und Rundfunkanstalten diese Vorgabe umsetzen werden.

Handelt es sich um ein künstlerisches, kreatives, satirisches oder fiktionales Werk, das kennzeichnungspflichtige KI-Inhalte enthält, darf die Offenlegung zurückhaltender erfolgen. Sie muss zwar vorhanden sein, soll die Gestaltung oder den Genuss des Werks aber nicht beeinträchtigen, etwa durch einen dezenten Hinweis im Abspann, in der Beschreibung oder an anderer geeigneter Stelle.

Wer trägt am Ende die Verantwortung dafür, dass ein KI-Inhalt korrekt gekennzeichnet wird?

Patrick Jost: Das hängt davon ab, welche Rolle das jeweilige Unternehmen einnimmt. Der Anbieter eines KI-Systems ist für die technischen Transparenzvorgaben verantwortlich. Etwa dafür, dass generierte Inhalte maschinenlesbar gekennzeichnet werden können. Wer das System einsetzt und einen kennzeichnungspflichtigen Inhalt veröffentlicht, muss dagegen für die sichtbare Offenlegung gegenüber den Nutzern sorgen.

In der Zusammenarbeit zwischen Unternehmen und Agentur sollte deshalb klar geregelt sein, wer den KI-Einsatz dokumentiert, die Kennzeichnung prüft und sie bei der Veröffentlichung umsetzt.

Was droht Unternehmen, die gegen die neuen Transparenzpflichten verstoßen?

Patrick Jost: Der AI Act sieht ein gestaffeltes Sanktionssystem vor. Verstöße gegen die Transparenzpflichten aus Artikel 50 können mit Bußgeldern von bis zu 15 Millionen Euro oder drei Prozent des weltweiten Jahresumsatzes geahndet werden – je nachdem, welcher Betrag höher ist. Bei kleinen und mittleren Unternehmen gilt der jeweils niedrigere Betrag, zudem soll deren wirtschaftliche Leistungsfähigkeit berücksichtigt werden.

Man muss aber ehrlich sagen: Solche Maximalbeträge werden vor allem bei schwerwiegenden oder wiederholten Verstößen relevant. Ich rechne nicht damit, dass ab dem Stichtag flächendeckend Bußgelder verhängt werden. Wer sich mit dem Thema jedoch gar nicht auseinandersetzt, geht ein unnötiges Risiko ein. Denn neben möglichen Bußgeldern drohen auch Reputationsschäden – und die wiegen gerade beim Thema Täuschung oft schwerer als die Strafe selbst.

Was sollten Unternehmen jetzt konkret tun?

Patrick Jost: Der erste Schritt ist eine Bestandsaufnahme: Wo wird im Unternehmen bereits KI eingesetzt? Das ist oft mehr, als man denkt. Darauf aufbauend sollte geprüft werden, welche Inhalte und Anwendungen unter die neuen Transparenzpflichten fallen und wer im Unternehmen für Kennzeichnung und Dokumentation verantwortlich ist. Sinnvoll ist es, diese Regeln in einer internen KI-Richtlinie festzuhalten.

Was viele übrigens nicht wissen: Bereits seit Februar 2025 verpflichtet der AI Act Unternehmen dazu, dass Mitarbeiter, die mit KI arbeiten, über ausreichende KI-Kompetenz verfügen. Wer heute noch keine Schulungen oder klaren Regeln für den KI-Einsatz hat, ist genau genommen also schon jetzt im Verzug – nicht erst ab August.

Aus unserer täglichen Arbeit wissen wir, dass die wenigsten Unternehmen dafür eigene Fachleute im Haus haben. Das ist auch nicht nötig. Wichtig ist, sich frühzeitig einen Überblick zu verschaffen und sich bei Bedarf Unterstützung zu holen – sei es beim Aufbau der internen Richtlinien, bei der Schulung der Mitarbeiter oder bei der Frage, wie sich KI sinnvoll und rechtssicher in die eigenen Prozesse integrieren lässt. Genau an dieser Schnittstelle zwischen Technologie, Kommunikation und Praxis arbeiten wir als Agentur jeden Tag.

Für Unternehmen bedeuten die neuen Transparenzpflichten zunächst mehr Aufwand. Der Gesetzgeber verspricht sich davon jedoch mehr Klarheit und Schutz vor Täuschung. Ist diese Regulierung aus Ihrer Sicht der richtige Weg?

Patrick Jost: Mit der fortschreitenden Leistungsfähigkeit von KI-Systemen wird es immer schwerer, künstlich erzeugte Inhalte von echten zu unterscheiden. Menschen, die im Umgang mit KI weniger geübt sind, können diese Unterschiede häufig kaum noch erkennen und werden so oft in die Irre geführt.

Aus diesem Grund halte ich eine Kennzeichnung in diesen Fällen für sinnvoll. Sie schafft Transparenz und schützt davor, künstlich erzeugte Inhalte oder manipulierte Darstellungen von Ereignissen für real zu halten. Wichtig ist nur, dass die Regelungen in einem sinnvollen Rahmen bleiben und nicht jede kleine KI-Unterstützung kennzeichnungspflichtig wird.