Von Redaktion, Fotos: HHN

Seit dem 2. August gelten mit Artikel 50 der europäischen KI-Verordnung neue Transparenzpflichten. Die Kennzeichnungspflicht nach dem AI Act trifft nicht nur Anbieter, sondern auch Unternehmen, die KI im eigenen Betrieb nutzen. Christine Monsch, Professorin für Wirtschaftsrecht an der Hochschule Heilbronn, ordnet die Regeln ein. Nicht jeder KI-Inhalt muss markiert werden.

Muss jetzt alles gekennzeichnet werden, was mit KI entstanden ist? Viele Unternehmen nehmen das pauschal an. Die Antwort fällt jedoch differenzierter aus.

Christine Monsch lehrt Wirtschaftsrecht an der Fakultät Management und Vertrieb der Hochschule Heilbronn (HHN). In einem Beitrag der Hochschule erläutert sie, welche Anforderungen der AI Act tatsächlich stellt.

Was sich seit dem 2. August geändert hat

Auf EU-Ebene gab es bislang keine konkrete Pflicht, den Einsatz von KI offenzulegen. Durch Artikel 50 des AI Act hat sich das geändert. Erstmals regelt eine Vorschrift detailliert, in welchen Fällen der Einsatz einer KI kenntlich gemacht werden muss.

Ein Beispiel nennt Monsch direkt. Ein Chatbot im Kundenservice müsse spätestens zu Beginn der Interaktion offenlegen, dass eine KI antworte und keine natürliche Person.

Kennzeichnungspflicht nach dem AI Act: Wer überhaupt betroffen ist

Zunächst geht es um die Frage, wen die Pflicht trifft. Betroffen sind nicht nur Unternehmen, die KI-Systeme entwickeln. Diese gelten als Anbieter.

Ebenso betroffen sind Unternehmen, die KI-Systeme im eigenen Betrieb geschäftlich nutzen. Sie gelten als Betreiber, etwa im Marketing oder im Kundenservice. Damit ist die Frage nach den Transparenzpflichten aber noch nicht beantwortet.

Denn entscheidend sei auch, welche Art von KI-generierten Inhalten vorliege, so Monsch. Für Personen, die KI ausschließlich privat nutzen, ändert sich dagegen nichts. Sie sind vom AI Act nicht betroffen.

Bild und Video: Es geht um Deepfakes

Bei Bild- und Videoaufnahmen zielt die Regelung vor allem auf Deepfakes. Damit sind künstlich erzeugte oder bearbeitete Inhalte gemeint, die wie eine echte Aufnahme wirken.

Ein Beispiel aus dem Marketing macht das deutlich. Wer ein reales Produkt fotorealistisch in eine komplett KI-generierte Umgebung setzt, erzeugt laut Monsch einen Deepfake. Dieser müsse entsprechend gekennzeichnet werden.

Klassische Bildbearbeitung fällt dagegen nicht darunter. Anpassungen von Kontrast oder Schärfe seien regelmäßig nicht als Deepfake einzuordnen. Sie bleiben damit weiterhin ohne Kennzeichnung möglich.

Texte: Es kommt auf den Zweck an

Bei KI-generierten Texten stellt sich eine andere Frage. Entscheidend sei, ob ein Text die Öffentlichkeit über Themen von öffentlichem Interesse informieren solle. Gemeint sind etwa gesellschaftlich relevante Entwicklungen in Wirtschaft oder Politik.

Trifft das nicht zu, besteht grundsätzlich keine Kennzeichnungspflicht. Marketingtexte werden deshalb regelmäßig auch künftig ohne ausdrückliche Kennzeichnung möglich sein.

Hinzu kommt eine weitere Ausnahme. Die Pflicht entfällt immer dann, wenn ein Mensch den Text überprüft hat. Voraussetzung ist, dass eine natürliche oder juristische Person die redaktionelle Verantwortung trägt.

Was Unternehmen jetzt tun sollten

Die eigentliche Arbeit beginne für die meisten Unternehmen nicht bei der Kennzeichnung, so Monsch. Zuerst stehe die Bestandsaufnahme an, wo im Betrieb überhaupt KI eingesetzt wird.

Für die Kennzeichnung selbst hat die EU eine Reihe von Symbolen entwickelt. Diese sind frei verfügbar und können entsprechend genutzt werden. Wichtig sei außerdem, die Abläufe zu dokumentieren, damit sich die Einhaltung im Zweifel belegen lässt.

»Der AI Act wird damit zu einer neuen Compliance-Aufgabe, die quer durch viele Unternehmensabteilungen gehen wird«, sagte Monsch im Beitrag der HHN.