AI Act: Neue Transparenzpflichten ab dem 2. August

Ab dem 2. August gelten neue Transparenzpflichten des AI Acts der Europäischen Union. Betroffen sind unter anderem KI-Systeme zur Interaktion mit Menschen sowie KI-generierte Inhalte und Deepfakes. 

Mit dem AI Act hat die Europäische Union erstmals einen einheitlichen Rechtsrahmen für den Einsatz von Künstlicher Intelligenz geschaffen. Nach dem Inkrafttreten der Verordnung im Jahr 2024 werden die Regelungen schrittweise wirksam. Ein wichtiger Meilenstein ist der 2. August 2026: Dann werden die Transparenzpflichten des Artikels 50 AI Act anwendbar. Diese verpflichten Anbieter und Betreiber bestimmter KI-Systeme in definierten Anwendungsfällen zu Transparenz- und Offenlegungspflichten.

Ziel der Vorgaben ist es, Transparenz und Vertrauen beim Einsatz von Künstlicher Intelligenz zu stärken. Menschen sollen erkennen können, wann sie mit einer KI interagieren oder es mit KI-generierten bzw. KI-manipulierten Inhalten zu tun haben.

Welche Anwendungen und Inhalte sind betroffen?

Die neuen Transparenzpflichten gelten insbesondere für:

· KI-Systeme, die für die direkte Interaktion mit natürlichen Personen bestimmt sind,

· KI-Systeme zur Erzeugung synthetischer Audio-, Bild-, Video- oder Textinhalte,

· Systeme zur Emotionserkennung,

· Systeme zur biometrischen Kategorisierung,

· künstlich erzeugte oder manipulierte Bild-, Ton- oder Videoinhalte (Deepfakes) sowie

· bestimmte KI-generierte oder KI-manipulierte Textinhalte.

Welche Verpflichtungen sich daraus ergeben, hängt vom jeweiligen Anwendungsfall sowie von der Rolle des Unternehmens als Anbieter oder Betreiber eines KI-Systems ab.

Je nach Ausgestaltung können unter die Transparenzpflichten unter anderem folgende Anwendungsfälle fallen:

· KI-Chatbots auf Websites von Unternehmen

· KI-gestützte Kundenservice-Systeme

· Sprachassistenten und Voicebots

· KI-generierte Produktbilder

· Marketing- und Schulungsvideos mit KI-Avataren

· KI-generierte Sprachaufnahmen

· virtuelle Moderatoren und Avatare

· KI-generierte oder manipulierte Bild- und Videoinhalte

Hinweis: Ob für einen konkreten Anwendungsfall tatsächlich Transparenzpflichten bestehen, ist stets im Einzelfall anhand der Vorgaben des AI Acts zu prüfen.

Transparenz bei der Interaktion mit KI

Wer KI-Systeme für die direkte Interaktion mit Menschen bereitstellt, muss sicherstellen, dass Nutzer darüber informiert werden, dass sie mit einer KI kommunizieren. Dies gilt nicht, wenn dies aufgrund der Umstände und des Nutzungskontexts bereits offensichtlich ist.

In der Praxis kann dies beispielsweise Chatbots, virtuelle Assistenten oder vergleichbare Anwendungen betreffen.

KI-generierte Texte

Für bestimmte KI-generierte oder KI-manipulierte Texte sehen die neuen Regelungen ebenfalls Transparenzanforderungen vor. Betroffen sein können insbesondere Inhalte, die veröffentlicht werden und Informationen von öffentlichem Interesse betreffen.

Gleichzeitig sieht der AI Act verschiedene Ausnahmen vor. Dazu zählen insbesondere Fälle, in denen Inhalte einer menschlichen Überprüfung oder redaktionellen Kontrolle unterliegen und eine natürliche oder juristische Person die Verantwortung für den Inhalt übernimmt. 

Ob Transparenzpflichten bestehen, hängt daher stets von den konkreten Umständen des jeweiligen Anwendungsfalls ab.

KI-generierte Bilder, Videos und Audioinhalte

Für KI-generierte Bilder, Videos und Audioinhalte gelten besondere Transparenzvorgaben. Dabei ist zwischen den Pflichten von Anbietern und Betreibern zu unterscheiden. 

Anbieter entsprechender KI-Systeme müssen sicherstellen, dass erzeugte Inhalte in einem maschinenlesbaren Format gekennzeichnet und als künstlich erzeugt oder manipuliert erkennbar sind.

Für Unternehmen als Betreiber ist insbesondere relevant, wie KI-generierte oder KI-manipulierte Inhalte eingesetzt und veröffentlicht werden. Werden solche Inhalte gegenüber Kunden, Geschäftspartnern oder der Öffentlichkeit verwendet, sollten die einschlägigen Transparenz- und Offenlegungspflichten geprüft werden. Dies gilt insbesondere für Bild-, Audio- und Videoinhalte, die den Eindruck erwecken könnten, reale Personen, Stimmen oder Ereignisse authentisch abzubilden.

Praxisrelevant kann dies beispielsweise sein bei:

· Marketing- und Werbevideos mit KI-generierten Avataren,

· KI-generierten Sprecherstimmen,

· künstlich erzeugten oder veränderten Produkt- und Unternehmensbildern,

· Schulungs- oder Informationsvideos mit virtuellen Moderatoren,

· KI-generierten Audio- oder Videoinhalten für soziale Netzwerke oder Webseiten.

Diese Beispiele dienen lediglich der Veranschaulichung. Ob und welche Transparenzpflichten im Einzelfall bestehen, hängt von der konkreten Nutzung sowie den Vorgaben des AI Acts ab.

Besondere Anforderungen für Deepfakes

Für sogenannte Deepfakes gelten besondere Offenlegungspflichten. Dabei handelt es sich um Bild-, Ton- oder Videoinhalte, die

 mithilfe von KI erzeugt oder manipuliert wurden und echte Personen oder Ereignisse täuschend echt darstellen können.

Wer solche Inhalte veröffentlicht, muss grundsätzlich offenlegen, dass diese künstlich erzeugt oder manipuliert wurden. Der AI Act sieht hierfür bestimmte Ausnahmen vor, etwa in speziellen gesetzlich geregelten Konstellationen oder für bestimmte künstlerische, satirische oder vergleichbare Inhalte, sofern die erforderlichen Informationen in geeigneter Weise bereitgestellt werden.

Emotionserkennung und biometrische Kategorisierung

Auch beim Einsatz von Systemen zur Emotionserkennung oder biometrischen Kategorisierung bestehen besondere Informationspflichten. Betroffene Personen müssen über die Nutzung dieser Systeme informiert werden. Darüber hinaus sind die einschlägigen datenschutzrechtlichen Vorgaben zu beachten.

Diese Anwendungsfälle sind derzeit weniger verbreitet als generative KI-Anwendungen, werden jedoch ausdrücklich von den Transparenzvorgaben des AI Acts erfasst.

Was Unternehmen jetzt tun sollten

Unternehmen, die KI-Systeme einsetzen oder bereitstellen, sollten prüfen,

· welche KI-Anwendungen im Unternehmen genutzt werden,

· ob dabei Transparenzpflichten relevant sein können,

· welche Rolle das Unternehmen im jeweiligen Anwendungsfall einnimmt (Anbieter oder Betreiber),

· ob Informations- oder Offenlegungspflichten bestehen und

· welche organisatorischen Maßnahmen zur Umsetzung erforderlich sind. 

Insbesondere bei öffentlich zugänglichen KI-Anwendungen sowie bei der Veröffentlichung KI-generierter oder KI-manipulierter Inhalte empfiehlt sich eine frühzeitige Auseinandersetzung mit den neuen Anforderungen

Hinweise zur praktischen Umsetzung der Transparenzpflichten

Die in diesem Beitrag dargestellten Empfehlungen beziehen sich auf die Transparenzpflichten nach Artikel 50 des AI Acts sowie auf die von der Europäischen Kommission veröffentlichten Leitlinien zur praktischen Umsetzung dieser Vorgaben. Die Leitlinien sollen Unternehmen dabei unterstützen, die neuen Anforderungen im betrieblichen Alltag anzuwenden.

Gleichzeitig bestehen in einigen Bereichen weiterhin Auslegungs- und Umsetzungsfragen. Die Leitlinien liefern wichtige Orientierungshilfen, lassen jedoch noch Raum für Interpretation und praktische Konkretisierung. Aus Sicht der IHK-Organisation sind insbesondere verständliche, eindeutig abgrenzbare und anwendungsfreundliche Vorgaben wichtig, damit Unternehmen die Anforderungen rechtssicher und mit vertretbarem Aufwand umsetzen können.

Die Position der Deutschen Industrie- und Handelskammer (DIHK) zu den Leitlinien und deren praktischer Umsetzung finden Sie in der Stellungnahme „Transparenzpflichten nach Art. 50 KI-Verordnung anwendungsfreundlich gestalten“.