EU AI-Act: Transparenz- und Kennzeichnungspflichten ab 2. August

Der „EU AI-Act“ wird schrittweise wirksam und bringt neue Pflichten für Unternehmen mit sich. Bereits seit Februar 2025 gelten Vorgaben zu KI-Kompetenz im Unternehmen sowie Verbote bestimmter KI-Anwendungen. Ab 2. August 2026 treten nun die meisten übrigen Regelungen des AI-Act in Kraft, darunter insbesondere Transparenzpflichten für KI-generierte Inhalte und Interaktionen gemäß Artikel 50 des AI-Act(eur-lex.europa.eu). Ab diesem Tag werden bei Verstößen auch Bußgelder fällig, die in Deutschland durch die nationalen Aufsichtsbehördern durchgesetzt werden können.

Die neuen Vorgaben betreffen nicht nur die Anbieter (Entwickler) von KI-Tools, sondern ausdrücklich auch Betreiber – also zum Beispiel Unternehmen, die KI-Tools einsetzen.

Ab 2. August 2026 gelten neue Pflichten

• Information über Interaktionen mit KI (Art. 50, Abs. 1): Nutzer müssen informiert werden, wenn sie mit einer KI interagieren, beispielsweise über Chatbots, digitale Assistenten oder KI-generierte Antworten.
• Deepfake-Kennzeichnung (Art. 50, Abs. 4): KI-generierte oder wesentlich durch KI veränderte Bilder, Videos und Audioinhalte, die „echt“ erscheinen können (sogenannte „Deepfakes“) müssen als solche erkennbar gemacht werden. Die Kennzeichnung soll sowohl technisch (maschinenlesbar) als auch für Menschen nachvollziehbar erfolgen.
• Transparenz bei KI-generierten Texten „von öffentlichem Interesse“ (Art. 50, Abs. 4): Werden Texte, mit denen die Öffentlichkeit über Themen von öffentlichem Interesse informiert werden, mithilfe von KI erstellt, dann muss dies offengelegt werden. Dies ist aber nur der Fall, denn die Texte vollständig von einer KI erarbeitet werden. Übernimmt ein Mensch die redaktionelle Prüfung und ist dies erkennbar, entfällt die Kennzeichnungspflicht.
• Emotionserkennung und biometrische Kategorisierung (Art. 50, Abs. 3): Wenn KI-Systeme zur Erkennung von Emotionen und körperlichen Merkmalen eingesetzt werden, müssen betroffene Personen darüber informiert werden.

Bei Verstößen drohen Unternehmen empfindliche Bußgelder von bis zu 7 Prozent des Jahresumsatzes (nur bei schweren Verstößen gegen verbotene Praktiken). Für Verstöße gegen die neuen Transparenzregeln sind bie zu 15 Mio. Euro oder 3 Prozent des Jahresumsatzes vorgesehen. Gemäß Durchführungsgesetz zur KI-Verordnung wird die Bundesnetzagentur als zentrale KI-Aufsichtsbehörde diese Bußgelder durchsetzen. Die Bundesnetzagentur wird auch für den Aufbau von „KI-Reallaboren“ zuständig seind, in denen Unternehmen KI-Systeme unter Aufsicht testen können.

Die bereits seit 2025 geltenden Pflichten zu „Verbotenen KI-Praktiken“ (Art. 5) und zur „KI-Kompetenzpflicht“ (Art. 4) gelten natürlich weiterhin.

Welche Regelungen wurden verschoben

Anbieter generativer KI sollten ursprünglich ab 2. August digitale Wasserzeichen in KI-generierte Inhalte integrieren, diese Pflicht wurde aber auf Dezember 2026 verschoben.

Ebenfalls zum 2. August sollten auch neue Regelungen rund um Hochrisiko-KI wirksam werden, doch die EU hat diese per „Digital Omnibus“ auf Ende 2027 (Anhang III: Hochrisiko-KI-Systeme) bzw. Ende 2028 (Anhang I: In regulierte Produkte wie Fahrzeuge oder Medizingeräte eingebettete KI) verschoben.

Erleichterungen für KMU

Für kleine und mittlere Unternehmen (KMU) gelten geringere Anforderungen, beispielsweise eine vereinfachte Dokumentation von eingesetzten KI-Systemen, schnellerer und günstiger Zugang zu „KI-Reallaboren“,  „KI-Sankästen“