Internetrecht | Recht des E-Commerce

Der „EU AI Act“ wird schrittweise wirksam und bringt neue Pflichten für Unternehmen mit sich. Bereits seit Februar 2025 gelten Vorgaben zu KI-Kompetenz im Unternehmen sowie Verbote bestimmter KI-Anwendungen. Ab 2. August 2026 treten nun die meisten übrigen Regelungen des AI Act in Kraft, darunter insbesondere Transparenzpflichten für KI-generierte Inhalte und Interaktionen gemäß Artikel 50 des AI Act (eur-lex.europa.eu). Ab diesem Tag werden bei Verstößen auch Bußgelder fällig, die in Deutschland durch die nationalen Aufsichtsbehördern durchgesetzt werden können. Die neuen Vorgaben betreffen nicht nur die Anbieter (Entwickler) von KI-Tools, sondern ausdrücklich auch Betreiber – also zum Beispiel Unternehmen, die KI-Tools einsetzen. Ab 2. August 2026 gelten neue Pflichten Information über Interaktionen mit KI (Art. 50, Abs. 1): Nutzer müssen informiert werden, wenn sie mit einer KI interagieren, beispielsweise über Chatbots, digitale Assistenten oder KI-generierte Antworten. Deepfake-Kennzeichnung (Art. 50, Abs. 4): KI-generierte oder wesentlich durch KI veränderte Bilder, Videos und Audioinhalte, die „echt“ erscheinen können (sogenannte „Deepfakes“) müssen als solche erkennbar gemacht werden. Die Kennzeichnung soll sowohl technisch (maschinenlesbar) als auch für Menschen nachvollziehbar erfolgen. Transparenz bei KI-generierten Texten „von öffentlichem Interesse“ (Art. 50, Abs. 4): Werden Texte, mit denen die Öffentlichkeit über Themen von öffentlichem Interesse informiert werden, mithilfe von KI erstellt, dann muss dies offengelegt werden. Dies ist aber nur der Fall, wenn die Texte vollständig von einer KI stammen und unverändert veröffentlicht werden. Übernimmt ein Mensch die redaktionelle Prüfung und ist dies erkennbar, entfällt die Kennzeichnungspflicht. Emotionserkennung und biometrische Kategorisierung (Art. 50, Abs. 3): Wenn KI-Systeme zur Erkennung von Emotionen und körperlichen Merkmalen eingesetzt werden, müssen betroffene Personen darüber informiert werden. Bei Verstößen drohen Unternehmen empfindliche Bußgelder von bis zu 7 Prozent des Jahresumsatzes (nur bei schweren Verstößen gegen verbotene Praktiken). Für Verstöße gegen die neuen Transparenzregeln sind bis zu 15 Mio. Euro oder 3 Prozent des Jahresumsatzes vorgesehen. Gemäß Durchführungsgesetz zur KI-Verordnung wird die Bundesnetzagentur als zentrale KI-Aufsichtsbehörde diese Bußgelder durchsetzen. Die Bundesnetzagentur wird auch für den Aufbau von „KI-Reallaboren“ zuständig seind, in denen Unternehmen KI-Systeme unter Aufsicht testen können. Die bereits seit 2025 geltenden Pflichten zu „Verbotenen KI-Praktiken“ (Art. 5) und zur „KI-Kompetenzpflicht“ (Art. 4) gelten natürlich weiterhin. Welche Regelungen wurden verschoben Anbieter generativer KI sollten ursprünglich ab 2. August digitale Wasserzeichen in KI-generierte Inhalte integrieren, diese Pflicht wurde aber auf Dezember 2026 verschoben. Ebenfalls zum 2. August sollten auch neue Regelungen rund um Hochrisiko-KI wirksam werden, doch die EU hat diese per „Digital Omnibus“ auf Ende 2027 (Anhang III: Hochrisiko-KI-Systeme) bzw. Ende 2028 (Anhang I: In regulierte Produkte wie Fahrzeuge oder Medizingeräte eingebettete KI) verschoben. Erleichterungen für KMU Für kleine und mittlere Unternehmen (KMU) gelten geringere Anforderungen, beispielsweise eine vereinfachte Dokumentation von eingesetzten KI-Systemen sowie schnellerer und günstiger Zugang zu „KI-Reallaboren“ („KI-Sandkästen“). Auf der Seite artificialintelligenceact.eu, die vom Future of Life Institute (FLI) betrieben wird, finden KMU einen speziellen Leitfaden mit den wichtigsten Besonderheiten: Leitfaden für kleine Unternehmen zum AI Act (artificialintelligenceact.eu) Icons zur Kennzeichnung Wie genau die KI-generierten oder -modifizierten Inhalte gekennzeichnet werden müssen, legt der AI Act nicht fest. Die EU hat jedoch eine Reihe von Symbolen entwickelt, mit denen Urheber, Herausgeber und andere Betreiber generativer KI-Systeme ihre KI-generierten Inhalte kennzeichnen können. Die Symbole sind frei verfügbar und können kostenfrei verwendet werden. Sie stellen allein noch keine Rechtssicherheit dar und müssen um maschinenlesbare Informationen ergänzt werden. Die Symbole sind nicht verpflichtend, es können auch eigene Kennzeichnungen genutzt werden. Die Icons bieten aber einen guten Anhaltspunkt dafür, wie die Kennzeichnnung in etwa aussehen sollte. Die Icons können direkt auf den Seiten der EU heruntergeladen werden (digital-strategy.ec.europa.eu) Mehr zum Thema Weitere ausführliche Informationen zum EU AIAct Zentrale Informationsplattform der KI-Verordnung (ai-act-service-desk.ec.europa.eu) Das EU-Gesetz zur künstlichen Intelligenz: Aktuelle Entwicklungen und Analysen des EU AI-Gesetzes (artificialintelligenceact.eu) Ratgeber: Artificial Intelligence Act – das müssen Unternehmen wissen (www.ihk-muenchen.de) Überblick: Europäisches Gesetz über künstliche Intelligenz (www.dihk.de) Mehr zum Thema

Internetrecht | Recht des E-Commerce

Internetrecht

Meldungen zum Internetrecht | Recht des E-Commerce | Recht 4.0

EU AI-Act: Transparenz- und Kennzeichnungspflichten ab 2. August

Das erste KI-Gesetz der Welt – Gesetz über Künstliche Intelligenz / EU AI-Act

Veranstaltungen