Recht 4.0

ChatGPT beherrscht wie kaum eine andere KI-Anwendung die aktuelle öffentliche Diskussion. Während auf EU-Ebene die Trilogverhandlungen zur KI-Verordnung beginnen und heftig debattiert wird über Definitionsansätze, Regulierungsdichte und Reichweite einer klugen KI-Gesetzgebung, schnellen die Nutzerzahlen von ChatGPT in die Höhe. Das Programm liefert auf jegliche Frage in Windeseile eine menschenähnliche Antwort, kann Aufsätze verfassen, Rätsel lösen, dichten und codieren. Dazu greift es auf im Internet verfügbare Daten und auf die Eingabedaten der Nutzer zu: Mit jeder Eingabe, mit der ein Nutzer seine Fragen präzisiert oder Antworten berichtigt, lernt das Programm hinzu.

Was bedeutet die revolutionäre Entwicklung von Programmen wie ChatGPT für die Praxis im Wirtschaftsrecht?

Einfache, praxisrelevante juristische Fragen kann ChatGPT bereits gut beantworten, tut sich aber beim Lösen juristischer Fälle noch schwer (siehe etwa anhand anschaulicher Beispiele: Johannisbauer, MMR-aktuell 2023, 455537). Da die Lernkurve der Anwendung steil verläuft, wird sich dies mit Sicherheit schnell ändern, sodass KI aus der Vertragsgestaltung künftig kaum noch hinwegzudenken sein wird. Eine wesentliche Rolle spielen dabei die Trainingsdaten, mit denen ChatGPT gespeist wird. Neben den öffentlich im Internet zugänglichen Daten werden vermehrt auch Urteile, juristische Fachbeiträge und Lehrbücher verarbeitet. Juristische Datenbanken spielen hierbei eine zentrale Rolle.
 
Es liegt auf der Hand, dass sich in dem Zusammenhang auch kritische Fragen insbesondere in den Bereichen des Urheber-, Geschäftsgeheimnis- und Datenschutzrechts stellen. Verstoßen das Programm oder sein Betreiber bei Nutzung von Texten aus dem Internet gegen Urheberrecht Dritter? Wem steht das Urheberrecht an den über ChatGPT generierten Texten zu? An etwaige Verstöße schließen sich sodann Haftungsfragen an: Haftet Open-AI als Betreiber oder haftet der Nutzer? Auch die Haftungsfragen sind Gegenstand der KI-Verordnung sowie der derzeit ebenfalls beratenen EU-Richtlinie über KI-Haftung.

Schließlich stehen auch juristische und berufliche Ausbildung vor neuen Herausforderungen. (Wissenschaftliche) Hausarbeiten könnten gegenüber mündlichen Prüfungen und beaufsichtigten Klausuren weiter an Bedeutung verlieren. Vielleicht muss aber auch gerade die professionelle und verantwortungsvolle Arbeit mit ChatGTP Teil der Ausbildung in Lehre und Betrieb werden.

Viele Fragen sind noch offen, und ein Abwägen der Chancen und Risiken wird fortlaufend die Debatte um ChatGPT begleiten. Wer weiß, wie viel Anteil ChatGPT selbst an diesen Debatten haben wird. Gefragt, ob das Programm Urheberrecht verletze, antwortet das ChatGPT jedenfalls ausweichend, dass es als KI keine Handlungen vornehmen und keinen Rechtspflichten unterliegen und damit auch nicht gegen Urheberrecht verstoßen könne. (DIHK Newsletter Nr. 02-03 / 2023)

Weitere Informationen zum Thema finden Sie auf den Seiten des DIHK:

Jeder Mensch hinterlässt eindeutige Datenspuren, deren Tragweite jedoch für viele nicht absehbar ist. Big Data ist bereits seit vielen Jahren in aller Munde und beschäftigt insbesondere Datenschützer und die freie Wirtschaft und stellt sowohl deren Anwender als auch deren Anbieter vor neue Herausforderungen.

Eine stetige technologische und mobile Weiterentwicklung führt dazu, dass das Auto bereits heute als der „ultimative mobile Computer“ angesehen werden darf und mit dessen Hilfe die gesammelten Informationen auch zukünftig Einfluss auf die verschiedensten Lebensbereiche nehmen kann. Eine Vernetzung von alltäglichen Gegenständen findet derzeit bereits im vollen Umfang statt und ermöglicht neue Geschäftsmodelle: So ist es für das vernetzte Automobil, anhand personalisierter Smartphones einzelner Familienmitglieder, möglich zu erkennen, wer in das Fahrzeug steigt. Anhand der Applikation des Stundenplans auf dem Handy des Schulkindes wird sogleich die Route zur Schule berechnet und angezeigt. Zeitgleich wird dem Fahrzeug durch den vernetzten Kühlschrank signalisiert, dass Lebensmittel fehlen. Eine alternative Route, welche über den gewohnten Supermarkt in der Nähe führt, wird nunmehr angezeigt. Ein weiteres Signal meldet, dass eine dritte Person in der Nähe eine Mitfahrgelegenheit zu einem Ziel sucht, welches sich auf der eigenen Route befindet. Der Fahrer kann nun auf dem Fahrzeugdisplay bestätigen oder ablehnen, ob er die Person mitnehmen möchte. Willigt diese ein, so werden automatisch eine Antwort, sowie eine ungefähre Ankunftszeit an den Suchenden gesendet. Diese grundlegende, weltweite Vernetzung führt unumgänglich dazu, dass Daten erhoben und gesammelt werden, weshalb der Schutz dieser immer mehr an Bedeutung gewinnt. Gleichzeitig wird hier die Frage eröffnet, wie und inwieweit sich das Datenschutz- oder Gewerberecht weiter entwickeln muss, um sich dem schnell voranschreitenden digitalen Fortschritt anzupassen.

Die vorliegende Masterarbeit wurde von Oliver Baumbach, Leiter des IHK-Geschäftsbereichs Recht | Steuern im Rahmen seiner Lehrtätigkeit betreut. Anhand des Beispiels Automobilbranche zeigt die Autorin Frau Magdalena Nowak auf, welche datenschutzrechtlichen Probleme in der vernetzten Automobilwelt auftreten können, ob das Datenschutzrecht diese erfolgreich beheben kann und ob weiterhin Defizite bestehen bleiben.

Grundlage der Smart Factory ist die intelligente Vernetzung cyber-physischer Systeme, die selbstständige miteinander kommunizierten und Vorgänge im Rahmen der Produktion auslösen.

Vertragsschluss

Die Entwicklung der vernetzten Produktion geht entlang verschiedener Stufen. Für die Frage nach der Abgabe bzw. Annahme von Willenserklärungen ist dies nicht unbedeutend.

Automatisierte Systeme

→ Hier werden lediglich zu einem früheren Zeitpunkt festgelegten Anweisungen des Menschen übermittelt.

Beim Einsatz dieser Systeme erfolgt die Abgabe und Zurechnung der Willenserklärung an den dahinter stehenden Nutzer. Der Einsatz der automatisierten Systeme bedeutet nur einen gestreckten Erklärungsprozess in Bezug auf die Willenserklärung. Ein Vertragsschluss ist hier unproblematisch.

Autonome Systeme / Cyberphysische Systeme

Der Einsatz solcher Systeme macht die rechtliche Einordnung und die Frage des Vertragsschlusses schon komplexer. Solche Systeme handeln selbstständig aufgrund von Algorithmen, die aufgrund von Erfahrungen und verfügbarem Datenmaterial getroffen bzw. erlernt werden. Die Algorithmen sind meist nicht bekannt und auch nicht nachvollziehbar. Die Frage, wem die Entscheidungen der autonomen Systeme (sog. Machine-to-Machine-Erklärungen, M2M-Kommunikation) zuzurechnen sind, wird intensiv diskutiert.

Folgende Lösungsansätze aus dem Bürgerlichen Gesetzbuch (BGB) stehen im Raum:

•  Botenstellung

Von einem Boten spricht man, wenn eine fremde Willenserklärung lediglich übermittelt wird und kein eigener Entscheidungsspielraum des Boten besteht. Der Bote ist somit nur das Transportmittel.

Diese Regelungen sind nicht geeignet, da autonomen Systemen gerade immanent ist, dass sie eigene Entscheidungen treffen und nicht nur fremde Erklärungen weitergeben.

• Stellvertreterregelungen (§§ 164 ff. BGB)

Auch für die Abgabe von Willenserklärungen, die in einem eigenen Entscheidungsspielraum getroffen werden können und für und gegen den Vertretenen wirken, sind im bürgerlichen Gesetzbuch gesetzliche Regelungen vorgesehen. Die Normen zur Stellvertretung scheinen hier auf den ersten Blick zwar geeignet die Erklärungen der autonomen Systeme jemanden zuzurechnen, aber beim genaueren hinsehen sind die Normen in ihrer aktuellen Ausprägung doch nicht passend. Die Vertretung setzt voraus, dass der Vertreter rechtsfähig ist. Cyber-physische Systeme besitzen nach aktuellem Stand keine Rechtsfähigkeit. Auch bei der Frage der Überschreitung der eingeräumten Vertretungsmacht durch die Maschine ist die Frage der Haftung relevant. Die im BGB bestehende Regelung zum sog. falsus procurator sehen die Möglichkeit vor, dass der Vertreter für die Überschreitung seiner Vertretungsmacht, schadensersatzpflichtig ist. Problematisch ist hier, dass die autonomen Systeme über keinerlei Haftungsmasse verfügen, der Anspruch von vornherein ins Leere läuft.

Diskutierte Lösungsansätze 

• Einführung einer sog. E-Person: Diskutiert wird ein neues Rechtssubjekt in Form der sog. E-Person einzuführen. Allerdings schließen sich hieran weitergehenden Fragen an, die zu klären und aufzugreifen sind. Beispielhaft sei aufgeführt: (Teil-)Rechtsfähigkeit, Haftungsmasse, Identifizierungsmöglichkeit, Vertretungsberechtigung etc.

• Anwendung der Regelungen des BGB: Die o.g. Regelungen des BGB solle auch für M2M-Erklärungen Anwendung finden. Hierzu wäre ein Klarstellung durch den Gesetzgeber notwendig.

• Anwendung allgemeiner Zurechnungsprinzipien: Ein pragmatischer lösungsorientierter Ansatz löst diese Fragen nach allgemeinen Zurechnungskriterien wie Risikoverteilung, Vertrauensschaffung und Rechtschein. M2M-Erklärungen sind dem Betreiber solcher Systeme zuzurechnen, da dieser dadurch menschliche Kommunikation ersetzt.

Haftung für autonome Systeme

Bei auftretenden Fehlern und Schäden z.B. Hardwaremängel, Programmierfehler, Bedienungsfehler stellt sich stets die Frage der Verantwortungszurechnung und Verantwortungsteilung. Solange die fehler- bzw. schadensauslösende Aktion auf eine natürliche Person bzw. auf ein bestimmtes menschliches Verhalten zurückzuführen ist, bietet das derzeitige Haftungsrecht eine ausreichende Grundlage.

In der Smart Factory sind Situationen vorstellbar, bei denen nicht mehr feststellbar ist, ob der Fehler auf den Nutzer / Hersteller des Systems zurückgeht oder vom System selbst erzeugt wurde.

Diskutierte Lösungsansätze

• Gefährdungshaftung: Bei der Gefährdungshaftung ist Anknüpfungspunkt für die Haftung, die Inbetriebnahme einer Gefahrenquelle zum eigenen Nutzen, die bei Dritten zu empfindlichen Schäden führen kann, da sie nicht vollkommen beherrschbar ist. Auf ein Verschulden kommt es nicht an. In diesem Zusammenhang wird dann auch gefordert ein Pflichtversicherungssystem für autonome Systeme einzuführen.

• Einführung eine E-Person: Auch für die Haftungsfälle wird diskutiert, das autonome System als ein neues Rechtssubjekt einzuführen, welches dann als Haftungssubjekt zur Verfügung steht. Wie bereits oben erwähnt, gehen damit weitere Fragestellungen einher.

• Vertragsgestaltung: Über vertragliche Regelungen und Gestaltungen ist es möglich, Verursachungs- und Verantwortungsbeiträge zu definieren und so die Haftungsrisiken zu verteilen. Um hier aber entsprechend agieren zu können, ist das AGB-Recht zu reformieren. Die momentanen Regelungen lassen hier wenig Spielraum zu.

Die Vernetzung der Produkte, Maschinen bzw. autonomer System lässt eine große Menge an Daten entstehen. Diese aufzubereiten und zielgerecht einzusetzen wird durch sog. Big Data Analysen ermöglicht. Die Ergebnisse lassen sich für zielgerichtetes Marketing, Prozessoptimierung oder / und Produktverbesserungen einsetzen. Auch für die Weiterentwicklung der künstlichen Intelligenz sind sie von erheblicher Bedeutung.
Daten kommen daher eine nicht unwesentliche Bedeutung zu und sind zukünftig für Unternehmen insbesondere auch für die Entwicklung von Geschäftsmodellen von besonderer Bedeutung. Die Frage wem die Daten "gehören" bzw. wem welche Nutzungsrechte daran zustehen, rückt daher in den Fokus.

Es ist zwischen verschiedenen Datenkategorien zu unterscheiden. Neben personenbezogenen Daten, deren Verwertung durch die DSGVO geregelt und geschützt werden, bestehen auch sog. Maschinendaten. Hierunter fallen Daten, die durch Messung, Beobachtung, statistische Erhebung oder sonstige Aktivitäten einer Maschine erhoben und verarbeitet werden. Als Beispiel können Betriebsstunden, Pegelstände, Temperaturen, Druck, Verbrauchswerte etc. genannt werden.

Als Anknüpfungspunkt für die Zuordnung der Daten bestehen verschiedene gesetzliche Regelungen. Am naheliegendsten ist die Eigentumsregelung (§ 903 BGB) heranzuziehen, da sie dem Eigentümer eine absolute Rechtsposition mit Nutzungs- und Abwehrfunktion einräumt. Allerdings besteht Eigentum nur an Sachen, d.h. körperlichen Gegenständen. Damit ist nur der Datenträger vom Schutz umfasst, aber nicht die Daten an sich, da hier nicht von körperlichen Gegenständen gesprochen werden kann.

Auch andere Normen wie Ansprüche aus dem Deliktsrecht (§ 823 BGB) ggf. i.V.m. einem Unterlassungsbegehren geben eine Abwehrmöglichkeit, allerdings ist fraglich ob Daten überhaupt ein geschütztes Rechtsgut im Sinne der Vorschrift sind.

Anspruchsgrundlage aus dem Urhebergesetz (UrhG) wie die §§ 87a, 87b (Datenbankhersteller) oder auch der Schutz von Betriebs- oder Geschäftsgeheimnissen (§ 17 UWG) bieten für gewisse Kategorien von Daten Abwehrrechte.

Momentan stellt sich die Situation zum Frage "Wem gehören die Daten?" wie folgt dar:

• Kein Eigentum an Daten oder vollumfänglicher absoluter Schutz i.S.e. Abwehr-und Nutzungsfunktion
• fragmentarischer Schutz für einzelne Konstellationen; meist als Abwehrrecht ausgestaltet
• Zuweisung von Rechten an Daten ist nur durch eindeutige Vertragsregelungen zwischen Datenerzeuger, -verarbeitung und -nutzung möglich 

Das Thema Dateneigentum bewegt auch die Europäische Union. Es gibt eine Mitteilung der EU-Kommission zum "Aufbau einer europäischen Datenwirtschaft". In diesem Konzept werden u.a. Ideen wie der freie Datenfluss innerhalb der EU, der Zugang und die Übertragbarkeit von Maschinendaten und auch das "Dataownership" aufgegriffen.