Erste Schritte hin zu einem digitalkompatiblen IPR

Dieser Blogartikel erschien zur Tagung Kollisionsrecht 4.0 – Künstliche Intelligenz, Smart Contracts und Bitcoins als Herausforderung für das Internationale Privatrecht. Das 21. Jahrhundert steht im Zeichen des vollumfänglichen digitalen Wandels, der bereits jetzt nahezu jeden Lebensbereich im Kern tangiert und dabei ist, eine umfassende Umstrukturierung unsere Gesellschaft und Wirtschaft zu bewirken. Hierbei wird vor allem […]

,

Wo befindet sich die Debatte über die Verleihung von Rechtspersönlichkeit an künstliche Intelligenzen?

Der technische Fortschritt schreitet voran. Künstliche Intelligenz spielt Schach, Go und Jeopardy besser als Menschen. Wir bekommen das „Internet of Things“. Die Rechenleistung und Leistungsfähigkeit von Computern steigt und steigt. KI trifft zunehmend selbständig Entscheidungen, die unseren Alltag beeinflussen.

KI ist aber nicht nur besser als wir in Brettspielen und Quizshows, sondern hilft uns auch in der Praxis. Staubsaugroboter, digitale Sprachassistenten oder riesige Datenanalyse-Tools unterstützen uns in unserem Alltag. Aufgrund der zunehmenden Einsatzmöglichkeiten von KI, ihren selbstständigen Entscheidungsprozessen und der fortschreitenden technischen Entwicklung, stellen sich aus rechtlicher Sicht noch viele Fragen? Wer haftet zum Beispiel, wenn dein digitaler Assistent „aus Versehen“ die Dusche anschaltet und einen Wasserschaden bei deinem Nachbarn verursacht? Kann KI selbständig innerhalb von Sekunden Aktien erwerben und wieder veräußern? Kann KI dazu gezwungen werden, sich an Gesetze zu halten? Um für diese Fragen eine Lösung zu finden, müssen wir uns die Frage stellen: Wie ordnen wir sämtliche Formen künstlicher Intelligenz rechtlich ein?

Infolge dieser relevanten Probleme gewinnt die Diskussion über die rechtliche Qualität von KI immer mehr an Bedeutung. Dabei lassen sich grundsätzlich zwei Ansätze erkennen: Einige wollen künstlich intelligente Systeme in vollem Maße rechtlich verselbständigen, andere erkennen überhaupt keinen Handlungsbedarf.

Die Problematik ist auch in der Politik angekommen. Sie wurde in einer Entschließung des Europäischen Parlaments vom 16.2.2017 aufgegriffen. Dort wird zumindest für die „höchstentwickelten künstlichen Intelligenzen“ die Schaffung einer eigenständigen Rechtspersönlichkeit angedacht.[1]  Daran anknüpfend soll dieser Artikel darstellen, wo sich die Debatte über die rechtliche Stellung von KI momentan in der Wissenschaft befindet und was mögliche Lösungsansätze für einen interessengerechten und angemessenen Umgang mit KI sein können.

Was sagen die Befürworter?

Was sagen nun diejenigen, die sich für eine Rechtsfähigkeit von KI einsetzen? Für diese Form von Rechtspersönlichkeit hat sich – vor allem von ihren Befürwortern – der Begriff der „ePerson“ eingebürgert.[2] Grundkonzept ist, dass die künstliche Intelligenz durch die „ePerson“ wie eine natürliche Person am Rechtsverkehr teilnehmen soll. Damit könnte die einen Schaden verursachende KI direkt auf Schadensersatzzahlung in Anspruch genommen werden.

Die Vertreter einer solchen Forderung berufen sich zunächst darauf, dass Rechtspersönlichkeit nicht zwangsläufig mit der Eigenschaft als natürliche Person verbunden sei. Gerade eine Kapitalgesellschaft in Form einer AG oder GmbH sei rechtlich von den hinter ihr stehenden Personen komplett verselbständigt.[3] Die Zurechnung von Entscheidungen einer KI sei ein juristischer Kunstgriff, habe aber mit dem aktuellen Stand der Technik nichts zu tun.[4] Denn eine KI fände ihre Ergebnisse eben nicht mehr nur auf Basis der ihr durch den Menschen vorgegebenen Kriterien, sondern entwickle solche Kriterien selbst.[5] Manche gehen sogar weiter und verkünden, künstliche Intelligenzen hätten in ihren Fähigkeiten den Menschen ein- oder sogar überholt und es sei demzufolge nur konsequent , ihnen Rechtspersönlichkeit zuzusprechen.[6] 

Freilich stützen die Vertreter dieser Ansicht die Forderung nach einer „ePerson“ nicht nur auf rechtsphilosophische Erwägungen wie menschliche Willensfreiheit oder das Persönlichkeitsrecht, sondern auch auf praktische Erwägungen:  Ausgangspunkt sei, dass eine KI keinem durch einen Menschen festgelegten Ablauf mehr folge. Der Betreiber oder Urheber habe somit keinen Einfluss auf die Entscheidungsfindung des Systems. Dadurch entstünde eine Verantwortungslücke, die nach den geltenden rechtlichen Regeln nicht mehr zu bewältigen sei. Der Inhaber des künstlichen Systems wäre durch Einführung der „ePerson“ von der Haftung für ein Verhalten befreit, über das er selbst nicht entschieden hätte.[7] Dabei sei zu beachten, dass der Rechtsverkehr zunehmend durch KI abgewickelt werde.[8] So würden in Zukunft sicherlich auch selbständig Verträge durch KI geschlossen und ausgeführt (so im Falle von smart contracts). Im Ergebnis wäre die Konsequenz ein haftungsfreier Raum – den die selbständige „ePerson“ schließen würde.[9] Die notwendige Haftungsmasse ließe sich zum Beispiel durch Einrichtungen von Pflichtversicherungen beschaffen.[10]

Der Teufel liegt aber im Detail. Denn eine uneingeschränkte Rechtssubjektivität hieße am Ende auch, dass sich KI womöglich sogar auf Grundrechte berufen, dass sie Eigentum erwerben oder Kredite aufnehmen könnten.[11] Solche Konsequenzen wollen viele dann doch nicht ziehen.  Dabei ist den meisten Autoren gemein, dass sie zwischen den verschiedenen Formen der künstlichen Intelligenzen und den durch sie entstehenden Risiken unterscheiden wollen (Smart contracts seien demnach anders zu behandeln als ein Roboter, der Autos zusammensetzt). Sie stehen einer einheitlichen Lösung also ablehnend gegenüber.[12]  Beispielsweise will Teubner im Bereich der Willenserklärungen künstlichen Intelligenzen beschränkte Rechtssubjektivität verleihen, damit sie als Stellvertreter bindende Verträge für andere abschließen können.[13] 

Was sagen die Gegner?

Dagegen stehen diejenigen, die im Ergebnis an den bestehenden Regelungen festhalten wollen. Auch hier wird vieles vertreten. Gemein ist allen lediglich die strikte Ablehnung jeglicher Form von rechtlicher Eigenständigkeit für künstliche Intelligenzen.

Zunächst wird mit dem Wesen des Rechtssubjekts argumentiert. Hinter jedem Rechtssubjekt stünde am Ende eine natürliche Person, der Mensch bleibe „Anknüpfungspunkt jeder Verantwortlichkeit“.[14] Zu einer Behandlung von KI als „Subjekt“ fehle es an einem wirklichen Verständnis für das Handeln. Auch der Vergleich einer „ePerson“ mit der Kapitalgesellschaft hinke, denn diese sei in ihrem Handeln letzten Endes doch auf natürliche Personen angewiesen.[15]

Insofern ist nach dieser Auffassung die juristische Konsequenz recht simpel: Das bestehende zivilrechtliche Instrumentarium sei ausreichend, es müsse lediglich im Einzelfall durch Rechtsfortbildung ausgelegt werden.[16]  Demzufolge muss entweder der Hersteller oder aber der Nutzer einer KI haftbar gemacht werden und die Zurechnung von Willenserklärungen durch die Anwendung der §§ 116 ff BGB erreicht werden. Teilweise wird auch explizit auf den jetzigen Stand der Technik abgestellt: Die heutzutage existierenden Systeme seien jedenfalls noch nicht ausgereift genug, um eine „Aufwertung“ vom Rechtsobjekt zum Rechtssubjekt zu rechtfertigen.[17]

Bemerkenswert ist, dass der Vorstoß des Europäischen Parlaments gerade von Nichtjuristen kritisch gesehen wird. So hat sich eine Gruppe aus 285 KI-Forschern, Ärzten, Philosophen, Theologen und Unternehmern in einem offenen Brief gegen die ePerson ausgesprochen.[18] Sie stellen neben dem Menschen als Ausgangspunkt jedes rechtlich relevanten Handelns vor allem eine technische Betrachtung in den Vordergrund: Die Fähigkeiten der im Moment eingesetzten KI seien schlicht und ergreifend überschätzt.[19] 

Fazit

Die Debatte findet auf zwei Ebenen statt: Zunächst wird rechtsphilosophisch gestritten, ob KI ein „Subjekt“ im rechtlichen Sinne sein kann. Andererseits stellen sich konkrete rechtliche Probleme, zu deren Handhabung unterschiedliche Lösungsansätze vorgeschlagen werden.

Abhängig ist die Diskussion vor allem von den technischen Fortschritten in den nächsten Jahren, die sich sehr schlecht prognostizieren lassen. Können wir wirklich behaupten, dass die Fähigkeiten von KI überschätzt werden? Und was gilt dann erst in fünf oder zehn Jahren?

Für die hinter der rechtlichen Problematik stehenden philosophischen und ethischen Fragen müssen wir als Gesellschaft eine Lösung finden: Welche gesellschaftliche Position soll KI zukünftig innehaben? Wieviel Macht darf KI erhalten? Wollen wir einen Roboter tatsächlich wie einen Menschen behandeln? Und wenn ja – wollen wir moderne Sklaven oder gleichberechtigte Mitglieder der Allgemeinheit? Diese Fragen müssen wir beantworten, früher oder später.

Innerhalb kurzer Zeit ist diese Problemstellung zur „derzeit dringendsten Frage im IT – Recht“ avanciert.[20] Die in der Fachliteratur vorgebrachten Erwägungen werden zunehmend vielschichtiger.  Auch in der Politik ist Handlungsbedarf erkannt worden: Der Deutsche Bundestag hat 2018 eigens eine Kommission für KI eingesetzt, die bis 2020 eine Handlungsempfehlung im Umgang mit KI formulieren soll.[21] Die Europäische Kommission beschäftigt sich momentan mit den vorgebrachten ethischen und moralischen Fragen und hat dazu eine Expertenrunde einberufen.[22] Die Ergebnisse dieser Gremien werden für die zukünftige rechtliche Handhabung von KI entscheidend sein. Eine differenzierte und zufriedenstellende Lösung ist aber im Hinblick auf den immer stärkeren Einfluss von KI auf unseren Alltag dringend erforderlich.

 

Till von Poser     Madeleine Maschke


[1] http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect, Art. 59, Ziffer f; zuletzt abgerufen am 7.6.2019

[2] Wettig/Zehendner, A legal analysis of human and electronic agents, S. 112, 1.2, 2004https://link.springer.com/content/pdf/10.1007%2Fs10506-004-0815-8.pdf; zuletzt abgerufen am 7.6.2019

[3] Wettig/Zehendner,  S. 128, 4.1

[4] Teubner, Digitale Rechtssubjekte, S. 19; https://www.jura.uni-frankfurt.de/69768539/TeubnerDigitale-RechtssubjekteAcP-18Dez17.pdf; zuletzt abgerufen am 7.6.2019

[5] Teubner, S.15

[6] Matthias, Automaten als Träger von Rechten, S. 270, 2. Aufl., 2010

[7] Wettig/Zehendner, S. 128, 4.1Mayinger, Die künstliche Person, S. 227 ff, 2017

[8] Matthias, S. 113

[9] Mayinger, S. 230

[10] Matthias, S. 244

[11] Mayinger, S. 233 ff.; Wettig/Zehendner, S. 97 ff.

[12] Specht/Herold, MMR 2018, S. 40

[13] Teubner, S. 38

[14] Grapentin, Die Erosion der Vertragsgestaltungsmacht durch das Internet und den Einsatz Künstlicher Intelligenzen, S. 88, 2018

[15] Eidenmüller, The Rise of Robots and the Law of Humans, Oxford Legal Studies Research Paper No. 27/2017, S. 13

[16] BGHZ 195, 126, Rn. 17; MüKo – BGB/Busche, Vor § 145,  Rn. 37

[17] https://www.plattform-i40.de/PI40/Redaktion/DE/Downloads/Publikation/kuenstliche-intelligenz-und-recht.pdf?__blob=publicationFile&v=2 , S. 7; zuletzt abgerufen am 7.6.2019

[18] Den Brief findet man hier: http://www.robotics-openletter.eu; zuletzt abgerufen am 7.6.2019

[19] Ebenda

[20] Specht, NJW 2018, S. 3686

[21] https://www.bundestag.de/ausschuesse/weitere_gremien/enquete_ki; zuletzt abgerufen am 7.6.2019

[22] https://ec.europa.eu/commission/news/artificial-intelligence-2019-apr-08_de; zuletzt abgerufen am 7.6.2019

,

Regulierung von Legal Tech in Deutschland – Ein Überblick

Angebote für eine digitale Rechtsberatung werden in Deutschland immer beliebter. Mögliche Anwendungsfelder reichen etwa von Fluggastentschädigungen (z.B. flightright.de), über die Durchsetzung der Mietpreisbremse (z.B. wenigermiete.de) bis hin zu Schadensersatzforderungen im Dieselskandal (z.B. myright.de). Verbraucher können mittels solcher Legal-Tech-Portale ohne eigenes wirtschaftliches Risiko Ansprüche geltend machen. Dies gilt insbesondere auch für kleinere Forderungen, bei denen bislang Aufwand und Ertrag in einem Missverhältnis zueinander standen. Dieses rationale Desinteresse wird nunmehr durch die automatisierte Geltendmachung von Forderungen überwunden. Der Zugang zum Recht wird erleichtert. Gleichwohl wird in Deutschland teils heftig um die Regulierung von Legal-Tech-Angeboten gestritten. Denn rechtlich bewegen sie sich in einer Grauzone. Grund genug für einen ersten Überblick zur aktuellen Rechtslage und zu möglichen Reformbestrebungen.

Rechtsberatung oder Inkassodienstleistung?

Außergerichtliche Rechtsdienstleistungen werden in Deutschland durch das Rechtsdienstleistungsgesetz (kurz: RDG) geregelt. Erklärtes Ziel des RDG ist es, die Rechtssuchenden, den Rechtsverkehr und die Rechtsordnung vor unqualifizierten Rechtsdienstleistungen zu schützen. Dabei gilt ein Verbot mit Erlaubnisvorbehalt. Die selbstständige Erbringung außergerichtlicher Rechtsdienstleistungen ist demnach grundsätzlich verboten und nur in Ausnahmefällen erlaubt. Eine solche Ausnahme ist unter anderem für Inkassodienstleistungen, also die Einziehung fremder Forderungen, vorgesehen.

Von dieser Ausnahme machen auch Legal-Tech-Plattformen derzeit Gebrauch. Sie sind häufig als Inkassounternehmen zugelassen und können auf diesem Wege ebenfalls Rechtsdienstleistungen erbringen, ohne dabei den berufsrechtlichen Beschränkungen für Rechtsanwälte zu unterliegen. So dürfen Anwälte beispielsweise keine Erfolgshonorare vereinbaren oder die Gerichtskosten oder Kosten der Gegenseite übernehmen. Bei Legal-Tech-Angeboten ist dies hingegen gängige Praxis.

Gegen den Umweg über die Inkassoklausel wird von Kritikern eingewendet, dass sich die genannten Portale nicht auf eine bloße Inkassotätigkeit beschränken würden. Vielmehr liege der Schwerpunkt faktisch auf einer unzulässigen Rechtsberatung. Die Rechtsanwälte seien wiederum durch ihr strenges Berufsrecht gegenüber den digitalen Konkurrenzprodukten benachteiligt. Dies gelte beispielsweise auch für Finanzierungsfragen. Die Entwicklung innovativer Software ist teuer. Zugleich verbietet die Bundesrechtsanwaltsordnung (kurz: BRAO) Kapitalbeteiligungen. Wenn sich aber Kapitalgeber nicht an Rechtsanwaltsgesellschaften beteiligen können, wird die Entwicklung digitaler Angebote durch Rechtsanwälte selbst erschwert.

Im Detail sind hier viele Rechtsfragen noch ungeklärt. Dies gilt beispielsweise für die zivilrechtlichen und prozessualen Auswirkungen von Verstößen gegen das RDG auf die Mandantenbeziehung, die Verknüpfung von Inkassodienstleistung und Prozessfinanzierung, sowie die Inkassodienstleistung für künftige Forderungen. Entsprechend war die Qualifikation von Legal Tech als Rechtsdienstleistung bereits mehrfach Gegenstand von Gerichtsverfahren. So gibt es beispielsweise mehrere, voneinander abweichende landgerichtliche Urteile zu der Frage, ob das Geschäftsmodell von wenigermiete.de rechtlich zulässig ist oder nicht. Die mit Spannung erwartete mündliche Verhandlung des Bundesgerichtshofs zu dieser Frage wurde nun vom 12. Juni 2019 auf den 16. Oktober 2019 verschoben (Az. VIII ZR 275/18).

Aktuelle Reformbestrebungen

Auch die Legislative beschäftigt sich derzeit mit den Rechtsgrundlagen für Legal Tech in Deutschland. Im November 2018 hat die Bundesregierung eine entsprechende Kleine Anfrage der FDP-Bundestagsfraktion beantwortet (BT-Drucksache 19/5438). Die Bundesregierung prüfe etwa eine Lockerung des Verbots der Fremdkapitalbeteiligung. Bezüglich zahlreicher Fragen verwies die Bundesregierung hingegen auf die Gerichte, schließlich seien diese für die Auslegung von Rechtsnormen zuständig.

Im April 2019 brachte wiederum die FDP-Fraktion einen Gesetzentwurf zur Modernisierung des Rechtsdienstleistungsrechts in den Bundestag ein (BT-Drucksache 19/9527). Nach diesem Entwurf soll die automatisierte Erbringung außergerichtlicher Rechtsdienstleistungen ausdrücklich erlaubt werden. So soll durch eine Änderung des RDG eine ausdrückliche Lizenz für Legal-Tech-Angebote geschaffen werden. Voraussetzung für den Erwerb einer solchen Lizenz wären hinreichende Rechtskenntnisse im angebotenen Rechtsgebiet sowie entsprechende technische Kenntnisse. Des Weiteren sind Aufklärungspflichten gegenüber Verbrauchern und Mitwirkungspflichten von im Sinne des RDG qualifizierten Personen vorgesehen. Schließlich soll auch das Bürgerliche Gesetzbuch und die BRAO angepasst werden, um die Vorgaben für Legal-Tech-Anbieter und Rechtsanwälte anzunähern. Ob der Entwurf die Zustimmung des Bundestags finden wird, bleibt abzuwarten.

Im Juni 2019 hat sich auch die Justizministerkonferenz im Rahmen eines Berichts zum Thema Legal Tech geäußert (vgl. die Pressemitteilung). Nach dem Willen der Justizminister der Länder sollen derartige Portale zukünftig nur noch von Anwälten betrieben werden dürfen, um die Qualität der Rechtsberatung zu sichern. Entsprechend müsse auch das anwaltliche Berufs- und Gebührenrecht überprüft werden. Ein allgemeiner Erlaubnistatbestand für automatisierte Rechtsdienstleistungen sei allerdings aufgrund der vielen unterschiedlichen Modelle abzulehnen. Auch der Deutsche Anwaltsverein und die Bundesrechtsanwaltskammer haben sich wiederholt gegen eine Öffnung des RDG ausgesprochen, da die Rechtsberatung der Anwaltschaft vorbehalten bleiben müsse.

Fazit

Der Rechtsrahmen für Legal Tech in Deutschland ist durch eine große Rechtsunsicherheit geprägt. Viele Einzelfragen sind noch unklar und beschäftigen derzeit die Gerichte. Der Ausgang dieser Verfahren und die weitere Entwicklung der legislativen Reformbestrebungen bleiben abzuwarten und sollen zukünftig Gegenstand weiterer Artikel von recode.law sein. Dabei ist eine stärkere Regulierung von Legal-Tech-Angeboten keinesfalls zwingend. Auch eine Lockerung der berufsrechtlichen Vorgaben für Rechtsanwälte käme in Betracht. Eines ist jedenfalls klar: Nur ein zeitgemäßer Rechtsrahmen fördert Innovation und den Zugang zum Recht – und damit auch die Ziele der zahlreichen Legal-Tech-Anbieter in Deutschland.

Autor: Leonhard Weitz