,

The Social Bot Phenomenon – The Road to Bot-mocracy?

#WarAgainstDemocrats. This hashtag was widely spread in the social networks during the US Presidential election. Posted about 1,700 times, it seemed like a determined and outraged group of Republican voters was trying to denigrate Hillary Clinton in order for Donald Trump to win the Election. Later however, it has been identified that in fact the storm of messages using this hashtag was created by Russian social bots. This raises major concerns about the stability and safeness of democracy and political systems. How many social bots are out there spreading political motivated messages? Would Trump have won without bot-support? How far does the influence of foreign as well as national interest groups on democratic will formation go? Frankly, most questions cannot be answered with certainty. But what we do know for sure is that social bots are among us – and that they will stay. However, with most of us having heard of the term “social bot”, not everyone is familiar with what they are and what they are used for. Hence, the growing impact of bot activity on the fundament of our society, this blogpost aims to give a better understanding of the social bot phenomenon while also referring to their hazardous implications on democracy.

 

What’s a bot?

The word bot is an abbreviation of the word “robot” which itself originated from a Czech term translating to “slave” or “forced labor”.[1] The addition “social” suggests its bi-disciplinary background: technology and social science. Social bots may be defined as “a computer algorithm that automatically produces content and interacts with humans on social media, trying to emulate and possibly alter their behavior.”[2] Thus, the three main elements that constitute a social bot are: a) an algorithm, implemented by software, b) the imitation of being a real human, and c) the aim to influence opinion.[3]

However, social bots must be distinguished from so called chat or assistant bots. Those are often used by companies in customer service as help desk tools, automatic telephone answering systems, or may be used as tools to aid in education, business and e-commerce.[4]

 

Way of functioning

The function of social bots is based on a “stimulus-reaction” mechanism, according to which they detect certain phrases, hashtags or keywords and react to them with pre-defined actions.[5] Widely spread are social bots with a limited functional spectrum whose main task is to repeat certain messages. More sophisticated bots are programmed to automatically filter social media sites and search engines like google for certain hashtags and keywords which they then retweet or reply to, and they link the websites that include the keywords in tweets or automatic replies to other users.  Also, they can follow back and find accounts that are somehow connected to the specific key words. These actions can be executed by social bots individually or collectively as a “botnet”. Moreover, the more complex the bots are programmed, the more deceptive features they have, such as personal information in their profiles, profile pictures, and long Friends or Follower lists.[6] Hence, the identification of social media accounts as social bots poses a crucial problem. Even though bot-detection programs such as “Botometer” exist, it is difficult to detect them and their operators in an error-free manner. In addition, the expected rapid technological development – especially in the field of Artificial Intelligence – will pave the way to new more sophisticated functions and appearances of social bots, which simultaneously further complicates their identification.

 

It’s a bot’s world

The social bots we know today operate in the form of simple social media accounts, predominantly on Twitter, where approximately 9 to 15 % of accounts are estimated to be social bots, but also other social media sites like Facebook.[7] Social bots are indeed very present on social media. It is estimated that about 40 % of the overall online traffic in 2018 was generated by social bots instead on human users. This might also be contributed to by the fact that it is relatively easy to build a social bot without profound IT knowledge or coding skills. Several tech blogs post tutorials on how to create them and the necessary software tools are free to download. Thus, the bot phenomenon has created a new market. So called BaaS (Bot-As-A-Service) companies like RoboLike or Legacy Pandorabots API offer their customers already developed bots for Twitter Facebook and Instagram for prices starting from 7,77 US dollars per month which can be customized according to personal wishes.

Based on this background, it is crucial to look into the implications of social bots on politics and democracy. Social bots are used in the strategy called “Digital Astroturfing”. Digital astroturfing is defined as “a form of manufactured, deceptive and strategic top-down activity on the internet initiated by political actors that mimics bottom-up activity by autonomous individuals.[8] In other words, social bots are used to create masses of content in the form of posts, retweets, likes and follows, that express consent or disapproval for a certain person or topic while pretending to be regular human voters. In this way, they are generating trending topics which is ultimately distorting the public discourse and may even lead to the creation of doubts about a certain political viewpoint and the alteration of opinions.

 

The road to Bot-mocracy?

The use of social bots as a propaganda instrument emerged in the course the 2016 US Presidential Election but is certainly not limited to it. Research reveals a worldwide deployment of social bots as political propaganda instruments. For instance, during the 2016 US election, 19 % of the tweets of the overall political conversation were posted by bots.[9] In Great Britain bots ‘hijacked’ the Brexit debate by adding 77,000 signatures to an online petition calling for a second referendum.[10] In France, bots were involved in the #MacronLeaks campaign[11] and also the debate on the UN Migration pact was supposedly infiltrated by bots.[12]

From a social science perspective, the use of social bots may pose an actual threat on our democratic structures. According to the „Spiral of Silence“ theory (Noelle Neumann), the human fear of isolation plays an important factor: Individuals observe the majority opinion of their environment and if their own opinion differs from the opinion they perceive as being shared by the majority, individuals are less likely to openly share a diverging opinion and they even tend to join the majority opinion.[13] A German study examined a communication network and confirmed that this phenomenon can also be applied in online scenarios. They found that just 2 – 4 % of bot participation within a communication network can be sufficient to tip over the opinion climate and that the opinion disseminated by social bots was also perceived as the overriding opinion.[14] In so far, the findings constitute evidence for a social bots as a possible mechanism for manipulating the opinion formation online.

As well as the other countries, Germany is not steeled against bot invasion. Even though all political parties in Germany had pledged themselves to refrain from any bot use as propaganda instruments, studies revealed bot activity among all political parties during the 2017 federal election.[15] Furthermore, just like in the US election[16] also in Germany activity of foreign – mostly Russian – bots was tracked.[17]

 

Outview

This makes us reflect about our understanding of a functioning democracy in the times of AI and the importance of social networks in elections and propaganda.

We can see that social bots may have a dangerous effect on the formation of political will and thinking about a scenario in which political parties or even third state actors use these bots on a large scale to win voters and gain political power undermines our democracy and the concept of “the will of the people”. Even though recently a labelling obligation for automated accounts as social bots has been introduced implementation seems rather complicated.[18] In the face of the continuing existence of the social bots, it is even more important to be aware of their use and their capabilities.

 


[1] Woolley, S. Howard, P. (2016). Political Communication, Computational Propaganda, and Autonomous Agents. International Journal of Communication Vol. 10, pp. 4882-4890.

[2] Ferrara, E., Varol, O., Menczer, F., Flammini, A. (2016). The Rise of the Social Bots. Communications of the ACM, Vol. 59 (7), pp. 96 – 104.

[3] Kind, S., Jetzke, T., Weide, S., Ehrenberg-Silies, S., Bovenschulte, M. (2017). Social Bots. TA-Vorstudie. Horizon-Scanning Nr. 3.

[4] Abu Shawar, B., Atwell, E. (2007). Chatbots: Are they Really Useful? LDV-Forum, Vol. 22, pp. 29-49.

[5] Kind, S., Jetzke, T., Weide, S., Ehrenberg-Silies, S., Bovenschulte, M. (2017). Social Bots. TA-Vorstudie. Horizon-Scanning Nr. 3.

[6] Ibid.

[7] Howard, P., Woolley, S., Calo, R. (2018). Algorithms, bots, and political communication in the US 2016 election: The challenge of automated political communication for election law and administration. Journal of Information Technology & Politics, Vol. 15 (2), pp. 81-93.

[8] Kovic, M., Rauchfleisch, A., Sele, M., Caspar, C. (2018). Digital astroturfing in politics: Definition, typology, and countermeasures. Studies in Communication Science, Vol. 18 (1) (2018), pp. 69-85.

[9] Bessi, A., Ferrara, E. (2016). Social bots distort the 2016 U.S. Presidential election online discussion. First Monday, Vol. 21 (11).

[10] BBC News (2016). EU referendum hijacked by bots. 27.06.2016.

[11] Ferrara, E. (2017). Disinformation and Social Bot Operations in the Run up to the 2017 French Presidential Election. First Monday, Vol. 22 (8).

[12] Tagesschau (2018). Mit Social Bots gegen den Migrationspakt, 11.12.2018.

[13] Ross, B., Pilz L., Cabrera, B., Brachten, F., Neubaum, G., Stieglitz, S. (2019). Are social bots a real threat? An agent-based model of the spiral of silence to analyse the impact of manipulative actors in social networks. European Journal of Intermation Systems, 28:4, pp. 394 – 412.

[14] Ibid.

[15] Neudert, L.-M., Kollanyi, B., Howard, P. (2017). Junk News and Bots during the German Parliamentary Election: What are German Voters Sharing over Twitter? Project in Computational Propaganda Data Memo 2017.7.; Keller, T., Klinger, U. (2019). Social Bots in Election Campaigns: Theoretical, Empirical, and Methodical Implications. Political Communication, Vol. 36 (1), pp. 171-189.

[16] Shane, S. (2017). The Fake Americans Russia Created to Influence the Election. The New York Times. 07.09.2017.

[17] Digital Forensic Research Lab (2017). #ElectionWatch: Final Hours Fake News Hype in Germany. 24.09.2017.

[18] Schröder, M. (2018). Rahmenbedingungen der staatlichen Regulierung von Social Bots. Deutsches Verwaltungsblatt, pp. 465 – 536.

, ,

Legal Innovation Talk #3 • Legal Tech: Schrittmacher moderner Rechtsberatung oder Vorbote der Kommerzialisierung des Rechts?

,

Legal Tech Gesetz: Yes or No? – Legal Innovation Talk #3 am 13.01.2020

Stetig drängen neue Legal Tech-Lösungen auf den Rechtsdienstleistungsmarkt. Obgleich es sich um eine Entwicklung handelt, die in ihrer Intensität zunehmen wird und disruptives Potential birgt, fehlt es bislang an einem gesetzlichen Rahmen für Legal Tech-Dienstleistungen.

Dass es sich hierbei nicht bloß um das Problem einer Marktnische handelt, unterstreichen zwei viel beachtete Urteile im November 2019. Zum einen das Verbot des Vertragsgenerators Smartlaw durch das LG Köln, zum anderen eine Entscheidung des BGH, in der das Geschäftsmodell von wenigermiete.de für zulässig erklärt wurde.

Wir wollen mit unseren Gästen darüber diskutieren, in welchem Rahmen künftig Legal Tech-Lösungen angeboten werden sollten und inwieweit die Digitalisierung auf diesem Gebiet für den Gesetzgeber eine rechtspolitische Aufgabe bereit hält. Daher freuen wir uns darüber, als Gäste u.a. Dr. Ulrich Wessels (Präsident der Bundesrechtsanwaltskammer), Dr. Daniel Halmer (Gründer von wenigermiete.de) und Christian Lindemann (Managing Director und COO bei Wolters Kluwer Deutschland) begrüßen zu dürfen und erwarten eine kontroverse Diskussion.

Für Catering und kühle Drinks über den Dächern von Münster ist gesorgt. Im Anschluss an die Diskussion gibt es Gelegenheit zum Kennenlernen und für interessante Gespräche!

Wann: Montag, 13. Januar 2020 um 19 Uhr
Wo: Café 1648 im Stadthaus 1, Heinrich-Brüning-Straße 5, 48143 Münster

Eine Anmeldung ist nicht erforderlich. Bei Rückfragen einfach eine E-Mail an hi@recode.law schicken.

Unseren Dank für ihre Unterstützung richten wir an unsere: Sponsoren Noerr LLP, Baker McKenzie Deutschland, Bird & Bird Deutschland und Wolters Kluwer Deutschland.

,

Fotos Workshop „Build your legal robot!”

Fotos von unserem Workshop am 28.11.2019 in Düsseldorf: „Build your legal robot by recode.law & Baker McKenzie Deutschland”

,

Unblocking Blockchain Vol. 2 – Die Ethereum-Blockchain 

Im Artikel “Unblocking Blockchain – Was ist eine Blockchain und wie funktioniert sie?” haben wir anhand der Bitcoin-Blockchain vertieft dargestellt, was unter einer Blockchain zu verstehen ist und wie die Urform der Blockchain funktioniert. Im Rahmen des Artikels haben wir darauf aufmerksam gemacht, dass für Legal Tech die Ethereum-Blockchain aber von weitaus größerer Bedeutung ist, da auf dieser sog. Smart Contracts ausgeführt werden können. Im Beitrag wird es um die Ethereum-Blockchain gehen. Konkret beleuchten wir zunächst, worin die untechnischen Gemeinsamkeiten und Unterschiede zwischen der Bitcoin- und der Ethereum-Blockchain liegen. Anschließend erläutern wir unter Bezugnahme auf unsere Ausführungen zur Bitcoin-Blockchain grob die Funktionsweise der Ethereum-Blockchain. Dabei werden wir Augenmerk auf die Gründe für den bevorstehenden Wechsel des der Ethereum-Blockchain zugrunde liegenden Verschlüsselungsmechanismus legen. Nicht in diesem Artikel behandelt wird die Funktionsweise von sog. Smart-Contracts. Dazu wird ein separater Beitrag erscheinen.  

 

1. Gemeinsamkeiten und Unterschiede der Bitcoin- und der Ethereum-Blockchain

Beiden Blockchains ist zunächst gemein, dass sie darauf abzielen, ein dezentrales Peer-to-Peer Netzwerk zu schaffen, dass ohne eine zentrale Instanz fälschungssicher Informationen speichern kann. Mit Blick auf die konkrete Zielsetzung der beiden Blockchain-Projekte werden aber bereits die ersten signifikanten Unterschiede deutlich. 

Das Bitcoin-Protokoll wurde 2008 von dem Pseudonym Satoshi Nakamoto entwickelt, um ein alternatives, auf der Kryptowährung Bitcoin basierendes Zahlungssystem bereitzustellen. Durch das Peer-to-Peer Netzwerk sollte ermöglicht werden, elektronisches Geld direkt zwischen Beteiligten des Netzwerks zu transferieren, ohne dass es dafür einer Bank oder ein anderes Finanzinstituts bedarf.1 Die Schaffung eines Peer-to-Peer-Zahlungsverkehrs sei laut Nakamotos Whitepaper notwenig, da das derzeitige Finanzsystem nur unzureichend funktioniert.2 Dem Problem von möglichen Doppelausgaben, das grundsätzlich in einem Peer-to-Peer-Netzwerk ohne zentrale Instanz zur Kontrolle der Zahlungsstöme besteht, könne begegnet werden, in dem die Transaktionen durch eine mathematische Verschlüsselung sicher und fälschungssicher auf der Blockchain aufgezeichnet werden.3 Mit der Bitcoin-Blockchain sollte mithin eine Möglichkeit geschaffen werden, Vermögen sicher aufzubewahren und zu transferieren und mit Bitcoin eine Zahlungseinheit zu schaffen, die herkömmliches zu Geld zu einem gewissen Grad zukünftig ersetzen könnte.4  

Der Zweck, der mit der Schaffung der Ethereum-Blockchain verfolgt wird, geht über den der Schaffung eines alternativen Vermögenswaltungs- und Zahlungssystems weit hinaus. Zwar lässt sie über die Ethereum-Blockchains auch eine Kryptowährung namens Ether (ETH) vergleichbar einem Bitcoin rein digital an andere Netzwerkteilnehmer transferieren.5 Im Gegensatz zur Bitcoin-Blockchain hat die Ethereum-Blockchain allerdings noch eine Vielzahl weiterer Funktionen. Sie ist nämlich programmierbar. Konkret ermöglicht die Ethereum-Blockchain, die schon angesprochenen Smart Contracts zu erstellen. In diesen digitalen “Verträgen” können die Parteien unveränderlich Bedingungen festlegen, die bei Bedingungseintritt automatisch eine Konsequenz auslösen. Wie genau dies funktioniert und welche Anwendungsmöglichkeiten sich daraus ergeben wird in einem weiteren Beitrag erläutert. Aufbauend auf der Programmierbarkeit von Smart Contracts ermöglicht die Ethereum-Blockchain, dass Entwickler auf der Ethereum-Blockchain weitere Applikationen bauen können.6 Diese dezentralen Applikationen (engl. decentralised applications oder “dapps”) sind aufgrund der Blockchain-Struktur nach Programmierung unveränderbar und funktionieren dauerhaft so, wie programmiert.7 Beispiele von dapps, an denen gearbeitet wird bzw. sogar schon zur Verfügung stehen, sind die folgenden: 

  • Sogenannte Cryptocurrency Wallets, die es ermöglichen, günstig und augenblicklich Kryptowährungen zu transferieren;
  • Finanzapplikationen zum (Ver-) Leihen oder Investieren von digitalen Vermögenswerten; 
  • Dezentrale Marktplätze, auf denen digitale Vermögenswerte ausgetauscht oder sogar Transaktionen auf Basis von Events in der realen Welt getätigt werden können; 
  • Spiele, bei denen der Spieler sogenannte in-game assets besitzt und darüber Geld im klassischen Sinne verdienen kann.8

Der Zweck der Ethereum-Blockchain geht folglich über den der Bitcoin-Blockchain als reines alternatives Zahlungsmittel hinaus. Sie soll vielmehr eine Plattform darstellen, auf der die Netzwerkteilnehmer sicher und fälschungssicher Smart Contracts und dapps programmieren und ausführen können. 

Wiederum sehr ähnlich sind sich die beiden Blockchain-Projekte bis dato in der Funktionsweise. Wie wir in unserem letzten Artikel erläutert haben, basiert die Bitcoin-Blockchain auf dem sogenannten Konsens-Mechanismus Proof-of-Work (PoW). Einen vergleichbaren PoW Mechanismus verwendet auch die Ethereum-Blockchain. Die genaue technische Umsetzung unterscheidet sich zwar in einigen Bereichen von dem bei der Bitcoin-Blochchain verwendeten PoW, jedoch ähneln sich beide Systeme stark in den zur Anwendung kommenden Grundprinzipien: Unter Einsatz erheblicher Rechenleistung und damit einhergehendem massivem Energieverbrauch  erzeugen und validieren Miner durch die Lösung mathematischer Rätsel neue Blöcke. Als Gegenleistung erhalten sie eine bestimmte Menge der jeweiligen Kryptowährung. Auf diese Weise werden neue Einheiten der Kryptowährung geschaffen und die Unveränderbarkeit der Blockchain gewährleistet.9 Da die Ethereum Blockchain in Zukunft von PoW zu Proof-of-Stake (PoS) wechseln wird, gehen wir an dieser Stelle nicht genauer auf die Funktionsweise von PoW bei Ethereum ein.10 Nennenswerte Unterschiede zum Bitcoin PoW bestehen aber beispielsweise in der Blockstruktur oder der Funktionsweise des mathematischen Rätsels. Letzteres heißt bei der Ethereum-Blockchain Ethash und funktioniert etwas anders als selbiges bei Bitcoin, so dass auch herkömmliche und nicht nur miningspezifische Hardware – sog. ASICs (application-specific integrated circuits) – für das Mining verwendet werden kann.11

 

2. Proof-of-Stake bei Ethereum – Funktionsweise und Gründe für den Wechsel

PoS ist, wie bereits erwähnt, der Konsensus-Mechanismus, der in Zukunft bei der Ethereum-Blockchain angewendet werden soll. Hierzu haben Vitalik Buterin, Erfinder von Ethereum, und Virgil Griffith, Programmierer und Hacker, im Jahr 2017 das Casper Protokoll entwickelt. Wie jeder Konsensus-Mechanismus dient auch das Casper Protokoll dazu, Transaktionen zu bestätigen, neue Blöcke zu generieren und Konsensus (Übereinstimmung) auf der Blockchain zu erreichen. Ein wesentlicher Unterschied zu PoW ist, dass es bei PoS keine Miner, sondern sog. Validierer (“Prüfer”) gibt.12 Grundsätzlich kann jeder, der Ether besitzt, Validierer werden, indem er eine bestimmte Menge Ether als Einlage (sog. Stake) auf der Blockchain hinterlegt.13 Konkret muss ein Benutzer mindestens 32 Ether einzahlen und zustimmen, dass das gesamte Stake einbehalten wird, sollte er gegen die Regeln des Casper Protokolls verstoßen, um Validierer zu werden. Diese Validierer stimmen dann darüber ab, welche Blöcke zur Blockchain hinzugefügt werden sollen und erhalten dafür eine vom Protokoll bestimmte Rendite in Form von neuen Ether. Sowohl das Gewicht der Stimme als auch die Rendite verhalten sich dabei proportional zur Höhe des Stakes.14

Die Gründe für einen Wechsel von PoW zu PoS sind vielfältig: Energieersparnis und höhere Skalierbarkeit sowie Sicherheit und Dezentralität sind nur einige Vorteile von PoS, die an dieser Stelle genauer erläutert werden. Es wird geschätzt, dass das Mining von Bitcoin und Ethereum Strom- und Hardwarekosten im Wert von über einer Million Dollar pro Tag verbraucht.15 Ein Wechsel zu PoS führt zu immensen Energieeinsparungen, da nur noch ein Bruchteil der Rechenleistung für den Betrieb und die Sicherung der Blockchain notwendig ist. Andererseits stärkt PoS die Dezentralität der Blockchain, da Skaleneffekte wesentlich geringer ausfallen als dies bei PoW der Fall ist. Ein Stake in Höhe von 1000 Ether erbringt wie bereits erwähnt eine exakt 10 mal höhere Rendite als 100 Ether. Bei PoW können Skaleneffekte nämlich nur genutzt werden, wenn sich Miner zu Mining Pools zusammenschließen, die die benötigte Hardware günstiger einkaufen oder sich an Orten niederlassen, wo die Stromkosten besonders niedrig sind, um so überproportionale Gewinne zu erwirtschaften. Dies führt zu einer Zentralisierung der Rechenleistung und somit zu einer Zentralisierung der Blockchain. Ein weiterer Vorteil von PoS ist die höhere Sicherheit, vor allem gegenüber verschiedenen Arten der 51%-Attacke. Diese ist bei PoS wesentlich teurer als bei PoW.  Um eine 51%-Attacke durchzuführen, müsste der Angreifer 51% aller verfügbaren Ether erwerben, was zum jetzigen Zeitpunkt ungefähr 10 Milliarden US-Dollar entspricht. Darüber hinaus müsste ein Angreifer auch gewillt sein, das Risiko einzugehen, sein gesamtes Stake zu verlieren, sollte der Angriff fehlschlagen.16 Als weiterer großer Vorteil ist die bessere Skalierbarkeit zu nennen. Wenn im Ethereum Netzwerk nicht genügend Kapazitäten (Validierer) vorhanden sind, um ein steigendes Transaktionsvolumen zu bewältigen, wird die Rendite erhöht, so dass mehr Benutzer ihre Ether staken und Validierer werden. Wenn zu vielen Benutzer dem Netzwerk als Validierer beitreten, wird die Rendite wieder reduziert. Dies ermöglicht eine effiziente Skalierung: wenn die Nachfrage steigt, wächst die Belohnung, bis das Angebot zu groß wird und die Belohnung wieder reduziert wird.

Bis Ethereum komplett auf PoS umgestiegen ist, wird es allerdings noch einige Zeit dauern. Der Übergang soll in mehreren Phasen durchgeführt werden und Anfang 2020 mit Phase 0 beginnen. Wie lange die komplette Umstellung auf die Ethereum 2.0-Blockchain dauern wird, kann heute jedoch niemand genau sagen.17

 

Moritz Köchling Lukas Friehoff 

 

,

Build your legal robot!

Bewirb dich jetzt: bis einschließlich zum 17.11.2019 hast du die Möglichkeit, dich für eine Teilnahme am kostenlosen Legal Tech Workshop „Build your legal robot by recode.law & Baker McKenzie” in Düsseldorf zu bewerben. Der Workshop richtet sich an Studierende und junge Absolventen rechts- oder wirtschaftswissenschaftlicher oder informationstechnischer Studiengänge. Werde selbst zum Programmierer und entwickle mit BRYTER eine Softwarelösung, die rechtliche Fragestellungen selbstständig lösen kann.

Baker McKenzie lädt uns am 28. November 2019 in das Düsseldorfer Büro mit Blick über den Düsseldorfer Medienhafen ein. Wir treffen Experten aus dem Bereich Kartellrecht und anderen Rechtsbereichen, die sog. “Innovation Ambassadors” von Baker aus Düsseldorf und lassen den Abend gemütlich auf der Dachterasse ausklingen.

Also: Bewirb Dich jetzt bis zum 17. November 2019 um 23:59 Uhr: hier geht zur Bewerbung für die Teilnahme am Workshop!

Wir freuen uns auf Euch und Eure Ideen!

,

Wo befindet sich die Debatte über die Verleihung von Rechtspersönlichkeit an künstliche Intelligenzen?

Der technische Fortschritt schreitet voran. Künstliche Intelligenz spielt Schach, Go und Jeopardy besser als Menschen. Wir bekommen das „Internet of Things“. Die Rechenleistung und Leistungsfähigkeit von Computern steigt und steigt. KI trifft zunehmend selbständig Entscheidungen, die unseren Alltag beeinflussen.

KI ist aber nicht nur besser als wir in Brettspielen und Quizshows, sondern hilft uns auch in der Praxis. Staubsaugroboter, digitale Sprachassistenten oder riesige Datenanalyse-Tools unterstützen uns in unserem Alltag. Aufgrund der zunehmenden Einsatzmöglichkeiten von KI, ihren selbstständigen Entscheidungsprozessen und der fortschreitenden technischen Entwicklung, stellen sich aus rechtlicher Sicht noch viele Fragen? Wer haftet zum Beispiel, wenn dein digitaler Assistent „aus Versehen“ die Dusche anschaltet und einen Wasserschaden bei deinem Nachbarn verursacht? Kann KI selbständig innerhalb von Sekunden Aktien erwerben und wieder veräußern? Kann KI dazu gezwungen werden, sich an Gesetze zu halten? Um für diese Fragen eine Lösung zu finden, müssen wir uns die Frage stellen: Wie ordnen wir sämtliche Formen künstlicher Intelligenz rechtlich ein?

Infolge dieser relevanten Probleme gewinnt die Diskussion über die rechtliche Qualität von KI immer mehr an Bedeutung. Dabei lassen sich grundsätzlich zwei Ansätze erkennen: Einige wollen künstlich intelligente Systeme in vollem Maße rechtlich verselbständigen, andere erkennen überhaupt keinen Handlungsbedarf.

Die Problematik ist auch in der Politik angekommen. Sie wurde in einer Entschließung des Europäischen Parlaments vom 16.2.2017 aufgegriffen. Dort wird zumindest für die „höchstentwickelten künstlichen Intelligenzen“ die Schaffung einer eigenständigen Rechtspersönlichkeit angedacht.[1]  Daran anknüpfend soll dieser Artikel darstellen, wo sich die Debatte über die rechtliche Stellung von KI momentan in der Wissenschaft befindet und was mögliche Lösungsansätze für einen interessengerechten und angemessenen Umgang mit KI sein können.

Was sagen die Befürworter?

Was sagen nun diejenigen, die sich für eine Rechtsfähigkeit von KI einsetzen? Für diese Form von Rechtspersönlichkeit hat sich – vor allem von ihren Befürwortern – der Begriff der „ePerson“ eingebürgert.[2] Grundkonzept ist, dass die künstliche Intelligenz durch die „ePerson“ wie eine natürliche Person am Rechtsverkehr teilnehmen soll. Damit könnte die einen Schaden verursachende KI direkt auf Schadensersatzzahlung in Anspruch genommen werden.

Die Vertreter einer solchen Forderung berufen sich zunächst darauf, dass Rechtspersönlichkeit nicht zwangsläufig mit der Eigenschaft als natürliche Person verbunden sei. Gerade eine Kapitalgesellschaft in Form einer AG oder GmbH sei rechtlich von den hinter ihr stehenden Personen komplett verselbständigt.[3] Die Zurechnung von Entscheidungen einer KI sei ein juristischer Kunstgriff, habe aber mit dem aktuellen Stand der Technik nichts zu tun.[4] Denn eine KI fände ihre Ergebnisse eben nicht mehr nur auf Basis der ihr durch den Menschen vorgegebenen Kriterien, sondern entwickle solche Kriterien selbst.[5] Manche gehen sogar weiter und verkünden, künstliche Intelligenzen hätten in ihren Fähigkeiten den Menschen ein- oder sogar überholt und es sei demzufolge nur konsequent , ihnen Rechtspersönlichkeit zuzusprechen.[6] 

Freilich stützen die Vertreter dieser Ansicht die Forderung nach einer „ePerson“ nicht nur auf rechtsphilosophische Erwägungen wie menschliche Willensfreiheit oder das Persönlichkeitsrecht, sondern auch auf praktische Erwägungen:  Ausgangspunkt sei, dass eine KI keinem durch einen Menschen festgelegten Ablauf mehr folge. Der Betreiber oder Urheber habe somit keinen Einfluss auf die Entscheidungsfindung des Systems. Dadurch entstünde eine Verantwortungslücke, die nach den geltenden rechtlichen Regeln nicht mehr zu bewältigen sei. Der Inhaber des künstlichen Systems wäre durch Einführung der „ePerson“ von der Haftung für ein Verhalten befreit, über das er selbst nicht entschieden hätte.[7] Dabei sei zu beachten, dass der Rechtsverkehr zunehmend durch KI abgewickelt werde.[8] So würden in Zukunft sicherlich auch selbständig Verträge durch KI geschlossen und ausgeführt (so im Falle von smart contracts). Im Ergebnis wäre die Konsequenz ein haftungsfreier Raum – den die selbständige „ePerson“ schließen würde.[9] Die notwendige Haftungsmasse ließe sich zum Beispiel durch Einrichtungen von Pflichtversicherungen beschaffen.[10]

Der Teufel liegt aber im Detail. Denn eine uneingeschränkte Rechtssubjektivität hieße am Ende auch, dass sich KI womöglich sogar auf Grundrechte berufen, dass sie Eigentum erwerben oder Kredite aufnehmen könnten.[11] Solche Konsequenzen wollen viele dann doch nicht ziehen.  Dabei ist den meisten Autoren gemein, dass sie zwischen den verschiedenen Formen der künstlichen Intelligenzen und den durch sie entstehenden Risiken unterscheiden wollen (Smart contracts seien demnach anders zu behandeln als ein Roboter, der Autos zusammensetzt). Sie stehen einer einheitlichen Lösung also ablehnend gegenüber.[12]  Beispielsweise will Teubner im Bereich der Willenserklärungen künstlichen Intelligenzen beschränkte Rechtssubjektivität verleihen, damit sie als Stellvertreter bindende Verträge für andere abschließen können.[13] 

Was sagen die Gegner?

Dagegen stehen diejenigen, die im Ergebnis an den bestehenden Regelungen festhalten wollen. Auch hier wird vieles vertreten. Gemein ist allen lediglich die strikte Ablehnung jeglicher Form von rechtlicher Eigenständigkeit für künstliche Intelligenzen.

Zunächst wird mit dem Wesen des Rechtssubjekts argumentiert. Hinter jedem Rechtssubjekt stünde am Ende eine natürliche Person, der Mensch bleibe „Anknüpfungspunkt jeder Verantwortlichkeit“.[14] Zu einer Behandlung von KI als „Subjekt“ fehle es an einem wirklichen Verständnis für das Handeln. Auch der Vergleich einer „ePerson“ mit der Kapitalgesellschaft hinke, denn diese sei in ihrem Handeln letzten Endes doch auf natürliche Personen angewiesen.[15]

Insofern ist nach dieser Auffassung die juristische Konsequenz recht simpel: Das bestehende zivilrechtliche Instrumentarium sei ausreichend, es müsse lediglich im Einzelfall durch Rechtsfortbildung ausgelegt werden.[16]  Demzufolge muss entweder der Hersteller oder aber der Nutzer einer KI haftbar gemacht werden und die Zurechnung von Willenserklärungen durch die Anwendung der §§ 116 ff BGB erreicht werden. Teilweise wird auch explizit auf den jetzigen Stand der Technik abgestellt: Die heutzutage existierenden Systeme seien jedenfalls noch nicht ausgereift genug, um eine „Aufwertung“ vom Rechtsobjekt zum Rechtssubjekt zu rechtfertigen.[17]

Bemerkenswert ist, dass der Vorstoß des Europäischen Parlaments gerade von Nichtjuristen kritisch gesehen wird. So hat sich eine Gruppe aus 285 KI-Forschern, Ärzten, Philosophen, Theologen und Unternehmern in einem offenen Brief gegen die ePerson ausgesprochen.[18] Sie stellen neben dem Menschen als Ausgangspunkt jedes rechtlich relevanten Handelns vor allem eine technische Betrachtung in den Vordergrund: Die Fähigkeiten der im Moment eingesetzten KI seien schlicht und ergreifend überschätzt.[19] 

Fazit

Die Debatte findet auf zwei Ebenen statt: Zunächst wird rechtsphilosophisch gestritten, ob KI ein „Subjekt“ im rechtlichen Sinne sein kann. Andererseits stellen sich konkrete rechtliche Probleme, zu deren Handhabung unterschiedliche Lösungsansätze vorgeschlagen werden.

Abhängig ist die Diskussion vor allem von den technischen Fortschritten in den nächsten Jahren, die sich sehr schlecht prognostizieren lassen. Können wir wirklich behaupten, dass die Fähigkeiten von KI überschätzt werden? Und was gilt dann erst in fünf oder zehn Jahren?

Für die hinter der rechtlichen Problematik stehenden philosophischen und ethischen Fragen müssen wir als Gesellschaft eine Lösung finden: Welche gesellschaftliche Position soll KI zukünftig innehaben? Wieviel Macht darf KI erhalten? Wollen wir einen Roboter tatsächlich wie einen Menschen behandeln? Und wenn ja – wollen wir moderne Sklaven oder gleichberechtigte Mitglieder der Allgemeinheit? Diese Fragen müssen wir beantworten, früher oder später.

Innerhalb kurzer Zeit ist diese Problemstellung zur „derzeit dringendsten Frage im IT – Recht“ avanciert.[20] Die in der Fachliteratur vorgebrachten Erwägungen werden zunehmend vielschichtiger.  Auch in der Politik ist Handlungsbedarf erkannt worden: Der Deutsche Bundestag hat 2018 eigens eine Kommission für KI eingesetzt, die bis 2020 eine Handlungsempfehlung im Umgang mit KI formulieren soll.[21] Die Europäische Kommission beschäftigt sich momentan mit den vorgebrachten ethischen und moralischen Fragen und hat dazu eine Expertenrunde einberufen.[22] Die Ergebnisse dieser Gremien werden für die zukünftige rechtliche Handhabung von KI entscheidend sein. Eine differenzierte und zufriedenstellende Lösung ist aber im Hinblick auf den immer stärkeren Einfluss von KI auf unseren Alltag dringend erforderlich.

 

Till von Poser     Madeleine Maschke


[1] http://www.europarl.europa.eu/doceo/document/A-8-2017-0005_EN.html?redirect, Art. 59, Ziffer f; zuletzt abgerufen am 7.6.2019

[2] Wettig/Zehendner, A legal analysis of human and electronic agents, S. 112, 1.2, 2004https://link.springer.com/content/pdf/10.1007%2Fs10506-004-0815-8.pdf; zuletzt abgerufen am 7.6.2019

[3] Wettig/Zehendner,  S. 128, 4.1

[4] Teubner, Digitale Rechtssubjekte, S. 19; https://www.jura.uni-frankfurt.de/69768539/TeubnerDigitale-RechtssubjekteAcP-18Dez17.pdf; zuletzt abgerufen am 7.6.2019

[5] Teubner, S.15

[6] Matthias, Automaten als Träger von Rechten, S. 270, 2. Aufl., 2010

[7] Wettig/Zehendner, S. 128, 4.1Mayinger, Die künstliche Person, S. 227 ff, 2017

[8] Matthias, S. 113

[9] Mayinger, S. 230

[10] Matthias, S. 244

[11] Mayinger, S. 233 ff.; Wettig/Zehendner, S. 97 ff.

[12] Specht/Herold, MMR 2018, S. 40

[13] Teubner, S. 38

[14] Grapentin, Die Erosion der Vertragsgestaltungsmacht durch das Internet und den Einsatz Künstlicher Intelligenzen, S. 88, 2018

[15] Eidenmüller, The Rise of Robots and the Law of Humans, Oxford Legal Studies Research Paper No. 27/2017, S. 13

[16] BGHZ 195, 126, Rn. 17; MüKo – BGB/Busche, Vor § 145,  Rn. 37

[17] https://www.plattform-i40.de/PI40/Redaktion/DE/Downloads/Publikation/kuenstliche-intelligenz-und-recht.pdf?__blob=publicationFile&v=2 , S. 7; zuletzt abgerufen am 7.6.2019

[18] Den Brief findet man hier: http://www.robotics-openletter.eu; zuletzt abgerufen am 7.6.2019

[19] Ebenda

[20] Specht, NJW 2018, S. 3686

[21] https://www.bundestag.de/ausschuesse/weitere_gremien/enquete_ki; zuletzt abgerufen am 7.6.2019

[22] https://ec.europa.eu/commission/news/artificial-intelligence-2019-apr-08_de; zuletzt abgerufen am 7.6.2019

,

Regulierung von Legal Tech in Deutschland – Ein Überblick

Angebote für eine digitale Rechtsberatung werden in Deutschland immer beliebter. Mögliche Anwendungsfelder reichen etwa von Fluggastentschädigungen (z.B. flightright.de), über die Durchsetzung der Mietpreisbremse (z.B. wenigermiete.de) bis hin zu Schadensersatzforderungen im Dieselskandal (z.B. myright.de). Verbraucher können mittels solcher Legal-Tech-Portale ohne eigenes wirtschaftliches Risiko Ansprüche geltend machen. Dies gilt insbesondere auch für kleinere Forderungen, bei denen bislang Aufwand und Ertrag in einem Missverhältnis zueinander standen. Dieses rationale Desinteresse wird nunmehr durch die automatisierte Geltendmachung von Forderungen überwunden. Der Zugang zum Recht wird erleichtert. Gleichwohl wird in Deutschland teils heftig um die Regulierung von Legal-Tech-Angeboten gestritten. Denn rechtlich bewegen sie sich in einer Grauzone. Grund genug für einen ersten Überblick zur aktuellen Rechtslage und zu möglichen Reformbestrebungen.

Rechtsberatung oder Inkassodienstleistung?

Außergerichtliche Rechtsdienstleistungen werden in Deutschland durch das Rechtsdienstleistungsgesetz (kurz: RDG) geregelt. Erklärtes Ziel des RDG ist es, die Rechtssuchenden, den Rechtsverkehr und die Rechtsordnung vor unqualifizierten Rechtsdienstleistungen zu schützen. Dabei gilt ein Verbot mit Erlaubnisvorbehalt. Die selbstständige Erbringung außergerichtlicher Rechtsdienstleistungen ist demnach grundsätzlich verboten und nur in Ausnahmefällen erlaubt. Eine solche Ausnahme ist unter anderem für Inkassodienstleistungen, also die Einziehung fremder Forderungen, vorgesehen.

Von dieser Ausnahme machen auch Legal-Tech-Plattformen derzeit Gebrauch. Sie sind häufig als Inkassounternehmen zugelassen und können auf diesem Wege ebenfalls Rechtsdienstleistungen erbringen, ohne dabei den berufsrechtlichen Beschränkungen für Rechtsanwälte zu unterliegen. So dürfen Anwälte beispielsweise keine Erfolgshonorare vereinbaren oder die Gerichtskosten oder Kosten der Gegenseite übernehmen. Bei Legal-Tech-Angeboten ist dies hingegen gängige Praxis.

Gegen den Umweg über die Inkassoklausel wird von Kritikern eingewendet, dass sich die genannten Portale nicht auf eine bloße Inkassotätigkeit beschränken würden. Vielmehr liege der Schwerpunkt faktisch auf einer unzulässigen Rechtsberatung. Die Rechtsanwälte seien wiederum durch ihr strenges Berufsrecht gegenüber den digitalen Konkurrenzprodukten benachteiligt. Dies gelte beispielsweise auch für Finanzierungsfragen. Die Entwicklung innovativer Software ist teuer. Zugleich verbietet die Bundesrechtsanwaltsordnung (kurz: BRAO) Kapitalbeteiligungen. Wenn sich aber Kapitalgeber nicht an Rechtsanwaltsgesellschaften beteiligen können, wird die Entwicklung digitaler Angebote durch Rechtsanwälte selbst erschwert.

Im Detail sind hier viele Rechtsfragen noch ungeklärt. Dies gilt beispielsweise für die zivilrechtlichen und prozessualen Auswirkungen von Verstößen gegen das RDG auf die Mandantenbeziehung, die Verknüpfung von Inkassodienstleistung und Prozessfinanzierung, sowie die Inkassodienstleistung für künftige Forderungen. Entsprechend war die Qualifikation von Legal Tech als Rechtsdienstleistung bereits mehrfach Gegenstand von Gerichtsverfahren. So gibt es beispielsweise mehrere, voneinander abweichende landgerichtliche Urteile zu der Frage, ob das Geschäftsmodell von wenigermiete.de rechtlich zulässig ist oder nicht. Die mit Spannung erwartete mündliche Verhandlung des Bundesgerichtshofs zu dieser Frage wurde nun vom 12. Juni 2019 auf den 16. Oktober 2019 verschoben (Az. VIII ZR 275/18).

Aktuelle Reformbestrebungen

Auch die Legislative beschäftigt sich derzeit mit den Rechtsgrundlagen für Legal Tech in Deutschland. Im November 2018 hat die Bundesregierung eine entsprechende Kleine Anfrage der FDP-Bundestagsfraktion beantwortet (BT-Drucksache 19/5438). Die Bundesregierung prüfe etwa eine Lockerung des Verbots der Fremdkapitalbeteiligung. Bezüglich zahlreicher Fragen verwies die Bundesregierung hingegen auf die Gerichte, schließlich seien diese für die Auslegung von Rechtsnormen zuständig.

Im April 2019 brachte wiederum die FDP-Fraktion einen Gesetzentwurf zur Modernisierung des Rechtsdienstleistungsrechts in den Bundestag ein (BT-Drucksache 19/9527). Nach diesem Entwurf soll die automatisierte Erbringung außergerichtlicher Rechtsdienstleistungen ausdrücklich erlaubt werden. So soll durch eine Änderung des RDG eine ausdrückliche Lizenz für Legal-Tech-Angebote geschaffen werden. Voraussetzung für den Erwerb einer solchen Lizenz wären hinreichende Rechtskenntnisse im angebotenen Rechtsgebiet sowie entsprechende technische Kenntnisse. Des Weiteren sind Aufklärungspflichten gegenüber Verbrauchern und Mitwirkungspflichten von im Sinne des RDG qualifizierten Personen vorgesehen. Schließlich soll auch das Bürgerliche Gesetzbuch und die BRAO angepasst werden, um die Vorgaben für Legal-Tech-Anbieter und Rechtsanwälte anzunähern. Ob der Entwurf die Zustimmung des Bundestags finden wird, bleibt abzuwarten.

Im Juni 2019 hat sich auch die Justizministerkonferenz im Rahmen eines Berichts zum Thema Legal Tech geäußert (vgl. die Pressemitteilung). Nach dem Willen der Justizminister der Länder sollen derartige Portale zukünftig nur noch von Anwälten betrieben werden dürfen, um die Qualität der Rechtsberatung zu sichern. Entsprechend müsse auch das anwaltliche Berufs- und Gebührenrecht überprüft werden. Ein allgemeiner Erlaubnistatbestand für automatisierte Rechtsdienstleistungen sei allerdings aufgrund der vielen unterschiedlichen Modelle abzulehnen. Auch der Deutsche Anwaltsverein und die Bundesrechtsanwaltskammer haben sich wiederholt gegen eine Öffnung des RDG ausgesprochen, da die Rechtsberatung der Anwaltschaft vorbehalten bleiben müsse.

Fazit

Der Rechtsrahmen für Legal Tech in Deutschland ist durch eine große Rechtsunsicherheit geprägt. Viele Einzelfragen sind noch unklar und beschäftigen derzeit die Gerichte. Der Ausgang dieser Verfahren und die weitere Entwicklung der legislativen Reformbestrebungen bleiben abzuwarten und sollen zukünftig Gegenstand weiterer Artikel von recode.law sein. Dabei ist eine stärkere Regulierung von Legal-Tech-Angeboten keinesfalls zwingend. Auch eine Lockerung der berufsrechtlichen Vorgaben für Rechtsanwälte käme in Betracht. Eines ist jedenfalls klar: Nur ein zeitgemäßer Rechtsrahmen fördert Innovation und den Zugang zum Recht – und damit auch die Ziele der zahlreichen Legal-Tech-Anbieter in Deutschland.

Autor: Leonhard Weitz

,

Big Data, IoT und die Vernetzung der realen und digitalen Welt

Nachdem der Begriff der künstlichen Intelligenz bereits eingehend erläutert wurde, soll in diesem Artikel deutlich gemacht werden, inwieweit Machine Learning und allgemeiner künstliche Intelligenz in einen größeren Prozess der Vernetzung von digitaler und realer Welt über das Mittel der Maschinendaten eingebunden sind. Dabei wird deutlich, welche entscheidende Bedeutung Big Data und das Internet of Things (IoT) für die weitere wirtschaftliche und gesellschaftliche Entwicklung von Ländern haben wird.

Das Phänomen Big Data

Dank der seit ca. 1950 exponentiell steigenden Rechenkraft von Informationsverarbeitungsanlagen[1] und der gleichzeitig damit einhergehenden Professionalisierung und rapiden Weiterentwicklung der Informationstechnologie ist es heute möglich, Datensätze mit Abermillionen von Einzeldaten in Echtzeit zu verarbeiten und auszuwerten. Dieses Phänomen der ständigen Auswertung von riesigen Datenmengen bezeichnet der Begriff „Big Data“. Das Phänomen Big Data geht einher mit einem exponentiellen Wachstum der weltweiten Datenmenge. Im Jahre 2020 werden jährlich mehr als 40 Zettabyte (bzw. 40 Trillionen Gigabyte) an technisch-verarbeitbaren Daten weltweit erwartet.[2] Dies entspricht einem Anstieg von 236 % in den Jahren 2013-2020. Dabei ist anzunehmen, dass sich in diesen Daten enorme Werte verbergen.[3] Jeden Tag werden ca. 2,5 Milliarden Gigabyte an neuen Daten erzeugt[4], allein Google verarbeitet jeden Tag über 3,5 Milliarden Suchanfragen weltweit[5]. Die Wertschöpfung aus der Analyse solcher Datensätze geschieht dabei im Wege eines sog. „Data Value Cycle“. Zunächst werden in irgendeiner Form Daten erzeugt, die Aufschluss geben über gewisse Eigenschaften, Verhaltensweisen oder Ereignisse. Einzelne Daten werden daraufhin „gepoolt“, also zu riesigen Datensätzen zusammengeschlossen, mit denen dann Data Analytics Tools „gefüttert“ werden. Aufgrund der Auswertung der Analysewerkzeuge werden letztendlich Entscheidungen getroffen, die erneut Daten erzeugen, die wiederum in den Data Value Cycle mit eingehen.[6] Die Speicherung, Sammlung und Verarbeitung von Daten wird zudem heutzutage durch sog. Hadoop-Applikationen massiv erleichtert. Diese Applikationen erlauben es, dass Daten, die auf unterschiedlichen Servern gespeichert sind, dennoch zentralisiert verarbeitet werden können, indem die unterschiedlichen Server mithilfe der Hadoop-Applikationen zu einem  Rechencluster zusammengeschlossen werden (sog. Hadoop Distributed File System, HDFS).[7] Das steigende potenziell verfügbare Datenvolumen steigert gleichzeitig die Effektivität und Reichweite von Big Data. Indem zunehmend in Echtzeit riesige Datenmengen analysiert werden können, werden die gesamte Wissens- und Wertschöpfung in der Gesellschaft vorangetrieben, neue Produkte, Prozesse und Märkte gefördert sowie neue Geschäftsmodelle ermöglicht. Big Data verändert die meisten, wenn nicht sogar alle Sektoren in OECD-Ländern und Partnerländern und steigert damit die wirtschaftliche Wettbewerbsfähigkeit und das Produktivitätswachstum von Volkswirtschaften.[8]

Die “Datafication” der realen Welt

Bis jetzt hat Big Data seine größte wirtschaftliche Bedeutung und Verbreitung (noch) im Bereich der Information & Communication Technologies (ICT).[9] Die „Datafication“, also Digitalisierung von Phänomenen in Binärcode[10], macht aber nicht im Bereich der virtuellen Kommunikation Halt, sondern erfasst immer mehr die „reale Offline-Welt“. Durch Sensoren (deren Einsatz massiv durch die immer weiter sinkenden Produktionskosten gefördert wird), also bspw. durch Kameras, Temperaturmessgeräte, Infrarotmessgeräte oder das gerade im Bereich des automobilen Fahrens sehr relevante LIDAR-System[11], die physikalische Begebenheiten und Ereignisse erfassen, speichern und in digitalisierter Form transferieren, wird die reale Welt in allen ihren Details digitalisiert.[12] Geschätzt werden heutzutage ca. 30 Millionen vernetzte Sensoren eingesetzt, wobei diese Zahl jedes Jahr um ungefähr 30 % steigt.[13] Das von Sensoren erzeugte Datenvolumen wird besonders deutlich, wenn man sich verdeutlicht, dass für das Jahr 2020 allein geschätzt 250 Millionen vernetzte Fahrzeuge erwartet werden (und die Zahl an Smartphones, Smartwatches etc. noch wesentlich höher liegt[14]). Daten, die von Sensoren in Maschinen, also eine bestimmte Funktion erfüllenden technischen Geräten, erzeugt und kommuniziert werden, sollen Maschinendaten genannt werden. Dabei ist der Begriff Maschinendaten auch deshalb so passend, weil er Daten umfasst, die nicht hauptsächlich der direkten Kommunikation unter Menschen dienen, sondern vielmehr auf eine Maschine-zu-Maschine-Kommunikation (M2M-Kommunikation) zugeschnitten sind. Genauso wie das gewöhnliche Internet hauptsächlich dazu dient, Kommunikation zwischen Menschen zu ermöglichen, soll das sog. „Internet of Things“ (IoT) dazu dienen, einzelne Smart Devices zu vernetzen und durch automatischen Informationsaustausch effektivere, bessere Entscheidungen herbeizuführen.[15] Ideales Beispiel ist hier der Straßenverkehr: Durch die wachsende Anzahl an Automobilen in Deutschland, kommt es aufgrund zu starker Fahrbahnauslastung zu immer mehr Staus.[16] Indem jedes einzelne Fahrzeug im Straßenverkehr mit allen anderen Fahrzeugen vernetzt wäre und diese dadurch gegenseitig ihre Position kennen würden, könnte jedes Fahrzeug sich harmonisch auf den derzeitigen Verkehrsfluss einstellen und damit effektiv Stau verhindern.[17]

Big Data umfasst sämtliche Bereiche des gesellschaftlichen Zusammenlebens: Kommunikation, Verkehr[18], Medizin[19], Stadtverwaltung[20], Landwirtschaft[21], Musik[22], aber ganz besonders die Industrie. Unter dem Schlagwort „Industrie 4.0“ wird diskutiert, wie Big Data in Verbindung mit einem spezialisierten “Industrial Internet of Things” gesamte Wertschöpfungsketten und Wirtschaftsmodelle aufbrechen oder zumindest optimieren kann.[23] Durch den Einsatz von auf Fertigungsmaschinen installierten Sensoren, die miteinander vernetzt sind, kann eine weitreichende Analyse und Optimierung der Fertigung gelingen.[24] Ansätze reichen von einer einfachen Verringerung der Fehlerquote bis hin zur „Smart Factory“[25], in der selbstständig Waren nachgeordert und Produktionsabläufe gesteuert werden.

Auch für sog. Smart Contracts bildet das IoT die Grundlage zahlreicher Anwendungsfälle. Smart Contracts bezeichnen automatisch schließbare und ausführbare Verträge, die durch Datenübertragung innerhalb eines Blockchainnetzwerks zu Stande kommen. Smart Contracts ermöglichen unter anderem auch die Verknüpfung von realer Welt und digitalem Blockchainnetzwerk, indem Gegenstände der realen Welt wie bspw. ein Türschloss durch Smart Contracts automatisch gesteuert werden können. Im Rahmen dessen läuft die eigentliche Steuerung der Tür durch Daten ab, die im Blockchainnetzwerk auf bestimmte Art und Weise übertragen und gespeichert werden können, das Blockchainnetzwerk stellt in diesem Fall genau das beschriebene “Internet of Things” dar. Da dieser Artikel nur eine Einleitung in das Thema IoT darstellen soll, verweisen wir schon jetzt auf unseren kommenden Artikel über die genaue Funktionsweise von Smart Contracts. Dieser wird noch deutlicher machen, wie sehr Smart Contracts und IoT als Themenfelder miteinander verbunden sein können.

Maschinendaten und ihre Bedeutung für das Internet of Things

Maschinendaten bilden dabei die Grundlage des IoT. Sie werden für Industrieunternehmen zu einer dritten Größe neben Arbeit und Kapital. Sie sind der Rohstoff, mit dem Unternehmen Wertschöpfung generieren können.[26] Anders als die Analyseergebnisse, die von der Vorauswahl der Daten stark beeinflusst werden, sind die gesammelten Daten selbst zunächst unpolitisch.[27] Ihre Politisierung geschieht mit ihrer Auswahl für einen bestimmten Verwendungszweck.[28] Diese sind sehr vielfältig. Attraktiv sind die riesigen, sich dauerhaft erneuernden Datensätze dabei insbesondere für das Feld des Machine Learning. Dieses zeichnet sich dadurch aus, dass ein Programm nicht wie üblich festgelegte Handlungsschemata abarbeitet, sondern diese im Hinblick auf ein vordefiniertes Ziel selbst entwickelt. Die Entwicklung und Optimierung dieser Handlungs- und Entscheidungsschemata gelingt dabei mithilfe riesiger Datensätze, durch die das Programm „lernt“ (daher auch der Begriff Machine Learning), seine Entscheidungen zu optimieren.[29] 

Maschinendaten sind also gewissermaßen der Kraftstoff, mit dem das IoT betrieben wird. Dadurch kommt ihnen für die zukünftige wirtschaftliche und gesellschaftliche Entwicklung von Ländern und Regionen eine enorme Bedeutung zu. Es wird geschätzt, dass der Big Data-Markt im Jahr 2020 allein in Deutschland 3,8 Mrd. EUR beträgt, weltweit wird für 2019 ein Umsatz von 187 Mrd. USD geschätzt.[30] Der effektive Einsatz von Big Data Tools könnte die Produktentwicklungskosten um bis zu 50 %, die Operationskosten um bis zu 25 % senken und den Nettogewinn damit insgesamt für Industrieunternehmen um bis zu 30 % erhöhen.[31] Volkswirtschaften, die es versäumen, diesen neu hinzugekommenen dritten Kapitalfaktor gewinnbringend einzusetzen, könnten durch aufstrebende „Data Economies“ verdrängt werden.  

Ausblick

Wenn man das Internet of Things schlagwortartig als Vernetzung von digitaler und analoger Welt beschreiben möchte, ergeben sich zahlreiche Fragen. Inwieweit muss die Nutzung und Weitergabe von Maschinendaten reguliert werden? Inwieweit ist sie gemessen an ihrer enormen wirtschaftlichen Bedeutung Stand heute ausreichend geregelt? Inwiefern lässt sich eine Gesellschaft, die durch vernetzte Algorithmen „gesteuert wird“ bzw. zumindest ihr Verhalten anhand dieser Algorithmen ausrichtet, überhaupt durch nationale Gesetze in ihrem Verhalten beeinflussen, gerade angesichts des globalen Spektrums der Datenvernetzung, -nutzung und -speicherung? 

Neben der wirtschaftlichen Bedeutung stellen sich gerade auch Fragen in Bezug auf den Datenschutz und die informationelle Selbstbestimmung des Einzelnen: Wenn das IoT nur durch Big Data funktionieren kann, inwieweit kann der Einzelne realistisch gesehen die Verfügbarkeit von Informationen über sein Verhalten noch steuern?

Gerade die besondere Eigenschaft von Daten, unendlich oft vervielfältigt werden zu können, ohne dass es zu einer Verschlechterung der Nutzung kommt (so genannte Nicht-Rivalität der Nutzung[32]), führt zu einer im Grunde ungebremsten Vervielfältigung und Verbreitung von insb. auch personenbezogenen Daten, durch die potenziell verhaltenssteuernde Algorithmen programmiert werden bzw. aussagekräftige Ergebnisse produzieren können.

Das Internet of Things könnte in Zukunft zusammen mit Big Data also zu einer Veränderung des gesellschaftlichen Zusammenlebens führen und besitzt wirtschaftliche Relevanz für sämtliche Wirtschaftssektoren. Daher ist es unerlässlich, dass sich auch die Rechtswissenschaft vertieft mit diesem Thema auseinandersetzt.

 

Autor: Johannes Kevekordes


[1] Vgl. Routley, Visualizing the Trillion-Fold Increase in Computing Power, 2017 (www.visualcapitalist.com/visualizing-trillion-fold-increase-computing-power/) (geprüft am 07.05.2019).

[2] IDC; DELL EMC, Data Growth, Business Opportunities, and the IT Imperatives – Executive Summary, 2014 (www.emc.com/leadership/digital-universe/2014iview/executive-summary.htm) (geprüft am 07.05.2019).

[3] Picot/Berchtold/Neuburger, in: Kolany-Raiser/Heil/Orwat u.a. (Hrsg.), Big Data und Gesellschaft, 2018, S. 309 (322).

[4] OECD, Data-Driven Innovation (DDI), 2015, S. 20.

[5] Vgl. https://www.internetlivestats.com/google-search-statistics/ (geprüft am 15.05.02019).

[6] Vgl. OECD, DDI, S. 32–33; Kumpf, Smart Cars – eine datenschutzrechtliche Analyse, S. 4.

[7] https://searchdatamanagement.techtarget.com/definition/Hadoop-Distributed-File-System-HDFS (geprüft am 02.05.2019).

[8] Vgl. OECD, DDI, S. 20; Drexl, NZKart 2017 (339).

[9] OECD, DDI, S. 22–25.

[10] Vgl. OECD, DDI, S. 133; Hey, The Data, Information, Knowledge, Wisdom Chain: The Metaphorical link, 2004 (www.dataschemata.com/uploads/7/4/8/7/7487334/dikwchain.pdf), S. 12–13 (geprüft am 07.05.2019); Mayer-Schönberger/Cukier, Big data, 2013, S. 78: To datafy a phenomenon is to put  it in a quantified format so it can be tabulated and analyzed”.

[11] Einen Überblick gibt Mothi Venkatesh auf https://medium.com/playment/a-primer-on-lidar-for-autonomous-vehicles-efa04ab72a94 (geprüft am 15.05.2019)

[12] Kumpf, Smart Cars, S. 19–22; vgl. auch OECD, DDI, S. 141.

[13] OECD, DDI, S. 139–140.

[14] Erwartet werden für 2020 ca. 2, 87 Milliarden Smartphones weltweit, https://www.emarketer.com/Article/Slowing-Growth-Ahead-Worldwide-Internet-Audience/1014045 (geprüft am 07.05.2019); Ericssons Vorstandsvorsitzender sah voraus, dass 2020 ca. 50 Milliarden Geräte gleichzeitig verbunden sein werden, das entspricht 6 Geräten für jeden Erdbewohner in 2020, siehe Ericsson, CEO to shareholders: 50 billion connections 2020, 13.04.2010 (www.ericsson.com/en/press-releases/2010/4/ceo-to-shareholders-50-billion-connections-2020) (geprüft am 07.05.2019).

[15] Vgl. Drexl, NZKart 2017 (339).

[16] https://www.dekra.net/de/adac-meldet-stau-rekord/ (geprüft am 07.05.2019)

[17] Vgl. Friedrich, in: Maurer/Lenz/Winner u.a. (Hrsg.), Autonomous Driving: Technical, Legal and Social Aspects, 2016, S. 317 (S. 331 f.); Kumpf, Smart Cars, S. 19–22.

[18] Proff/Fojcik, Mobilität und Digitale Transformation, 2018, S. 289 ff.; Ukkusuri/Yang (Hrsg.), Transportation Analytics in the Era of Big Data, 2019.

[19] Holzinger/Röcker/Ziefle, Smart Health, 2015.

[20] Alba/Chicano/Luque, Smart Cities, 2017.

[21] Schönfeld/Heil/Bittner, in: Hoeren/Kolany-Raiser (Hrsg.), Big Data in Context: Legal, Social and Technological Insights, 2018, S. 109 ff.

[22] Grünewald-Schukalla/Ahlers/Lücke u. a. (Hrsg.), Big Data und Musik, 2018.

[23] Steven, Industrie 4.0, 2019, S. 13 ff.; Picot/Berchtold/Neuburger, in: Kolany-Raiser/Heil/Orwat u.a. (Hrsg.), Big Data und Gesellschaft, 2018, S. 309 (S. 333 ff.); Noerr LLP/Bundesverband der Deutschen Industrie e. V., Digitalisierte Wirtschaft/ Industrie 4.0, November 2015OECD, DDI, S. 28 mit Verweis auf Jasperneite, Was hinter Begriffen wie Industrie 4.0 steckt, 2012 (www.computer-automation.de/steuerungsebene/steuern-%20regeln/artikel/93559/0/) (geprüft am 02.05.2019).

[24] OECD, DDI, S. 27–28; vgl. für zahlreiche Optimierungsbeispiele BITKOM, Big Data und Geschäftsmodell- Innovationen in der Praxis: 40+ Beispiele, 2015.

[25] Roy, Industrie 4.0 – Gestaltung cyber-physischer Logistiksysteme zur Unterstützung des Logistikmanagements in der Smart Factory, S. 57 ff.

[26] Sadowski, Big Data & Society 6 (2019), 1-12.

[27] Beachte aber SteinmüllerInformationstechnologie und Gesellschaft1993,  S. 212. Eine völlig isolierte Betrachtung von Daten ist nicht möglich.

[28]  Smith, The hidden hand of data bias, 2018 (www.infoworld.com/article/3269060/the-hidden-hand-of-data-bias.html) (geprüft am 02.05.2019); Morgan, 7 Common Biases That Skew Big Data Results, 2015 (www.informationweek.com/big-data/big-data-analytics/7-common-biases-that-skew-big-data-results/d/d-id/1321211?image_number=3) (geprüft am 02.05.2019); siehe zur mgl. Lösung eines sog. Data Bias https://www.research.ibm.com/5-in-5/ai-and-bias/ (geprüft am 07.05.2019).

[29] Siehe auch Sarkar, What lies beneath? Optimization at the heart of Machine Learning, 2018 (https://towardsdatascience.com/a-quick-overview-of-optimization-models-for-machine-learning-and-statistics-38e3a7d13138) (geprüft am 07.05.2019).

[30] Picot/Berchtold/Neuburger, in: Kolany-Raiser/Heil/Orwat u.a. (Hrsg.), Big Data und Gesellschaft, 2018, S. 309 (322).

[31] McKinsey Global Institute, The Age of Analytics: Competing in a Data-Driven World, 2016, S. 29.

[32] Grundlegend dazu mit mathematischer Herleitung Samuelson, review of economics and statistics, 36 (1954), 387–389 (https://www.jstor.org/stable/1925895?seq=1#metadata_info_tab_contents ) (geprüft am 02.05.2019).