Artificial Intelligence und Smart Devices – Ethik und Rechtsprechung in Zeiten der Digitalisierung

Smart Devices und Künstliche Intelligenz – das sind Buzzwords des Jahres. 2018 stand und steht ganz im Zeichen digitaler Innovationen. Ob Internet of Things (IoT), Industrie 4.0 oder Digitalisierung allgemein, alles um uns herum wird immer smarter. Unterschiedlich bewertet wird, ob es wirklich schon Artificial Intelligence gibt oder besser nur von maschinellem Lernen gesprochen werden sollte. Was jedoch feststeht: Smarte Gegenstände und damit verbundene Systeme beginnen damit, bestimmte Entscheidungen automatisiert oder quasi autonom zu treffen. Neuronale Netze und Deep Learning ermöglichen neue Möglichkeiten. Was bedeutet Autonomes Fahren, das Smart Home, Digital Health, Blockchain oder Industrie 4.0 für das Recht der Zukunft? Welche Themen haben uns 2018 am meisten bewegt? Welche Entwicklungen und Trends erwarten uns 2019?

Internet der Dinge und Smart Devices

Laut dem Digital Transformation Index von Dell haben erst sechs Prozent der deutschen Unternehmen die digitale Transformation fest in ihrer DNA verankert. Nach der Internet of Things 2018 Studie von Telefonica sind nicht zuletzt Sicherheitsbedenken das größte technische Hemmnis bei der Umsetzung von IoT-Projekten. Die Veränderung von Geschäftsprozessen bildet demnach die größte organisatorische Hürde. Das deckt sich mit den Findings der Agentur für Informationssicherheit der EU (ENISA). Danach ist Cybersecurity der Key Enabler für die Umsetzung von Industrie 4.0 Applikationen. ENISA hat dementsprechend jüngst Good Practices für IoT Security und Smart Manufacturing veröffentlicht.

Im Consumer-Bereich sieht es scheinbar anders aus: Der Smart Home- und Smart Devices-Markt setzte im Jahr 2018 seinen Siegeszug fort. Mit Smart Gagdets oder Sprachassistenten wie Apples Siri oder Microsofts Cortana sind wir mehr connected denn je. IoT Geräte sind zu unseren täglichen Helfern oder Begleitern geworden. Home Automation- und sonstige smarte Gadgets ziehen mit Alexa oder Google Home in unsere Häuser ein. Solche IoT-Produkte sind in einem modernen Zuhause bei der Haussicherheit, Beleuchtung, Unterhaltung oder auch bei Küchenanwendungen vielfach schon nicht mehr wegzudenken. Gleiches bei Wellness und Gesundheit, aber auch ansonsten im Healthtech-Sektor: Auch hier halten Softwarelösungen, die auf Big Data oder Machine Learning setzen, Einzug. Alles wird „Tech“ – Fintech, Autotech, Insuretech etc.

Festzuhalten bleibt: Anbieter von IoT-Plattformen wie Amazon, GE, Google, IBM, Microsoft oder Oracle integrieren A.I.- bzw. Machine Learning-basierte Algorithmen in ihre Produkte. Die entsprechenden Plattformen lernen (teil-)autonome Schritte und könnten bald eigene Entscheidungen treffen. Es scheint eine Frage der nächsten Jahre zu sein, wann solche Systeme den sog. Turing Test bestehen. Damit kann man feststellen, ob eine Maschine ein dem Menschen gleichwertiges Denkvermögen hat. Welche Auswirkungen haben Handlungen und Entscheidungen durch Autonome Systeme?

Eine neue Ethik für Künstliche Intelligenz und die digitale Zukunft?

Die aktuellen Entwicklungen haben sowohl Gesetzgeber als auch Marktteilnehmer bewegt, über eine neue digitale Ethik nachzudenken. Im Einklang mit den Vorgaben des Koalitionsvertrags hat die Bundesregierung eine Datenethikkommission eingesetzt und an diese Leitfragen gestellt. Sie hat zudem ein Eckpunktepapier für eine Strategie Künstliche Intelligenz veröffentlicht. Diverse Verbände wie etwa der Bundesverband Informationswirtschaft, Telekommunikation und neue Medien (Bitkom) oder der Bundesverband digitale Wirtschaft (BVDW) haben Stellungnahmen und andere Handreichungen erstellt, die die aktuelle Haltung von Gesellschaft und Industrie in diversen Bereichen darstellen. Der BVDW hält viele informative Dokumente in seiner Ethik-Bibliothek zum Abruf bereit. Die Initiative D21 hat zudem sehr gute, auf bestimmte Industriesektoren fokussierte Denkimpulse veröffentlicht. Besonders interessant sind auch die Gütekriterien für algorithmische Prozesse und Ethik für Algorithmiker der Bertelsmann Stiftung.

Welche rechtlichen Herausforderungen birgt die Digitalisierung von Alltagsgegenständen?

Eines der vordringlichsten Themen im Hinblick auf Digitalisierung ist der Datenschutz. 2018 war das Jahr der DSGVO – mit Inkrafttreten des harmonisierten Datenschutzrechts in der gesamten EU gibt es unverändert enorme Herausforderungen. Die Aufsichtsbehörden haben vielfach Stellungnahmen erlassen und angekündigt, Prüfungen vorzunehmen. Ein erstes Bußgeld wegen fehlender Verschlüsselung ist bereits verhangen worden. In Kürze sollen weitere Maßnahmen folgen. Manche Behörden stellen sogar Prüfungsübersichten zur Verfügung.

Die DSGVO hält eine Reihe besonderer Hürden für den Einsatz von Künstlicher Intelligenz und Nutzung von Big Data bereit. Datenschutzrechtliche Grundsätze wie Zweckbindung oder Datensparsamkeit können Algorithmen zuwiderlaufen, die auf möglichst breiter Datenbasis „lernen“ sollen. Sofern besonders sensible Informationen verarbeitet werden, wie etwa Gesundheitsdaten, sind besondere Vorgaben zu beachten.

Abgesehen davon sind aber grundsätzliche rechtliche Themen von besonderem Interesse. Momentan wird der Umgang mit Fehlern diskutiert, die durch Algorithmen ausgelöst werden. Die damit zusammenhängenden Haftungsthemen werden zuvörderst im Bereich Smart Home und Autonomes Fahren besprochen. Die rechtlichen Prinzipien gelten wohl gleichermaßen für alle Smart Devices. Im Vordergrund hierbei steht die Frage der Zurechenbarkeit. Wem ist die Handlung einer Maschine zurechenbar? Trägt der Hersteller, der Betreiber oder der Bediener eines (teil-)autonomen Systems die Verantwortung? Teilweise wird vertreten, dass die bestehenden Regelungen ausreichen und keine Anpassungen notwendig sind. Manche sprechen sich für die Fortentwicklung bestehender Konzepte aus, wie z.B. der Tierhalterhaftung. Andere verlangen die Einführung neuer Konzepte, wie z.B. eine Gefährderhaftung, die Gründung eines Haftungsfonds für Roboter oder die Schaffung einer sog. E-Rechtsperson, so dass Maschinen rechtsfähig werden.

Das Thema Zurechenbarkeit gilt aber nicht nur für Haftungsfragen, sondern auch für andere rechtliche Aspekte. In vertragsrechtlicher Hinsicht kann bei Willenserklärungen der vertragliche Bindungswille bei autonomen Maschinenentscheidungen fraglich sein. Aber auch im Immaterialgüterrecht muss man diskutieren, wie und wem schöpferische Leistungen zurechenbar sind. Ist die Maschine „Urheber“, was geschieht mit den von ihr generierten Daten und Erkenntnissen? Im Bereich des Urheberrechts wirft zudem die Lizenzierung von IoT-Devices Fragen der urheberrechtlichen Vergütung auf. Daneben ist noch unbeantwortet, ob und wie ein „Eigentum“ an Daten zu bewerten ist. Sicherlich haben Smart Devices zudem große Auswirkungen auf Endkunden-Verträge.

Neben diesen Themen stehen noch etliche weitere rechtliche Fragen zur digitalen Transformation und insbesondere Smart Devices im Vordergrund. Zum 1. April 2018 trat beispielsweise die sogenannte Portabilitätsverordnung in Kraft. Diese gibt Abonnenten von Online-Diensten die Möglichkeit bei vorübergehenden Aufenthalten im EU-Ausland auf ihren Content zugreifen können. Das könnte Content-Modelle auch im Zusammenhang mit IoT beflügeln, da User ihre Inhalte dann auch über Smart Devices im Urlaub genießen können. Ansonsten wird es interessant sein, wie sich die Bemühungen der EU in Bezug auf den Digital Single Market auf Smarte Geräte auswirken werden. Am 12. September 2018 hat die EU z.B. die Anpassung der Copyright-Richtlinie beschlossen. Die darin unter anderem enthaltene Pflicht zur Einführung von Upload-Filtern könnte sich auch auf IoT-Plattformen nachteilig auswirken.

Was erwartet uns in der nahen Zukunft?

Die Datenschützer werden im Jahr 2019 wohl mit Spannung die Entwicklungen zur sogenannten ePrivacy-Verordnung erwarten. Diese Verordnung soll die datenschutzrechtlichen Vorgaben für Online-Dienste EU-weit reformieren und umfasst vor allem Themen wie Tracking, Cookies und Profilbildung. Der Bitkom hat ein Position Papier zur ePrivacy Regulation und einen Leitfaden zu u.a. Digital Analytics und damit einhergehendem Tracking veröffentlicht. Zuletzt hat die EU am 26. Oktober 2018 über weitere Änderungsvorschläge zum aktuellen Entwurf gesprochen. Sie wird sicherlich ganz wesentliche Auswirkungen auf Smart Devices und IoT und die daraus generierten Daten haben. Zum Teil soll damit auch Machine-to-Machine-Kommunikation geregelt und ggfs. als unter das Fernmeldegeheimnis fallender Vorgang gelten. Das würde bedeuten, dass für IoT-Anwender die strengeren Regeln des Telekommunikationsgesetztes dann gelten könnten. Nach aktuellen Schätzungen dürften die sog. Trilog-Verhandlungen zwischen den zuständigen EU-Organen Anfang 2019 beginnen. Die Verordnung könnte frühestens Ende 2019, möglicherweise auch erst 2021 in Kraft treten. Auch für IoT Plattformanbieter bleibt 2019 spannend: Die EU hat bereits einen Vorschlag für eine Verordnung zur Plattformregulierung veröffentlicht. Ziel ist die Sicherstellung einer angemessenen Transparenz und wirksamer Rechtsbehelfsmöglichkeiten für gewerbliche Nutzer.

In 2019 erwarten wir eine Reihe interessanter Urteile, die sich auf Smart Devices auswirken dürften. Die beim Europäischen Gerichtshof (EuGH) und Bundesgerichtshof (BGH) anhängigen Verfahren klingen vielversprechend. Der EuGH wird z.B. im Verfahren C-193/18 – Google entscheiden müssen, ob E-Mail-Dienste als Telekommunikationsdienste einzuordnen sind. Im Falle eines positiven Bescheids würden sie unter strengere datenschutzrechtliche Regelungen fallen. Dies würde sich auch auf IoT-Produkte auswirken, die eine Kommunikation untereinander erlauben. Der BGH hat dem EuGH ferner am 20. September 2018 in der Sache „Uploaded“ – ZR I 53/17 die Auslegung von Haftungsfragen für Plattformprovider vorgelegt. Das dürfte für IoT-Plattformen von Interesse sein. Für Smart Devices, die über kleinere Screens verfügen, ist sicherlich auch die Vorlage des BGH an den EuGH in Sachen C-430/17 – Walbusch Walter Busch bedeutsam. Sie umfasst auch die Darstellung von Verbraucherinformationen wie beispielsweise der Widerrufsbelehrung auf Medien, die nur einen begrenzten Raum bieten.

Auch ansonsten dürften uns interessante Entwicklungen erwarten. In Bezug auf IoT-Anwendungen dürften nicht zuletzt auch kartellrechtliche Themen zukünftig eine Rolle spielen. Die EU-Kommissionen hatte bereits 2017 den Vorschlag für den Aufbau einer europäischen Datenwirtschaft gemacht. Da Maschinelles Lernen und Künstliche Intelligenz-Funktionen die Erzeugung großer Datenpools erfordern, dürften diese Vorhaben weiter Auftrieb bekommen.

Welche Trends sind 2019 oder der fernen Zukunft zu erwarten?

Nach aktuellen Studien von unter anderem Deloitte und Gartner werden noch mehr Unternehmen Machine Learning-Algorithmen in ihre IoT-Anwendungen integrieren: Bis 2022 sollen mehr als 80 Prozent der IoT-Projekte in Unternehmen eine KI-Komponente beinhalten, gegenüber heute nur zehn Prozent. Die International Data Corporation prognostiziert, dass die Ausgaben für Artificial Intelligence Systems von zwölf Milliarden Dollar im Jahr 2017 auf 57,6 Milliarden Dollar bis 2021 steigen werden. Als Top Technologie-Trends für 2019 sieht Gartner

  • Autonomous Things, also durch Künstliche Intelligenz gesteuerte Roboter und autonomes Fahren,
  • AI-Driven Development sowie
  • Blockchain,

aber auch für Verbraucher relevante „smarte“ Themen wie

  • Immersive Experience (Virtual, Augmented oder Mixed Reality) als auch
  • Digitale Ethik und Datenschutz.

Wir können also getrost sagen, dass wir erst am Anfang einer sehr spannenden technologischen Revolution und digitalen Transformation stehen. Die Entwicklung des Rechts dieser digitalen Zukunft wird nicht weniger interessant sein.