Innovation trifft Regulierung: Ein Sandkasten für Künstliche Intelligenz (KI)

1. Ausgangslage

Digitale Innovationen und die Nutzung von Künstlicher Intelligenz (KI) führen zu massiven Veränderungen in nahezu allen Lebens- und Wirtschaftsbereichen. Damit steigt auf Seiten der Unternehmen, dessen Konzepte auf der Nutzung von KI basieren, auch das Bedürfnis, neue Technologien und Geschäftsmodelle vor Marktstart unter realen Bedingungen zu erproben.[1]

Der Entwurf der KI-Verordnung (KI-Verordnung) der EU Kommission vom 21.4.2021 beinhaltet harmonisierte Vorschriften für das Inverkehrbringen und die Inbetriebnahme von KI-Systemen innerhalb der EU.[2] Der Grundgedanke des Entwurfs ist dabei, die Entwicklung von KI-Systemen innerhalb der EU zu fördern und gleichzeitig einer Regulierung zu unterwerfen, die Innovationen im Bereich von KI nicht gefährdet.[3]

Auch die Bundesregierung sieht in KI eine Schlüsseltechnologie. Ihr wird ein hohes Potenzial für zusätzliches Wirtschaftswachstum und Produktivitätszuwächse zugeschrieben. In diesem Kontext hat sie mit der sog. Strategie Künstliche Intelligenz (KI-Strategie) einen Handlungsrahmen ausgearbeitet. Mit ihr verfolgt die Bundesregierung das Ziel, KI-Ökosysteme in Deutschland und Europa weiter auszubauen und den Standort Deutschland in den Bereichen Erforschung, Entwicklung und Anwendung von KI im internationalen Wettbewerb zu stärken.[4]

 

2. Regulatory sandboxes als Mittel der Innovationsförderung

Ein Mittel, um gesetzliche Freiräume zu schaffen und somit technologische Innovationen zu ermöglichen, sind sog. Reallabore (englisch: „Regulatory Sandboxes“).[5]

Der Begriff „Regulatory Sandbox“ stammt ursprünglich aus der Informationstechnik (IT). Hier wurden Sandboxes dazu verwendet, neue potenziell unsichere Codes in einem abgegrenzten Rahmen zu erproben, um auf diese Art und Weise das Risiko für den Nutzer bei Neueinführung auf dem Gesamtmarkt zu reduzieren.[6] Eine allgemein anerkannte Definition von „Reallabor“ bzw. Regulatory Sandbox existiert bislang nicht. Es finden sich für Reallabore und ähnliche Erprobungsprojekte in Forschung, Unternehmenspraxis und Politik weitere Bezeichnungen wie „Experimentierräume“, „Innovationsräume“, „Living Labs“ oder „Realexperimente“.[7]

Regulatory Sandboxes stellen auch in der Rechtswissenschaft keine Neuheit dar. Die überwiegende Zahl dieser Projekte hat sich in der Vergangenheit auf den – traditionell sehr stark regulierten – Finanzbereich konzentriert.[8] Die Akteuere des Finanzmarktes sind reguliert und können nur unter Einhaltung rechtlicher Organisations-, Compliance- und Eigenmittelvorgaben nach Erteilung einer Erlaubnis der Bundesanstalt für Fnanzdienstleistungsaufsicht (BaFin) tätig werden. Das ist eine recht hohe Hürde, die für viele jungen Unternehmen („Start-ups“) im Finanzbereich („FinTechs“) in der Startphase nicht leicht zu nehmen ist. [9]

Das Modell der Regulatory Sandboxes, das bereits erfolgreich in zahlreichen EU-Nachbarländern, aber auch im amerikanischen und asiatischen Raum eingeführt wurde, eröffnet gerade FinTechs die Möglichkeit eines schnellen und kostengünstigen Markteintritts und damit der schnelleren Aufnahme ihrer Geschäftstätigkeit, die unter den hohen regulären aufsichtsrechtlichen Rahmenbedingungen nicht oder nur erschwert möglich wäre.[10] Innovative Geschäftsmodelle können durch Sandboxes unter realen Bedingungen in einem rechtssicheren und abgegrenzten Bereich temporär erprobt werden, ohne bereits zu Beginn sämtliche aufsichtsrechtlichen Anforderungen erfüllen zu müssen.[11]

Befürworter des Konzepts sehen Regulatory Sandboxes als Möglichkeit, Überregulierung zu vermeiden. Kritische Stimmen hingegen weisen auf eine mögliche Aushöhlung gesetzlicher Standards hin.[12] Im Gegensatz zur EU-Kommission und der European Banking Authority (der europäischen Bankaufsichtsbehörde), welche Regulatory Sandboxes als positiv bewerten[13], vertritt die BaFin hingegen eine ablehnende Haltung zu Regulatory Sandboxes. Die BaFin wendet das Aufsichtsrecht grundsätzlich gleichermaßen für etablierte wie für neue Akteure an. Es ist für sie nicht entscheidend, ob ein FinTech eine Finanzdienstleistung mittels Einsatz moderner Technik vertreibt (etwa sog. Robo-Advicer, die ihren Kunden mittels KI ermöglichen, Kapital zu investieren und Vermögen verwalten zu lassen) oder diese Dienstleistung persönlich durch einen Menschen erbracht wird.[14] Für innovative Finanzdienstleister existieren in Deutschland damit keine eigenständigen Rechtsnormen für Zulassungsfragen. Nach dem Grundsatz der aufsichtsrechtlichen Gleichbehandlung der BaFin gilt für diese Unternehmen „gleiches Geschäft, gleiches Risiko, gleiche Regel“ (sog. „level playing field“).[15] Allerdings gilt auch der Grundsatz der Proportionalität, wonach ein FinTech mit einem überschaubaren oder einfachen Geschäftsmodell ein schlankeres regulatorisches Set-up haben wird als ein voll reguliertes Kreditinstitut.

 

3. Regulatory Sandboxes im Kontext der KI-Verordnung

Der – im April 2021 präsentierte – KI-Regulierungsentwurf der EU-Kommission enthält als Maßnahmen zur Innovationsförderung nun ausdrücklich die Möglichkeit der Verwendung von Reallaboren.

Gemäß Artikel 53 der KIV bieten KI-Reallabore, die von den zuständigen Behörden eines oder mehrerer Mitgliedstaaten oder vom Europäischen Datenschutzbeauftragten eingerichtet werden, eine kontrollierte Umgebung, um die Entwicklung, Erprobung und Validierung innovativer KI-Systeme für einen begrenzten Zeitraum vor ihrem Inverkehrbringen oder ihrer Inbetriebnahme nach einem spezifischen Plan zu erleichtern.[16] Diese eröffnen die Möglichkeit der Erprobung von Innovationen auf dem Gebiet von KI.[17]

Die Modalitäten und Bedingungen für den Betrieb der KI-Reallabore werden in Durchführungsrechtsakten festgelegt, vgl. Artikel 53 Absatz 6 KI-Verordnung. Artikel 55 sieht zudem Maßnahmen der Mitgliedsstaaten für sog. small-scale Anbieter und Nutzer vor. Unter „small-scale Anbieter“ sind hierbei gemäß Artikel 3 Absatz 3 KI-Verordnung Kleinst- oder Kleinunternehmen im Sinne der Empfehlung 2003/361/EG der EU-Kommission zu verstehen. Gemäß Artikel 55 sollen die Mitgliedstaaten beispielsweise Kleinanbietern und Start-ups einen vorrangigen Zugang zu den AI Regulatory Sandboxes gewähren, sofern sie die Förderbedingungen erfüllen.

 

4. Ausblick

KI-Reallabore sind nicht als rechtsfreie Räume für junge innovative Unternehmen zu verstehen, in denen sie nach Belieben agieren können, ohne sich dabei an geltende Rechtsnormen zu halten. Vielmehr schaffen sie einen regulatorischen Rahmen für neue Unternehmen und ermöglichen damit eine Entwicklung des Unternehmens hin zu einem vollregulierten Marktteilnehmer.[18] Sie bieten die Möglichkeit der Überprüfung, wie neue innovative Technologien im bestehenden regulatorischen Umfeld funktionieren und bieten hierdurch auch dem Gesetzgeber die Chance, wichtige Erkenntnisse zu gewinnen, ob und an welchen Stellen Regelungsbedarfe bestehen.

 

[1] EU-Kommission, Weissbuch Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen, S. 1 ff.

[2] Ebert/Spiecker gen. Döhmann: Der Kommissionsentwurf für eine KI-Verordnung der EU in NVwZ 2021, Heft 16, S. 1188.

[3] EU-Kommission, Weissbuch Zur Künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen, S. 1 ff.; Valta/Vasel: Kommissionsvorschlag für eine Verordnung über Künstliche Intelligenz, ZRP 2021, Heft 5, S. 142.

[4] Vgl. Strategie Künstliche Intelligenz der Bundesregierung, Fortschreibung 2020, S. 2 ff, abrufbar unter: https://www.ki-strategie-deutschland.de/files/downloads/201201_Fortschreibung_KI-Strategie.pdf (zuletzt abgerufen am 13.10.2021).

[5] Bundesministerium für Wirtschaft und Energie, Neue Räume, um Innovationen zu erproben, Konzept für ein Reallabore-Gesetz, S. 2 ff.

[6] Wendt, CF Nr. 11-12/2020, 366, 367; Global Financial Innovation Network, Consultation document, 2018, S. 17.

[7] Bundesministerium für Wirtschaft und Energie, Freiräume für Innovationen – Das Handbuch für Reallabore, Juli 2019, S. 9.

[8] Nathmann, CF Nr. 07-08, S. 248; https://www.bafin.de/DE/Aufsicht/Uebergreifend/

UnerlaubteGeschaefte/unerlaubtegeschaefte_node.html (zuletzt abgerufen am 13.10.2021).

[9] Möslein/Lordt, ZIP 2017, S. 797.

[10] Vgl. etwa BMWi, Freiräume für Innovation – Das Handbuch für Reallabore, S. 12.

[11] Wendt, CF Nr. 11-12/2020, 366; Krimphove/Rohwetter: Regulatory Sandbox – Sandkastenspiele auch für Deutschland?, BKR 2018, 495.

[12] Krimphove/Rohwetter: Regulatory Sandbox – Sandkastenspiele auch für Deutschland?, BKR 2018, 494, 496 f.

[13] Möslein/Omlor: Die europäische Agenda für innovative Finanztechnologien (FinTech) (BKR 2018, 239)¸ FinTech-Aktionsplan (Fußn. 1), S. 9 f.

[14] https://www.bafin.de/SharedDocs/Veroeffentlichungen/DE/Reden/

re_171130_verbraucherschutzforum_p.html (zuletzt abgerufen am 13.10.2021); Gurlit, WM

2016, S. 2060 ff.

[15] https://www.bafin.de/SharedDocs/Veroeffentlichungen/DE/Pressemitteilung/

2016/pm_160628_FinTechs.html (zuletzt abgerufen am 13.10.2021).

[16] Art. 53 Absatz 1 KI-VO.

[17] Vgl etwa Grundlage: Begriff und Funktionen von Experimentierklauseln Noerr LLP / B-1719-2019, 29951741_1, Seite 16 ff.

[18]Eberle, Die „Regulatory Sandbox“, LR 2020, 175