Am 19.02.2020 hat die europäische Kommission ihr Whitepaper „Zur künstlichen Intelligenz – ein europäisches Konzept für Exzellenz und Vertrauen“ veröffentlicht. Aufgrund der fortschreitenden Entwicklung von KI-basierten Systemen und deren Einsatz sieht die Kommission eine Angleichung des rechtlichen Rahmens an diese Technologie für notwendig an. Neben komplexen Haftungsfragen stellen sich im Zusammenhang mit KI u.a. Risiken hinsichtlich möglicher Diskriminierungen durch KI oder fehlender Transparenz von KI-Systemen.

Der folgende Aufsatz stellt in Grundzügen dar, inwieweit – nach Ansicht der europäischen Kommission – der bestehende Rechtsrahmen auf KI-basierte Systeme weiterhin anwendbar ist und in welchen wirtschaftlichen und sozialen Bereichen neue und weitreichendere Regelungen nötig sind.

 

Status Quo – Wo steht Europa derzeit beim Einsatz von KI?

Der aktuelle Stellenwert Europas in der Entwicklung von auf KI basierenden Systemen ist zweigeteilt. Einerseits nimmt Europa aufgrund seiner weitreichenden Forschungsexpertise bereits heute eine gewisse Vorreiterrolle in Fachbereichen der Quanteninformatik und der algorithmischen Grundlagen ein.1COM (2020) 65 final, S. 5 Andererseits wird es in Zukunft vor allem darauf ankommen, die einzelnen Fachdisziplinen wie beispielsweise das maschinelle Lernen, „Deep Learning“ und symbolische Ansätze miteinander zu verbinden, um Synergien nutzbar zu machen.2COM (2020) 65 final, S. 6 f. Zudem gilt es den aktuell bestehenden Defiziten in den Bereichen der Verbraucheranwendungen und Online-Plattformen gegenüber Anbietern aus Nordamerika und Asien entgegen zu treten, um künftig auch in diesen Bereichen voll wettbewerbsfähig zu sein.3COM (2020) 65 final, S. 5.

 

Geplante Maßnahmen zur Förderung von KI-Anwendungen

Die Kommission hat vor, bis zum Ende des Jahres 2020 allen Mitgliedsstaaten einen umfangreichen Maßnahmenplan zur Förderung von KI-Anwendungen vorzulegen, um eine gesamteuropäische Teilhabe an den Entwicklungen von KI-Anwendungen sicherstellen zu können.4COM (2020) 65 final, S. 6.

Weiter plant die Kommission europaweit die Errichtung neuer Test- und Entwicklungszentren, um bereits vorhandene Anwendungen bündeln und bestmöglich nutzbar machen zu können. Auch die Schaffung eines eigenen Rechtsinstruments ist in diesem Zusammenhang denkbar.5COM (2020) 65 final, S. 7.

Für eine erfolgreiche Entwicklung ist es zudem unerlässlich, weiter die Forschung und Entwicklung zu fördern. Hierzu sieht die Kommission die Förderung von Universitäten und Forschungseinrichtung im Rahmen des Programmes „digitales Europa“ vor. Hierdurch soll zum einen die Entwicklung von KI-Anwendungen vorangetrieben und zum anderen ein positiver Effekte auf dem Arbeitsmarkt erreicht werden.6COM (2020) 65 final, S. 8. Zur Erreichung einer effektiven und nachhaltigen Vernetzung der einzelnen Länder bei der Entwicklung von KI-Anwendungen plant die Kommission zudem die Errichtung sog. Innovationszentren. Danach soll in jedem europäischen Mitgliedsstaat eines dieser Zentren errichtet werden, um sowohl eine reibungslose Kommunikation als auch einen ungehinderten Datenaustausch zwischen den Ländern gewährleisten zu können.7Vgl. https://ec.europa.eu/digital-single-market/en/news/digital-innovation-hubs-helping-companies-across-economy-make-most-digital-opportunities ...continue Auch die Eingehung einer neuen öffentlich-privaten Partnerschaft im Rahmen der Projektes Horizont Europa scheint sinnvoll. Diese kann eine zielorientierte Koordination zwischen anderen öffentlich-privaten Partnerschaften, den zuvor genannten Test- und Entwicklungszentren und den neu geplanten Innovationszentren schaffen.8COM (2020) 65 final, S. 9.

 

Rechtliche Rahmenbedingungen für den Einsatz von KI

Eine unabdingbare Schranke beim Einsatz von KI-Anwendungen bilden neben den Grundrechten und der Menschenwürde der Pluralismus, die Inklusion, die Diskriminierungsfreiheit, der Schutz der Privatsphäre und der Schutz von personenbezogenen Daten.9Dazu Präsidentin Von der Leyen, Eine Union, die mehr erreichen will – Meine Agenda für Europa, S. 17. Die Kommission bewertet den Einsatz von KI-Anwendungen u.a. anhand der von einer Expertengruppe für den rechtmäßigen Einsatz von KI entwickelten Leitlinien.10COM (2019) 168. Danach bestimmt sich der rechtmäßige Einsatz von KI vor allem anhand der Kriterien des Vorrangs menschlichen Handelns und menschlicher Aufsicht, der technischen Robustheit und Sicherheit, der Privatsphäre und dem Datenqualitätsmanagement, der Transparenz, der Vielfalt, der Nichtdiskriminierung und Fairness, dem gesellschaftlichen und ökologischen Wohlergehen und nach Rechenschaftspflichten.11https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top (zuletzt abgerufen am 06.04.20); COM (2020) 65 final, S. 11.

KI-Anwendungen unterliegen bereits den allgemeinen europäischen Vorschriften über Grundrechte, wie dem Datenschutz und dem Schutz der Privatsphäre, dem Verbraucherschutz oder der Produkthaftung. Hinsichtlich der Problemstellungen in Bezug auf Transparenz, Rückverfolgbarkeit und Steuerung durch den Menschen sind hingegen häufig noch keine klaren Regelungen vorhanden.12COM (2020) 65 final, S. 11.

Um sowohl dem enorm großen Anwendungsbereich von KI als auch dem Interesse der der Entwickler und Anwender an Rechtssicherheit Rechnung zu tragen, schlägt beispielsweise die deutsche Datenethikkommission zur Bewertung von KI-Anwendungen ein fünfstufiges risikobasiertes Regulierungssystem vor.13Vgl. ...continue Dabei werden KI-Systeme in fünf Stufen – von nicht regulierungsbedürftigen Systemen mit einem sehr geringen Risikopotential bis hin zu verbotenen Systemen mit einem sehr hohen Risikopotential – eingeteilt. Hierfür plant die Datenethikkommission die Entwicklung eines Ethiksiegels für Daten.14Vgl. ...continue Andere Staaten ziehen die Einführung von freiwilligen Zertifizierungsverfahren in Betracht, wonach sich Unternehmen – sofern sie die Voraussetzungen erfüllen – bescheinigen lassen können, dass ihr Datenumgang den Regeln der europäischen Gemeinschaft entspricht.15COM (2020) 65 final, S. 12.

Um eine Zersplitterung des Binnenmarktes zu vermeiden, verfolgt die Kommission den Ansatz einer einheitlichen europäischen Regelung. Zum einen stellt die Kommission darauf ab, dass es bereits weitreichende Regelungen gibt, die im Rahmen der Entwicklung und Anwendung von KI-Systemen europaweit zu beachten sind. Namentlich nennt sie beispielsweise die Richtlinie zur Anwendung des Gleichbehandlungsgrundsatzes ohne Unterschied der Rasse oder der ethnischen Herkunft16Richtlinie 2000/43/EG., die Richtlinie über die Gleichbehandlung in Beschäftigung und Beruf17Richtlinie 2000/78/EG., die Richtlinien zur Gleichbehandlung von Männern und Frauen in Arbeits- und Beschäftigungsfragen und beim Zugang zu Gütern und Dienstleistungen18Richtlinie 2004/113/EG; Richtlinie 2006/54/EG., eine Reihe von Verbraucherschutzvorschriften19Beispielsweise Richtlinie 2005/29/EG und Richtlinie 2011/83/EG. sowie die Datenschutz-Grundverordnung und andere sektorspezifische Rechtsvorschriften. Diese Regelungen sollen auch in Zukunft weiter gelten und auf neue Entwicklungen im KI-Bereich angepasst werden.20COM (2020) 65 final, S. 20.

Hinsichtlich der Schaffung eines ergänzenden, neuen Rechtsrahmens verfolgt die Kommission einen risikobasierten Ansatz.21COM (2020) 65 final, S. 20. Durch die Festlegung klarer Kriterien soll dabei der Grundsatz der Verhältnismäßigkeit bestmöglich gewahrt sein. Danach sind sowohl der Sektor als auch die beabsichtigte Verwendung der KI-Anwendung vor allem anhand der Kriterien der Sicherheit, Grundrechte und des Verbraucherschutzes zu untersuchen.22COM (2020) 65 final, S. 20. Offenbart eine KI-Anwendung unter beiden Gesichtspunkten (kumulativ) ein hohes Gefahrenpotential, kommen strenge Regulierungsmaßnahmen oder gar Verbote in Betracht.23COM (2020) 65 final, S. 23. Zudem ist auch die Regelung von Ausnahmefällen vorgesehen, bei denen bereits das Vorliegen eines Kriteriums ein Verbot rechtfertigen kann. Dies kann beispielsweise bei Anwendungen der Fall sein, die mittels Überwachungstechnologie in die Privatsphäre der Menschen eingreifen.24COM (2020) 65 final, S. 21.

 

Fazit

Auch für Europa eröffnen sich im Rahmen der fortschreitenden Entwicklung der KI weitreichende Möglichkeiten. Die Entwicklung muss jedoch auch in Zukunft von einem umfassenden rechtlichen Rahmen begleitet werden. Hierfür reichen die derzeitig vorhandenen Regelungen nicht vollumfänglich aus. Daher wird es in naher Zukunft darauf ankommen, entwicklungsaffine und sektorspezifische Regelungen zu erlassen, die einen rechtssicheren Einsatz von KI-Anwendungen sicherstellen.

Referenzen   [ + ]

1. COM (2020) 65 final, S. 5
2. COM (2020) 65 final, S. 6 f.
3. COM (2020) 65 final, S. 5.
4. COM (2020) 65 final, S. 6.
5. COM (2020) 65 final, S. 7.
6. COM (2020) 65 final, S. 8.
7. Vgl. https://ec.europa.eu/digital-single-market/en/news/digital-innovation-hubs-helping-companies-across-economy-make-most-digital-opportunities (zuletzt abgerufen am 06.04.20).
8. COM (2020) 65 final, S. 9.
9. Dazu Präsidentin Von der Leyen, Eine Union, die mehr erreichen will – Meine Agenda für Europa, S. 17.
10. COM (2019) 168.
11. https://ec.europa.eu/futurium/en/ai-alliance-consultation/guidelines#Top (zuletzt abgerufen am 06.04.20); COM (2020) 65 final, S. 11.
12. COM (2020) 65 final, S. 11.
13. Vgl. https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=6 (zuletzt abgerufen am 06.04.20).
14. Vgl. https://www.bmi.bund.de/SharedDocs/downloads/DE/publikationen/themen/it-digitalpolitik/gutachten-datenethikkommission.pdf?__blob=publicationFile&v=6 (zuletzt abgerufen am 06.04.20).
15. COM (2020) 65 final, S. 12.
16. Richtlinie 2000/43/EG.
17. Richtlinie 2000/78/EG.
18. Richtlinie 2004/113/EG; Richtlinie 2006/54/EG.
19. Beispielsweise Richtlinie 2005/29/EG und Richtlinie 2011/83/EG.
20. COM (2020) 65 final, S. 20.
21. COM (2020) 65 final, S. 20.
22. COM (2020) 65 final, S. 20.
23. COM (2020) 65 final, S. 23.
24. COM (2020) 65 final, S. 21.