Download Handout - PDF
Abstract:
Mit dem Entwurf einer Verordnung zur Festlegung harmonisierter Vorschriften für Künstliche Intelligenz („Gesetz über künstliche Intelligenz“), Dokument (COM(2021) 206 final, vom 21.04.2021, legt die EU-Kommission erstmals einen konkreten Rechtsrahmen für KI-Systeme vor. Dieser soll sicherstellen, dass die mit dem Einsatz von KI verbundenen Vorteile, wie Verbesserung von Prognosen, Optimierung von Abläufen und Ressourcenzuweisung sowie Personalisierung der Diensterbringung insb. für die aktuell besonders im Fokus der öffentlichen Diskussion stehenden Sektoren, Klimaschutz, Umwelt, Gesundheit, Finanzen, Mobilität, Inneres, Landwirtschaft und öffentliche Hand unter gleichzeitiger Minimierung der hiermit verbundenen Risiken voll ausgeschöpft werden können.
Der als Sicherheitsrecht konzipierte Entwurf der KI-Verordnung reguliert vor diesem Hintergrund das Inverkehrbringen, die Inbetriebnahme und Verwendung von Hochrisiko-KI-Systemen durch Anbieter und Nutzer von KI-Systemen innerhalb der EU. Dabei sind Anbieter und Nutzer mit Sitz innerhalb der EU ebenso Adressaten der KI-Verordnung wie solche mit Sitz in Drittstaaten, wenn und soweit die vom KI-System generierten Ergebnisse innerhalb der EU verwendet werden.
Es fehlen hingegen klare Regelungen zur Haftung der Beteiligten sowie zur Einhaltung der Datenschutzgrundsätze, insb. der DSGVO und weiterer Sektor spezifischer Datenschutzregelungen. Sowohl Haftungsrisiken als auch datenschutzrechtliche Anforderungen sind jedoch bei der Konzeption, Entwicklung und Nutzung von KI-Systemen zu beachten, damit sie Marktreife erlangen und in der Praxis gesetzeskonform eingesetzt werden können. Die deutsche Datenschutzkonferenz hatte bereits am 03.04.2019 in ihrer Hambacher Erklärung sieben datenschutzrechtliche Anforderungen an die Entwicklung und den Einsatz von KI-Systemen formuliert, die im Positionspapier vom 06.11.2019 durch Empfehlungen hinsichtlich der technischen und organisatorischen Maßnahmen bei der Entwicklung und dem Betrieb von KI-Systemen ergänzt und konkretisiert wurden.
Der Vortrag erläutert neben Konzeption und Aufbau des Entwurfs KI-Entwurfes die Grundpfeiler der Regulierung von Hochrisiko-KI-Systemen: Qualitäts-Risiko-Management, Anforderungen an Trainings- und Testdaten, Event-Logging und Monitoring(Beobachtungspflichten) und zeigt auf, welche Haftungsrisiken für Hersteller, Anbieter und Nutzer von KI-Systemen entstehen können, und welche Ansätze zur Lösung des Konfliktes zwischen Sicherheitsrecht einerseits und Datenschutzrecht andererseits bei der Umsetzung der Anforderungen der KI-Verordnung in Betracht kommen.
