Vortrag an der HAW über die KI-Verordnung und die DSGVO

Referat von Herrn Rechtsanwälte Dr. Lodigkeit und Rechtsassessor Weiland via Big Blue Button
Hamburg.

Am 9. November 2021 war die Expertise von Herrn Rechtsanwalt Dr. Lodigkeit und Rechtsassessor Weiland, wissenschaftlicher Mitarbeiter der Kanzlei Lodigkeit Rechtsanwälte, zum Thema Künstliche Intelligenz und Datenschutz im Rahmen des Seminars „Künstliche Intelligenz in der Verwaltung – eine interdisziplinäre Perspektive“ an der Hochschule für Angewandte Wissenschaften Hamburg im Studiengang Public Management gefragt.

Zunächst sprach Herr Rechtsassessor Weiland über das Spannungsverhältnis von Datenschutzrecht und Künstlicher Intelligenz. Es besteht hier ein erhöhtes Konfliktpotenzial. Denn die KI bedarf hinsichtlich der Trainingsdatensätze einen hohen Bedarf an Daten. Nur durch ausreichende Daten beispielsweise beim autonomen Fahren kann die KI funktionieren. Daten sind der Schlüssel zum Erfolg. Die KI ist auf die Datensätze angewiesen, andernfalls wäre eine Entwicklung nicht möglich.

Die Anwendung der KI verletzt eine Vielzahl der in Art. 5 Abs. 1 DSGVO dargelegten Grundsätze. Besonders den Transparenzvorgaben werden solchen KI-Systeme häufig nicht gerecht. Aufgrund der Komplexität der Algorithmen ist es kaum vermeidbar, dass diese Grundsätze verletzt werden. Es besteht verschieden Compliance-Strategien, um diesen Anforderungen dennoch zu entsprechen. Es kommt dabei Anonymisierung oder Pseudonymisierung in Betracht. Weiterhin bietet KI auch die Möglichkeit, dass sie durch Privacy by Design die DSGVO besser Rechnung getragen wird. Hinsichtlich des Black-Box-Phänomens wird eine Datenschutz-Folgeabschätzung schwierig dazustellen sein.

Im Anschluss referierte Herr Rechtsanwalt Dr. Lodigkeit über den Entwurf der EU-Verordnung zur Künstlichen Intelligenz. Die Europäische Kommission hat mit dem Verordnungsentwurf zur Künstlichen Intelligenz (kurz KIVO) vom 21. April 2021 den ersten Rechtsrahmen für Künstliche Intelligenz überhaupt vorgelegt. Der Wettkampf um die KI-Standards weltweit hat begonnen. Auch die US-Bundesregierung hat dazu eine Research-Group eingerichtet. Die Kommission hat

Herr Dr. Lodigkeit stellte den sachlichen, persönlichen und räumlichen Anwendungsbereich der KIVO vor. Die KIVO enthält überwiegend präventive Verbote. Der Rechtsrahmen ist durch einen risikobasierten Ansatz gekennzeichnet. Es wird zwischen einem unannehmbaren, hohen, geringen und minimalen Risiko unterschieden. Je höher der Risikograd, desto höher sind die Anforderungen an die KI. Unannehmbare Risiken werden sogar verboten. Die Hochrisiko-Systeme werden umfassend geregelt. Für diese gelten umfangreiche Pflichten. Bei geringen Risiken gelten lediglich Transparenzpflichten. Bei minimalen Risiken findet die KIVO dagegen keine Anwendung. Unannehmbare Risiken sind gemäß Art. 5 KI-VO verboten. Dazu zählt beispielsweise Social Scoring und Deep Learning.

KI-Systeme im Bereich kritischer Infrastruktur gehören Sicherheitskomponenten in der Verwaltung und im Betrieb des Straßenverkehrs und der Energieversorgung oder im Bereich der Personalausweis beispielsweise ist zwar möglich, aber es bestehen hohe Anforderung an die Nutzung an sog. Hochrisikosysteme gemäß Art. 6 KIVO.

KI mit geringem Risiko, dazu zählen beispielsweise Chatbots müssen entsprechende Transparenzpflichten erfüllen. Weiterhin wurde über Zuständigkeit und Folgen von Verstößen berichtet.

Die Regulierung von KI ist aufgrund des Black-Box-Phänomens ein schweres Unterfangen. Die Komplexität und das Entwicklungspotenzial von Künstlicher Intelligenz macht es schwer, einen einheitlichen Rechtsrahmen festzulegen. Es ist sehr begrüßenswert, dass die Europäische Union

Anbei können Sie die Präsentation zum Thema finden:

Präsentation zu KI und Datenschutz

Präsentation zu KI-Verordnung