Europa im Überblick, 20/2024

EiÜ 20/24

Die KI-Verordnung ist endgültig beschlossen – Rat

Am 21. Mai 2024 hat der Rat der EU die vom Europäischen Parlament bereits beschlossene KI-Verordnung final angenommen (siehe PM, vgl. auch EiÜ 10/2024). Diese ist die weltweit erste gesetzliche Regulierung von Systemen der künstlichen Intelligenz und soll ein Gleichgewicht zwischen Grundrechtsschutz und KI-Innovation herstellen (wie auch vom DAV gefordert, vgl. DAV-SN Nr. 74/2023 & Nr. 57/2021). Sogenannte „Hochrisiko-KI-Systeme“ müssen zukünftig unter anderem in einer bestimmten Datenbank registriert werden und eine Konformitätsbewertung bestehen. Für KI-Modelle mit allgemeinem Verwendungszweck („general purpose AI“) hingegen bestehen limitierte Transparenzerfordernisse. Entgegen der Forderung des DAV eines absoluten Verbotes (vgl. DAV-SN Nr. 57/2021), ist die Anwendung spezifischer KI-Systeme wie der Einsatz von biometrischen Echtzeit-Fernidentifizierungssystemen zur Strafverfolgung in gesonderten aufgelisteten Fällen erlaubt, während beispielsweise die Bewertung sozialen Verhaltens durch KI („Social Scoring“) vollständig verboten ist. Nach der in Kürze folgenden Veröffentlichung des Rechtaktes im Amtsblatt der EU tritt die Verordnung 20 Tage später in Kraft und ist bis auf spezifische Vorschriften zwei Jahre nach dem Inkrafttreten gültig.

Rahmenkonvention zu KI und Menschenrechten – Europarat

Das Ministerkomitee des Europarates hat am 17. Mai 2024 die Rahmenkonvention über künstliche Intelligenz, Menschenrechte, Demokratie und Rechtsstaatlichkeit verabschiedet (siehe PM). Sie befasst sich mit dem Schutz von Menschenrechten, demokratischer Prozesse und Rechtsstaatlichkeit im Angesicht von KI, und ist somit neben dem AI Act der EU (s.o.) ein weiteres Instrument in diesem Feld, wenn auch mit vergleichsweise eingeschränkten Durchsetzungsmöglichkeiten, vgl. bereits. EiÜ 13/24. KI-Modelle sind laut der Konvention dazu verpflichtet, die Menschenwürde und Diskriminierungsverbote zu respektieren und Transparenz-, Rechenschafts-, und Privatsphärenanforderungen zu entsprechen. Die unterzeichnenden Staaten sind dazu verpflichtet, die von KI ausgehenden Risiken auszuwerten und zu minimieren, und außerdem angemessene Rechtsmittel und Verfahrensgarantien für Opfer von Menschenrechtsverletzungen sicherzustellen. Die Konvention bezieht sich sowohl auf den öffentlichen als auch auf den privaten Sektor, wobei es Staaten bei der Regulierung des Privatsektors selbst überlassen ist, ob sie den Vorgaben der Konvention folgen oder ihre eigenen Maßnahmen treffen. Die Konvention wird grundsätzlich auch Nicht-Mitgliedern offenstehen. An der Aushandlung der Konvention haben u.a. auch die USA, Israel und Japan teilgenommen. Die Konvention wird am 5. September 2024 in Vilnius zur Unterzeichnung ausgelegt.

Finale Annahme des EU-Lieferkettengesetzes – Rat

Am 24. Mai 2024 hat der Rat der EU die Corporate Sustainability Due Diligence Directive (EU-Lieferkettengesetz) final angenommen (vgl. PM in Englisch), nachdem es im März letztlich noch zu einer Einigung der ständigen Vertreter der EU-Mitgliedstaaten gekommen war (vgl. EiÜ 11/24). Betroffen sind Unternehmen mit mehr als 1000 Beschäftigten und einem Jahresumsatz von min. 450 Mio. Euro, deren Tätigkeit von der vorgelagerten Produktion von Waren oder der Erbringung von Dienstleistungen bis hin zum nachgelagerten Vertrieb, Transport oder der Lagerung von Produkten reicht. Die Richtlinie verpflichtet diese zur Wahrung von Menschenrechten und Umweltauflagen entlang ihrer Tätigkeitskette, wovon ihre eigenen Tätigkeiten, die ihrer Tochterunternehmen und die ihrer Geschäftspartner umfasst sind. Bei Verstößen können den Unternehmen Entschädigungszahlungen auferlegt werden. In der Endfassung des Textes (hier) ist ein Erwägungsgrund (EG 43) enthalten, der das anwaltliche Berufsgeheimnis für unberührt erklärt. Eine Bereichsausnahme für die Anwaltschaft, wie in der DAV Stellungnahme Nr. 28/22 gefordert, ist jedoch nicht vorgesehen. Die Mitgliedstaaten haben zur Umsetzung der Richtlinie zwei Jahre Zeit. Für die Anwendung verschiedenen Regelungen ist aber ein gestufter Zeitplan abhängig von der Anzahl der Beschäftigten und der Höhe des Jahresumsatzes vorgesehen.

CPDP-Konferenz: Panel zu den Lehren aus der DSGVO – DAV

Zusammen mit der Zeitschrift Privacy in Germany (PinG) hat der DAV ein Panel im Rahmen der 17. Internationalen CPDP-Konferenz (Computers, Privacy & Data Protection) in Brüssel organisiert. Das von Prof. Niko Härting moderierte Panel vom 24. Mai 2024 widmete sich mit dem Titel „Lessons from the GDPR: Red Lines or Red Tape?” den Lehren, die aus der Datenschutzgrundverordnung (DSGVO) gezogen werden können und müssen, auch vor dem Hintergrund der neuen europäischen Regulierung von künstlicher Intelligenz sowie der Online-Märkte. Verterter:innen des Europäischen Datenschutzbeauftragten (EDPS), der Hamburger Datenschutzbehörde, der London University sowie der Digitalrechte-NGO European Digital Rights (EDRi) gingen u.a. der Frage nach, inwiefern die Befolgung der verfahrensrechtlichen Regelungen der DSGVO aber auch des Digital Services Act (vgl. EiÜ 16/23) sowie des AI Acts (siehe obenstehenden Artikel sowie EiÜ 10/24) zwar von großen Tech-Unternehmen bewerkstelligt werden könnten, kleinere Unternehmen und NGOs aber vor besonders große Herausforderungen stellt. Kontrovers diskutiert wurde ferner, ob anstelle von detaillierten Compliance-Regelungen manche Geschäftsmodelle (wie etwa gezielte Online-Werbung) schlicht untersagt werden sollten, um mehr Rechtssicherheit für alle Beteiligten zu erreichen.

Einstellung des Artikel-7 Verfahrens gegen Polen – Rat

Nachdem die EU-Kommission am 06. Mai 2024 ihre Absicht mitgeteilt hatte, das laufende Artikel-7 Verfahren gegen Polen einzustellen (vgl. EiÜ 18/24), hat der Rat dies nun in seiner Formation für Allgemeine Angelegenheiten am 21. Mai 2024 erörtert, womit der Weg für die Einstellung frei ist (vgl. PM). Dabei stützte er sich auf die von der EU-Kommission durchgeführte Analyse, nach der die „eindeutige Gefahr einer schwerwiegenden Verletzung der Rechtsstaatlichkeit“ gem. Artikel 7 Abs. 1 EUV nicht mehr besteht. Grundlage war der von der polnischen Regierung im Februar 2024 vorgelegte Aktionsplan sowie bereits eingeleitete Schritte zur Wiederherstellung der Unabhängigkeit der Justiz. EU-Kommissionsvizepräsidentin Vera Jourová verkündete nun, die EU-Kommission werde die Entscheidung zur Verfahrensaufnahme von 2017 formell zurückzuziehen, das Monitoring zur Rechtsstaatlichkeit in Polen aber gleichwohl aufrechtzuerhalten.

Non-Refoulement: Aktualisierte Risikobewertung bei Abschiebungen – EuGH

Am 16. Mai 2024 legte Generalanwalt beim EuGH Jean Richard de la Tour seine Schlussanträge in der Rechtssache C-156/23 vor. Im Ausgangsfall ging es um die Vollstreckung einer mehrere Jahre zuvor gegen eine armenische Familie erlassene Rückkehrentscheidung im Zusammenhang mit der Ablehnung eines (neu) gestellten Antrags auf Erteilung eines Aufenthaltstitels. Generalanwalt de la Tour betont in seinen Schlussanträgen, dass nationale Behörden vor der Vollstreckung einer zuvor ergangenen Rückkehrentscheidung eine aktualisierte Risikobewertung hinsichtlich im Falle der Abschiebung drohender Folter oder anderer unmenschlicher oder erniedrigender Behandlung vornehmen müssten und zwar unter Berücksichtigung des (erheblichen) Zeitraums, währenddessen das Verfahren ausgesetzt war (Artikel 5 der Richtlinie 2008/115/EG in Verbindung mit Artikel 19 Absatz 2 GRCh). Wenn die Behörde diese aktuelle Risikobeurteilung nicht vorgenommen hat, müssen die Gerichte im Rahmen einer Rechtmäßigkeitskontrolle von Amts wegen prüfen, ob die Voraussetzungen des Refoulement-Verbots eingehalten sind, auch wenn der Drittstaatsangehörige diesen potenziellen Verstoß nicht explizit geltend gemacht habe (Artikel 13 Absatz 1 in Verbindung mit Artikel 5 der Richtlinie sowie den Artikeln 4, 19 Absatz 2 und 47 der GRCh). Mit dem Urteil des EuGH ist in einigen Monaten zu rechnen.