Was muss man über die Auslegungshilfen zur KI-Verordnung wissen und wie verbindlich sind sie?

Trotz ihres beeindruckenden Umfangs lässt die KI-Verordnung (KI-VO) viele für die Praxis wichtige Punkte offen. Hier setzen die Leitlinien der EU-Kommission zur KI-VO an. Sie sollen Gerichten, Behörden und Rechtsanwendern die notwendige Klarheit für die Umsetzung der KI-VO vermitteln. Die EU-Kommission hat nun zwei wichtige Leitlinien veröffentlicht. Eine davon erläutert, welche konkreten KI-Praktiken verboten sind, die andere soll den für die Anwendung des neuen Rechtsrahmens zentralen Begriff „KI-System“ näher bestimmen. Was sind die wichtigsten Kernaussagen der Leitlinien und wie sind sie zu bewerten und zu gewichten?

Die KI-VO lässt viele für die Praxis wichtige Fragen offen

Die KI-VO ist ein ziemliches Monster – jedenfalls was ihren Umfang angeht. Sie umfasst 113 – teilweise sehr lange – Artikel, 180 Erwägungsgründe (ähnlich lang) und 13 Anhänge. Dennoch definiert sie nicht, was sie unter KI versteht oder welche konkreten Verhaltensweisen genau sie untersagt.

Gerade die Definition des KI-Systems in Art. 3 Nr. 1 KI-VO ist etwa erstaunlich schwammig. Dabei müssen Rechtsanwender an dieser Stelle entscheiden, ob sie eine KI-gestützte Anwendung dem in der KI-VO für KI-Systeme angelegten komplexen Prüfprozess unterziehen oder nicht. Auch Art. 5 KI-VO bestimmt nur in sehr abstrakter Form, welche KI-Praktiken komplett verboten sind und welche nicht. Die Vorschrift beeindruckt mit ihrer Fülle an unbestimmten Rechtsbegriffen.

Ein gutes Beispiel dafür gibt Art. 5 Abs. 1 lit. a KI-VO. Die Vorschrift nennt als Tatbestandsmerkmale etwa unterschwellige Beeinflussungen, manipulative oder täuschende Techniken, den Einsatz von KI entweder mit dem Ziel oder mit der (wohl auch unvorhergesehenen?) Wirkung, das Verhalten von Personen zu verändern, sowie die Beeinträchtigung, fundierte Entscheidungen zu treffen, was zu erheblichen Schäden führen oder dies mit hinreichender Wahrscheinlichkeit tun kann.

Hier setzt die EU-Kommission nun an und versucht, mit zwei Leitlinien Klarheit zu schaffen.

Leitlinien als Weg zur klaren Rechtsanwendung?

Art. 96 KI-VO weist der EU-Kommission die Aufgabe zu, Leitlinien für die praktische Umsetzung des neuen Regelwerks zu erarbeiten. Dieser Ansatz soll zu einer einheitlichen Anwendung beitragen und so Rechtssicherheit für Unternehmen, Aufsichtsbehörden, Richtende und andere Rechtsanwender schaffen.

Leitlinie zur Bestimmung von KI-Systemen

Die Leitlinie zur näheren Bestimmung der Definition von KI-Systemen in Art. 3 Nr. 1 KI-VO umfasst 12 Seiten. Wer sich bereits mit der überaus vagen Bestimmung des Art. 3 Nr. 1 KI-VO befasst hat, stellt schnell fest, dass gerade diese Definition erkennbar Ergebnis eines politischen Kompromisses ist, um den lange und intensiv gerungen wurde. Aus Sicht des Rechtsanwenders ist die Definition demzufolge derart uferlos weit, dass man sie fast als nutzlos bezeichnen möchte.

Ein KI-System muss danach etwa „maschinengestützt“ sein. Welch Ãœberraschung, sonst ergäbe das „K“ in „KI“  wenig Sinn. Es muss für einen „in unterschiedlichem Grad“ autonomen Betrieb ausgelegt sein – allerdings lassen sowohl Art. 3 Nr. 1 als auch Erwg. 12 KI-VO komplet offen, was genau ein solcher unterschiedlicher Grad sein soll. Auch bei den weiteren Tatbestandsmerkmalen stellt sich beim Praktiker eher Ernüchterung ein. Beispielsweise „kann“ das KI-System anpassungsfähig sein – muss es aber nach dem Wortlaut der Norm nicht. Entscheidend ist daher letztlich bloß die Fähigkeit, Ableitungen zu treffen („to infer„), wie auch Erwg. 12 Satz 3 KI-VO verdeutlicht.

Der Praktiker wird eine Anwendung daher oft eher als KI-System einstufen und dann dokumentieren, warum die Anwendung kaum oder keine Risiken birgt. Das lässt sich leichter begründen als der Versuch, ein System aus der überaus schwammigen Definition des Art. 3 Nr. 1 KI-VO „herauszuargumentieren“.

Schafft die Leitlinie der EU-Kommission hier nun Besserung? Die Antwort ist ebenso deutlich wie erwartbar: Nein. Aus einer schlechten Definition können auch die besten Experten keine Gute machen. Einigermaßen hilfreich sind allenfalls die Ausführungen ab Rz. 40, die etwas Klarheit schaffen, welche Anwendungen keine KI-Systeme sein sollen. Hier kann der Praktiker mit etwas Kreativität gute Argumente für spätere Diskussionen mit Behörden und vor Gericht finden.

Leitlinie zur verbotenen KI-Praktiken

Die Leitlinie zu den nach Art. 5 KI-VO untersagten Verhaltensweisen ist dagegen deutlich hilfreicher. Auf 135 Seiten liefert die EU-Kommission zahlreiche Erläuterungen, Beispiele und tatsächliche Praxishilfen. Manches kann man mit guten Argumenten anders sehen, viele Ausführungen sind aber auch praxisgerecht und nachvollziehbar.

Die für die Praxis wichtigste Aussage findet sich in Rz. 57: “ Since violations of the prohibitions in Article 5 AI Act interfere the most with the freedoms of others and give rise to the highest fines, their scope should be interpreted narrowly.“ Auf Deutsch in etwa:“Da Verstöße gegen die Verbote in Artikel 5 KI-VO am stärksten in die Freiheiten anderer eingreifen und die höchsten Bußgelder nach sich ziehen, sollte ihr Anwendungsbereich eng ausgelegt werden“ (Hervorhebung durch den Verfasser).

Aufgrund der wenig trennscharfen Formulierung von Art. 5 KI-VO ist das eine für die Praxis wichtige Aussage, die den – auch im Unionsrecht – zentralen Grundsatz der Verhältnismäßigkeit in den Mittelpunkt rückt.

An anderer Stelle trifft Erwg. 4 Satz 2 ff. DSGVO in Bezug auf den Datenschutz ganz ähnliche (aber oft ignorierte) Wertungen: „Das Recht auf Schutz der personenbezogenen Daten ist kein uneingeschränktes Recht; es muss im Hinblick auf seine gesellschaftliche Funktion gesehen und unter Wahrung des Verhältnismäßigkeitsprinzips gegen andere Grundrechte abgewogen werden. Diese Verordnung steht im Einklang mit allen Grundrechten und achtet alle Freiheiten und Grundsätze, die mit der Charta anerkannt wurden und in den Europäischen Verträgen verankert sind, insbesondere Achtung des Privat- und Familienlebens, der Wohnung und der Kommunikation, Schutz personenbezogener Daten, Gedanken-, Gewissens- und Religionsfreiheit, Freiheit der Meinungsäußerung und Informationsfreiheit, unternehmerische Freiheit, Recht auf einen wirksamen Rechtsbehelf und ein faires Verfahren und Vielfalt der Kulturen, Religionen und Sprachen“ (Hervorhebungen durch den Verfasser).

Gerade einer solchen Anwendung unter Wahrung des Verhältnismäßigkeitsprinzips trägt der von der Leitlinie geforderte Ansatz der restriktiven Auslegung der in Art. 5 KI-VO vorgesehenen absoluten Verbote Rechnung.

Wie geht es weiter?

Was die EU-Kommission angeht, ist der weitere Weg klar vorgezeichnet. Sie wird auch künftig ihren in Art. 96 KI-VO vorgezeichneten Aufgaben nachkommen und sicherlich weitere Leitlinien entwickeln.

Ebenso klar dürfte es sein, dass Berater und Behörden nun die Leitlinien gründlich analysieren werden und entsprechende Veröffentlichungen vorbereiten. Dies gibt der Praxis Anlass, sich zu fragen, wie verbindlich derartige Leitlinien nach Art. 96 KI-VO eigentlich sind.

Sind die Leitlinien rechtlich verbindlich?

Die Antwort auf die in der Ãœberschrift gestellte Frage ist einfach: Nein, die Leitlinien sind nicht verbindlich. Sie sind eher als Empfehlungen und Auslegungshilfen für eine einheitliche Anwendung der KI-VO zu verstehen. Leitlinien im Sinne von Art. 96 KI-VO sind – anders als etwa Verordnungen – nicht in Art. 288 AEUV genannt und besitzen daher keine Rechtsverbindlichkeit.

Dies zeigt sich auch an einem Vergleich mit Art. 97 KI-VO und der Befugnis der EU-Kommission zum Erlass der dort geregelten delegierten Rechtsakte. Diese sind als sogenanntes Tertiärrecht der Union verbindlich, vollzugsfähig und finden ihre primärrechtliche Vorgabe in Art. 290 AEUV. Danach können etwa Verordnungen der EU-Kommission die Befugnis übertragen, Rechtsakte mit allgemeiner Geltung zur Ergänzung oder Änderung bestimmter nicht wesentlicher Vorschriften des betreffenden Gesetzgebungsaktes zu erlassen. Solche verbindlichen Rechtsakte müssen in der Ermächtigungsnorm stets ausdrücklich als „delegierte“ Rechtsakte bezeichnet werden, Art. 290 Ab. 2 AEUV. Auch dies verdeutlich, dass es sich bei den Leitlinien der EU-Kommission nach Art. 96 KI-VO nicht um einen solchen verbindlichen Rechtsakt handelt.

Die EU-Kommission selbst stellt dementsprechend etwa in Rz. 5 ihrer Leitlinie zu verbotenen KI-Praktiken unmissverständlich klar, dass ihre Leitlinien nicht rechtsverbindlich sind: „These Guidelines are non-binding. Any authoritative interpretation of the AI Act may ultimately only be given by the Court of Justice of the European Union (‘CJEU’).“

Zu deutsch: „Diese Leitlinien sind nicht bindend. Eine verbindliche Auslegung des AI-Gesetzes kann kann letztlich nur vom Gerichtshof der Europäischen Union (‚EuGH‘) vorgenommen werden.“

Fazit

Die EU-Kommission unternimmt mit der Veröffentlichung ihrer Leitlinien einen sinnvollen Versuch, mehr Klarheit bei der Auslegung zentraler Vorgaben der KI-VO zu schaffen. Aufgrund der sehr schwammigen Definition des Art. 3 Nr. 1 KI-VO gelingt dies der Leitlinie zur Bestimmung von KI-Systemen nur sehr begrenzt. Deutlich hilfreicher sind hingegen die Auslegungshilfen zu verbotenen KI-Praktiken, wenngleich hier an der einen oder anderen Stelle mehr Klarheit oder eine noch zurückhaltendere Auslegung einzelner Tatbestandsmerkmale wünschenswert wäre. Grundsätzlich kann sich ein Blick in die Leitlinien durchaus lohnen – auch wenn sie lediglich eine nicht rechtsverbindliche Auslegungshilfe sind.