Gesetz über künstliche Intelligenz: Rat will sichere und die Grundrechte wahrende KI fördern

Der Rat der EU hat seinen gemeinsamen Standpunkt („allgemeine Ausrichtung“) zum Gesetz über künstliche Intelligenz festgelegt. Das Gesetz soll gewährleisten, dass die auf dem EU-Markt in Verkehr gebrachten und in der Union verwendeten Systeme künstlicher Intelligenz (KI) sicher sind und die bestehenden Grundrechte und die Werte der Union wahren.

Der von der Kommission im April 2021 vorgelegte Verordnungsentwurf ist ein Schlüsselelement der EU-Politik zur Förderung der Entwicklung und Einführung sicherer und rechtskonformer KI im gesamten Binnenmarkt, die die Grundrechte wahren.

Im Vorschlag wird ein risikobasierter Ansatz verfolgt und ein einheitlicher, horizontaler Rechtsrahmen für KI festgelegt, mit dem Rechtssicherheit gewährleistet werden soll. Damit werden Investitionen und Innovationen in KI gefördert, die Governance und die wirksame Durchsetzung bestehender Rechtsvorschriften über Grundrechte und Sicherheit verbessert und die Entwicklung eines Binnenmarkts für KI-Anwendungen erleichtert. Der Vorschlag wird von anderen Initiativen flankiert, darunter der Koordinierte Plan für künstliche Intelligenz, mit dem die Investitionen in KI in Europa beschleunigt werden sollen.

Definition eines KI-Systems

Um sicherzustellen, dass die Definition eines KI-Systems ausreichend klare Kriterien für die Abgrenzung der KI von einfacheren Software-Systemen bietet, wird die Begriffsbestimmung im Ratstext auf Systeme eingegrenzt, die anhand von Konzepten des maschinellen Lernens sowie logik- und wissensgestützten Konzepten entwickelt wurden.

Verbotene KI-Praktiken

In Bezug auf verbotene KI-Praktiken wird in dem Text das Verbot der Nutzung von KI für die soziale Bewertung auf private Akteure ausgeweitet. Darüber hinaus schließt die Bestimmung, mit der die Verwendung von KI-Systemen, die eine Schwäche oder Schutzbedürftigkeit einer bestimmten Gruppe von Personen ausnutzt, verboten wird, nun auch Personen ein, die aufgrund ihrer sozialen oder wirtschaftlichen Lage schutzbedürftig sind.

Im Hinblick auf das Verbot der Verwendung biometrischer Echtzeit-Fernidentifizierungssysteme in öffentlich zugänglichen Räumen durch Strafverfolgungsbehörden werden im Text die Ziele präzisiert, wenn eine solche Verwendung als zu Strafverfolgungszwecken streng notwendig ist, und zu denen den Strafverfolgungsbehörden die Verwendung solcher Systeme daher ausnahmsweise gestattet werden sollte.

Klassifizierung von KI-Systemen als Hochrisiko-Systeme

Im Hinblick auf die Klassifizierung von KI-Systemen als Hochrisiko-Systeme enthält der Text nun eine horizontale Ebene über der Hochrisiko-Klassifizierung, um sicherzustellen, dass KI-Systeme, die wahrscheinlich keine schwerwiegenden Grundrechtsverletzungen oder andere bedeutende Risiken verursachen, nicht erfasst werden.

Anforderungen an Hochrisiko-KI-Systeme

Viele der Anforderungen an Hochrisiko-KI-Systeme wurden präzisiert und so angepasst, dass sie technisch machbarer sind und ihre Einhaltung die Interessenträger weniger belastet, zum Beispiel in Bezug auf die Datenqualität oder auf die technische Dokumentation, die von KMU erstellt werden sollte, um nachzuweisen, dass ihre Hochrisiko-KI-Systeme den Anforderungen entsprechen.

Da KI-Systeme über komplexe Wertschöpfungsketten entwickelt und verbreitet werden, enthält der Text Änderungen, mit denen die Zuweisung der Zuständigkeiten und Aufgaben der verschiedenen Akteure in diesen Ketten, insbesondere der Anbieter und Nutzer von KI-Systemen, klargestellt wird. Der Text präzisiert auch die Beziehung zwischen den Verantwortlichkeiten im Rahmen des KI-Gesetzes und jenen, die bereits im Rahmen anderer Rechtsvorschriften bestehen, wie etwa die einschlägigen Datenschutz- oder sektoralen Rechtsvorschriften der Union, einschließlich des Sektors der Finanzdienstleistungen.

KI-System mit allgemeinem Verwendungszweck

Neue Bestimmungen wurden hinzugefügt, um den Situationen Rechnung zu tragen, in denen KI-Systeme für zahlreiche verschiedene Zwecke verwendet werden können (KI mit allgemeinem Verwendungszweck) und in denen KI-Technologie mit allgemeinem Verwendungszweck in ein anderes Hochrisiko-System integriert wird.

Im Text wird festgelegt, dass in solchen Fällen bestimmte Anforderungen für Hochrisiko-KI-Systeme auch für KI-Systeme mit allgemeinem Verwendungszweck gelten würden. Allerdings würde – anstelle einer direkten Anwendung dieser Anforderungen – in einem Durchführungsrechtsakt auf der Grundlage einer Konsultation und einer eingehenden Folgenabschätzung und unter Berücksichtigung spezifischer Merkmale dieser Systeme und der zugehörigen Wertschöpfungskette, der technischen Durchführbarkeit und der technologischen Entwicklungen präzisiert werden, wie sie im Verhältnis zu KI-Systemen mit allgemeinem Verwendungszweck angewendet werden sollten.

Anwendungsbereich und Bestimmungen in Bezug auf die Strafverfolgung

Es wurde ein ausdrücklicher Verweis auf die Ausnahme von Zwecken der nationalen Sicherheit, der Verteidigung und des Militärs aus dem Anwendungsbereich des KI‑Gesetzes aufgenommen. In ähnlicher Weise wurde klargestellt, dass das KI-Gesetz – mit Ausnahme der Transparenzpflichten – nicht für KI-Systeme und deren Ergebnisse, die für den ausschließlichen Zweck der Forschung und Entwicklung verwendet werden, und nicht für die Verpflichtungen von Personen, die KI zu nichtberuflichen Zwecken verwenden, die außerhalb des Anwendungsbereichs des KI-Gesetzes liegen, gelten sollte.

In Bezug auf die spezifischen Besonderheiten der Strafverfolgungsbehörden wurden einige Änderungen an den Bestimmungen in Bezug auf die Verwendung von KI-Systemen zu Strafverfolgungszwecken vorgenommen. Vorbehaltlich angemessener Schutzvorkehrungen soll insbesondere dem Umstand Rechnung getragen werden, dass die Vertraulichkeit sensibler operativer Daten im Zusammenhang mit den Tätigkeiten der Strafverfolgungsbehörden gewahrt werden muss.

Rechtsbefolgungsrahmen und KI-Ausschuss

Um den Rechtsbefolgungsrahmen für das KI-Gesetz zu vereinfachen, enthält der Text einige Klarstellungen und Vereinfachungen der Bestimmungen über die Verfahren zur Konformitätsbewertung.

Die Bestimmungen über die Marktüberwachung wurden ebenfalls präzisiert und vereinfacht, damit sie wirksamer und leichter umgesetzt werden können. In dem Text werden außerdem die Bestimmungen über den KI-Ausschuss erheblich geändert, um eine größere Autonomie des Ausschusses zu gewährleisten und seine Rolle in der Governance-Architektur des KI-Gesetzes zu stärken. Um die Beteiligung der Interessenträger in Bezug auf alle Fragen im Zusammenhang mit der Umsetzung des KI-Gesetzes sicherzustellen, auch in Bezug auf die Ausarbeitung von Durchführungs- und delegierten Rechtsakten, wurde eine neue Anforderung ergänzt, wonach der KI-Ausschuss eine ständige Untergruppe einrichtet, die als Plattform für eine große Bandbreite an Interessenträgern dient.

Im Hinblick auf die Sanktionen für Verstöße gegen die Bestimmungen des KI-Gesetzes sieht der Text verhältnismäßigere Obergrenzen für die Beträge der Geldbußen für KMU und Start-up-Unternehmen vor.

Transparenz und sonstige Bestimmungen zu Gunsten der betroffenen Personen

Der Text enthält einige Änderungen, mit denen die Transparenz im Hinblick auf die Verwendung von Hochrisiko-KI-Systemen erhöht wird. Insbesondere wurden einige Bestimmungen überarbeitet, um darauf hinzuweisen, dass bestimmte Nutzer von Hochrisiko-KI-Systemen, die Einrichtungen sind, ebenfalls verpflichtet sein werden, sich in der EU-Datenbank für Hochrisiko-KI-Systeme zu registrieren.

Darüber hinaus wird in einer neu hinzugefügten Bestimmung der Schwerpunkt auf die Pflicht für Nutzer eines Emotionserkennungssystems gelegt, die natürlichen Personen, die von diesem System betroffen sind, darüber zu informieren.

Im Text wird auch klargestellt, dass eine natürliche oder juristische Person bei der zuständigen Marktüberwachungsbehörde eine Beschwerde wegen Nichteinhaltung des Gesetzes über KI einreichen kann und erwarten kann, dass eine solche Beschwerde gemäß den dafür eingerichteten Verfahren dieser Behörde bearbeitet wird.

Maßnahmen zur Innovationsförderung

Mit dem Ziel, einen innovationsfreundlicheren Rechtsrahmen zu schaffen, und um faktengestütztes regulatorisches Lernen zu fördern, wurden die Bestimmungen in Bezug auf Maßnahmen zur Innovationsförderung im Text maßgeblich geändert.

Insbesondere wurde klargestellt, dass die regulatorischen KI-Reallabore, die eine kontrollierte Umgebung für die Entwicklung, Testung und Validierung innovativer KI-Systeme schaffen sollen, auch das Testen innovativer KI-Systeme unter realen Bedingungen ermöglichen sollten.

Ferner wurden neue Bestimmungen aufgenommen, wonach KI-Systeme unter bestimmten Bedingungen und Schutzvorkehrungen unbeaufsichtigt unter realen Bedingungen getestet werden können. Um den Verwaltungsaufwand für kleinere Unternehmen zu mindern, enthält der Text eine Liste von Maßnahmen, mit denen Akteure unterstützt werden sollen, und einige begrenzte und klar festgelegte Ausnahmeregelungen.

Nächste Schritte

Um zu einer Einigung über die vorgeschlagene Verordnung zu gelangen, kann der Rat nach der Annahme der allgemeinen Ausrichtung Verhandlungen mit dem Europäischen Parlament („Triloge“) aufnehmen, sobald das Parlament seinen eigenen Standpunkt festlegt.

Mehr zum Thema:

Beratermodul IT-Recht:
Die perfekte Online-Ausstattung für das IT-Recht (DSGVO/BDSG). Stets auf dem aktuellsten Stand mit den Inhalten aller Ausgaben von Computer und Recht und IT-Rechtsberater sowie den Updates von Redeker, Handbuch der IT-Verträge. 4 Wochen gratis nutzen!