Der Begriff des KI-Systems (Borges, CR 2023, 706)

Das Gesetz enthält, trotz seines anmaßenden Kurztitels, keineswegs einen umfassenden Rechtsrahmen für KI, sondern ist vor allem ein spezielles Produktsicherheitsrecht für KI-Systeme. ⁵ Wichtige Bereiche, etwa die Haftung, waren von vorneherein bewusst ausgeklammert. ⁶ Seine darüber weit hinausgehende Bedeutung wird sich teils aus ergänzenden Regeln, etwa dem Verbot bestimmter Verwendungen von KI-Systemen (Art. 5 KI-Gesetz-E), vor allem aber durch Verweise anderer Rechtsakte auf Begriffsbestimmungen und Konzepte des KI-Gesetzes ergeben. Besonders deutlich wird dies etwa im Entwurf einer KI-Haftungs-Richtlinie, ⁷ die erkennbar auf Konzepten des KI-Gesetzes fußt. So verweist der Richtlinienentwurf zur Bestimmung seines Anwendungsbereichs und in seinen wesentlichen Regeln auf den Begriff des KI-Systems und dessen Definition im KI-Gesetz. ⁸ Der Richtlinienentwurf greift auch, wiederum unter Verweis auf die Regeln des KI-Gesetzes, das Konzept des sog. „Hochrisiko-KI-Systems“ auf, ⁹ ebenso die Begriffsbestimmungen zu Anbietern und Nutzern von KI-Systemen als den wesentlichen Adressaten der vorgeschlagenen Richtlinie ¹⁰ .

Das KI-Gesetz wird im Wesentlichen vier Regelungsebenen enthalten:

• das Verbot bestimmter Anwendungen von KI-Systemen (Art. 5 KI-Gesetz-E),

• ein Risikomanagement für sog. „Hochrisiko-KI-Systeme“, „KI-Systeme mit allgemeinem Verwendungszweck“ und „Basismodelle“ einschließlich einer behördlichen Aufsicht (Art. 6 ff. KI-Gesetz-E),

• eine Transparenzpflicht für bestimmte KI-Systeme (Art. 52 KI-Gesetz-E) sowie

• Rahmenbedingungen, etwa Förderungen, für alle KI-Systeme (Art. 53 ff. KI-Gesetz-E).

Der Rat und ebenso das Europäische Parlament schlagen in ihren Standpunkten jeweils die Einführung einer im Kommissionsentwurf noch nicht vorgesehenen Kategorie eines KI-Systems mit allgemeinem Verwendungszweck (General Purpose AI System) vor. ¹¹ Mit diesem neuen Begriff, der etwa Systeme zur Sprach- oder Bilderkennung bezeichnen soll, sollen KI-Systeme erfasst werden, die, wie Rat ¹² und Parlament ¹³ insoweit übereinstimmend definieren, Funktionen aufweisen, die in einer Vielzahl von Kontexten eingesetzt werden können. Es handelt sich also nach Begriff und Definition um KI-Systeme i.S.d. KI-Gesetzes.

Das Europäische Parlament schlägt, vermutlich unter dem Eindruck von ChatGPT, darüber hinaus die Einführung der Kategorie eines Basismodells (Foundation Model) vor ¹⁴ , welche vor allem die neuen Sprachmodelle (large language model, LLM) und vergleichbare Modelle erfassen soll. Indes ist unklar, ob das Basismodell als KI-System anzusehen sein soll, da es in der Definition des Parlaments ¹⁵ ausdrücklich nicht als ein „KI-System“, sondern als ein „KI-Systemmodell“ definiert wird (dazu unten 2.).

Dem Begriff des KI-Systems kommt im Rahmen des KI-Gesetzes und für die darauf verweisenden Normen zentrale Bedeutung zu: Nach seinem Art. 1 soll das KI-Gesetz für KI-Systeme gelten; alle Regelungsbereiche beziehen sich auf KI-Systeme. Soweit das KI-Gesetz besondere Anforderungen an Hersteller und Nutzer von KI-Systemen regelt, enthalten die Regeln aber jeweils zusätzliche Tatbestandsmerkmale und gelten im Ergebnis jeweils für einen engen Kreis an KI-Systemen. Daher wird das KI-Gesetz, jedenfalls nach dem Kommissionsentwurf, für den Großteil der KI-Systeme – geschätzt wird teils ein Anteil von 85-95 % ¹⁶ , teils 80 % oder weniger ¹⁷ – weder Verbote noch konkrete Pflichten regeln, sondern allenfalls in Bezug auf die Regeln zu Rahmenbedingungen anwendbar sein.

Eine wesentlich umfangreichere Regulierung ergäbe sich, wenn der vom Parlament vorgeschlagene Art. 4a KI-Gesetz-ParlE Gesetz werden (was nicht zu empfehlen ist) und im Sinne unmittelbar anwendbarer Rechtsnormen (miss-)verstanden werden sollte, da dann die in Art. 4a genannten Prinzipien rechtliche Pflichten für jegliche Art von KI-Systemen installierten, was die Kommission zu Recht vermeiden möchte.

Der Begriff des KI-Systems soll also offenbar ein zentraler Schlüsselbegriff im Rechtsrahmen für Künstliche Intelligenz sein. Konkret fungiert der Begriff als Einfallstor für die verschiedenen Regelungsebenen des KI-Gesetzes und weiterer Rechtsnormen.

Die Kommission führte den Begriff in ihrer KI-Strategie von 2018 ein, wenngleich …"

Hier direkt weiterlesen im juris PartnerModul IT-Recht