Der Rat der Europäischen Union (Rat) hat sich unter der tschechischen Ratspräsidentschaft auf einen Kompromissvorschlag für eine Verordnung zur Festlegung harmonisierter Vorschriften für künstliche Intelligenz (KI-Verordnung) festgelegt.
Der Entwurf enthält unter anderem die folgenden wichtigen Änderungen:
Eingeschränkte Definition des Begriffes „KI“
Über die weite Definition von KI wurde während des Gesetzgebungsverfahrens bereits vielfach diskutiert, da Kritiker aufgrund der weiten Formulierung befürchteten, dass jede Software der KI-Verordnung unterfällt und damit der Anwendungsbereich und die strengen Anforderungen auf Produkte ausgedehnt würden, die einer derart strengen Regulierung nicht bedürfen. Der aktuelle Entwurf des Rates enthält daher eine engere KI-Definition und erfasst nur noch solche datenbasierten Systeme, die Elemente von Autonomie aufweisen und Methoden des maschinellen Lernens sowie logik- und wissensbasierte Konzepte verwenden.
Begrenzung des sachlichen Anwendungsbereiches
Vom sachlichen Anwendungsbereich sollen nach Vorstellung des Rates KI-Systeme ausgenommen sein, die militärischen Zwecken oder der nationalen Sicherheit dienen. Ferner sollen auch die Bereiche Forschung und Entwicklung von KI-Systemen selbst nicht der KI-Verordnung unterfallen. Eine Ausnahme vom Anwendungsbereich soll auch für Privatpersonen bestehen, die KI nicht professionell einsetzen.
Ausdehnung des Verbots von Social Scoring
Vorgesehen ist zudem, das Verbot von Social Scoring neben Behörden auch auf private Akteure auszudehnen und damit den Schutzbereich der KI-Verordnung zu erweitern.
Anpassung der Liste von Hochrisiko-KI-Systemen (Anhang III)
Anpassungsbedarf sieht der Rat auch in Bezug auf die Liste von Hochrisiko-KI-Systemen in Anhang III. Während Systeme zur Aufdeckung von Deepfakes im Zusammenhang mit der Strafverfolgung oder zur Kriminalitätsanalyse sowie zur Verifizierung der Echtheit von Reisedokumenten nicht mehr als Hochrisiko-KI-Systeme klassifiziert werden sollen, soll die Liste um kritische digitale Infrastrukturen sowie Lebens- und Krankenversicherungen ergänzt werden. Grundsätzlich soll die Klassifizierung zukünftig, anstelle des abstrakten Risikos, stärker an das tatsächliche Risiko, das von den KI-Systemen ausgeht, anknüpfen.
Erweiterung des Adressatenkreises
Durch die Neueinführung eines Art. 23a soll der Anwendungsbereich der KI-Verordnung, der bislang nur Anbieter von Hochrisiko-KI-Systemen erfasste, unter bestimmten Bedingungen auch andere Akteure erfassen.
Zulassung von (realen) Testumgebungen
Zur Gewährleistung der Innovationskraft in der EU sollen KI-Systeme unter lebenswirklichen Bedingungen in Reallaboren getestet werden können. Zu diesem Zweck soll ein vereinfachter Zugriff auf personenbezogene Daten und damit eine Lockerung des Zweckbindungsgrundsatzes der DSGVO vorgesehen werden. Voraussetzung ist jedoch, dass die entwickelten KI-Systeme einem erheblichen öffentlichen Interesse dienen. Darüber hinaus sollen unter bestimmten Umständen und unter Einhaltung besonderer Sicherheitsvorkehrungen Testversuche in realen Umgebungen zulässig sein.
Fazit
Trotz der aktuellen Entwicklungen und des Beschlusses des Rates befindet sich die KI-Verordnung weiterhin im Entwurfsstadium. Bevor die KI-Verordnung in Kraft treten kann, müssen sich die Europäische Kommission, der Rat und das Europäische Parlament in den Trilogverhandlungen verständigen und auf einen Entwurf festlegen. Wann ein verbindlicher regulatorischer Rahmen für KI-Systeme in der EU final vorliegen wird, bleibt damit weiterhin unklar.
zurück