Update KI-Verordnung

Ein Schritt wei­ter auf dem Weg zur KI-Verordnung: Vor­läu­fi­ge poli­ti­sche Eini­gung im EU-Parlament erzielt

Mit der euro­päi­schen KI-Verordnung soll ein ein­heit­li­cher recht­li­cher Rah­men für den Ein­satz von Künst­li­cher Intel­li­genz (KI) in der Euro­päi­schen Uni­on fest­ge­legt wer­den. Wäh­rend hin­sicht­lich des mit der Ver­ord­nung ver­folg­ten „Big Pic­tures“ in Form eines hohen Maßes an Sicher­heit für den Umgang mit KI-Systemen Einig­keit bestand, wur­den ein­zel­ne Ver­ord­nungs­in­hal­te lan­ge kon­tro­vers dis­ku­tiert. Inzwi­schen konn­ten hier­zu Kom­pro­miss­lö­sun­gen erzielt werden.

Hochrisiko-KI-Systeme

Als KI-System defi­niert die KI-Verordnung „eine Soft­ware, die mit einer oder meh­re­ren der in Anhang I auf­ge­führ­ten Tech­ni­ken und Kon­zep­te ent­wi­ckelt wor­den ist und im Hin­blick auf eine Rei­he von Zie­len, die vom Men­schen fest­ge­legt wer­den, Ergeb­nis­se wie Inhal­te, Vor­her­sa­gen, Emp­feh­lun­gen oder Ent­schei­dun­gen her­vor­brin­gen kann, die das Umfeld beein­flus­sen, mit dem sie interagieren […].“

Als „hoch­ris­kant“ wur­den auto­ma­tisch sol­che KI-Systeme gefasst, die unter die in Anhang III der Ver­ord­nung auf­ge­führ­ten kri­ti­schen Berei­che und Anwen­dungs­fäl­le fal­len. Die­ser Auto­ma­tis­mus wur­de dahin­ge­hend ent­schärft, dass eine Ein­stu­fung als Hochrisiko-KI-System nur dann erfol­gen soll, wenn das ent­spre­chen­de KI-System ein „erheb­li­ches Risi­ko“ birgt.

Als „erheb­li­ches Risi­ko“ sol­len wie­der­um Risi­ken gel­ten, die auf­grund der Kom­bi­na­ti­on von Schwe­re, Inten­si­tät, Ein­tritts­wahr­schein­lich­keit und Dau­er ihrer Aus­wir­kun­gen erheb­lich sind und eine Ein­zel­per­son, eine Viel­zahl von Per­so­nen oder eine bestimm­te Grup­pe von Per­so­nen beein­träch­ti­gen könn­ten. Hoch­ris­kant gel­ten KI-Systeme somit gera­de auch dann, wenn sie erheb­li­che Risi­ken für die Gesund­heit bergen.

KI-basierte Medi­zin­pro­duk­te

Medi­zin­pro­duk­te, die auf KI-Komponenten basie­ren, dürf­ten künf­tig somit auch nach der Modi­fi­ka­ti­on des Hochrisiko-Begriffs wei­ter­hin als Hochrisiko-KI-System zu qua­li­fi­zie­ren sein, sodass die beson­de­ren regu­la­to­ri­schen Anfor­de­run­gen an Hochrisiko-KI-Systeme gemäß KI-Verordnung für die­se Medi­zin­pro­duk­te zusätz­lich zu den Anfor­de­run­gen der MDR zu beach­ten sein werden. 

Die Fra­ge des Umgangs mit selbst­ler­nen­der KI und der Qua­li­fi­ka­ti­on dar­aus resul­tie­ren­der Pro­dukt­än­de­run­gen als wesent­li­che Ände­run­gen im Sin­ne der MDR, die eine neue Kon­for­mi­täts­be­wer­tung erfor­dern, ist wei­ter offen. Es bleibt abzu­war­ten und im Sin­ne der Rechts­si­cher­heit für die betrof­fe­nen Wirt­schafts­ak­teu­re zu hof­fen, dass die­se Pro­ble­ma­tik zeit­nah erkannt und auf­ge­löst wer­den wird.

Der­zeit befin­det sich der Ver­ord­nungs­text der KI-Verordnung in der fina­len Abstim­mung. Es ist davon aus­zu­ge­hen, dass die Ver­ord­nung noch in die­sem Kalen­der­jahr in Kraft tritt (Gel­tungs­be­ginn: 24 Mona­te nach dem Zeit­punkt des Inkrafttretens).

Hand­lungs­emp­feh­lung

Medi­zin­pro­dukte­her­stel­ler, deren Pro­duk­te KI-Komponenten beinhal­ten, wer­den künf­tig sowohl durch die Medi­zin­pro­duk­te­ver­ord­nung als auch durch die KI-Verordnung regu­liert wer­den. Das The­ma Pro­duct Com­pli­ance mit bei­den Regel­wer­ken soll­te mög­lichst früh­zei­tig in Angriff genom­men wer­den. Spre­chen Sie uns hier­zu ger­ne an!