Die KI-Haftungsrichtlinie der EU – Aus­wir­kun­gen auf Unternehmen

Gele­ak­ter Ent­wurf sieht Beweis­last­um­kehr für Scha­dens­er­satz vor

Mit der KI-Haftungsrichtlinie („AI Lia­bi­li­ty Direc­ti­ve“) möch­te die EU-Kommission neue Haf­tungs­re­geln für künst­li­che Intel­li­genz (KI) schaf­fen und die geplan­te KI-Verordnung ergän­zen. Uns liegt eine gele­ak­te Fas­sung der geplan­ten Richt­li­nie vor, über die auch EURACTIV und der Tages­spie­gel berich­te­ten. Offi­zi­ell soll die geplan­te Richt­li­nie erst am 28. Sep­tem­ber 2022 ver­öf­fent­licht wer­den. Wir stel­len Ihnen schon heu­te den Inhalt und die Aus­wir­kun­gen der KI-Haftungsrichtlinie auf Unter­neh­men vor und geben Tipps zur Ver­mei­dung von recht­li­chen Risiken.

Was ist das Ziel der KI-Haftungsrichtlinie?

Die KI-Haftungsrichtlinie dient der Anpas­sung bestehen­der Haf­tungs­re­geln an das digi­ta­le Zeit­al­ter und an die Ent­wick­lun­gen im Bereich KI. Bei digi­ta­len Pro­duk­ten ist nicht klar, in wel­chem Umfang sie dem Haf­tungs­re­gime der Pro­dukt­haf­tungs­richt­li­nie unter­fal­len. Dar­über hin­aus sieht die Pro­dukt­haf­tungs­richt­li­nie nur Kom­pen­sa­tio­nen für phy­si­sche oder mate­ri­el­le Schä­den vor. Die Ver­net­zung und neue Tech­no­lo­gien aber brin­gen es mit sich, dass auch Daten und die Pri­vat­sphä­re durch unsi­che­re Pro­duk­te beschä­digt wer­den kön­nen. Außer­dem macht es die Kom­ple­xi­tät digi­ta­ler Pro­duk­te für Geschä­dig­te schwie­rig, den ver­ant­wort­li­chen Pro­du­zen­ten zu identifizieren.

Der Ent­wurf im Überblick

Der Ent­wurf der KI-Haftungsrichtlinie sieht die Har­mo­ni­sie­rung natio­na­ler nicht­ver­trag­li­cher Haf­tungs­re­ge­lun­gen für Schä­den durch KI vor. Wer durch KI einen Scha­den erlei­det, soll die­sen eben­so ein­fach gel­tend machen kön­nen, wie einen Scha­den, der ohne die Betei­li­gung von KI ent­stan­den ist. Gem. Art. 1 Abs. 2 der KI-Haftungsrichtlinie wer­den daher die Offen­le­gungs­pflich­ten für Hochrisiko-KI nach der KI-Verordnung und die Beweis­last bei nicht­ver­trag­li­chen ver­schul­dens­ab­hän­gi­gen Scha­dens­er­satz­an­sprü­chen ver­ein­heit­licht. Aus­drück­lich unbe­rührt davon blei­ben euro­päi­sche Haf­tungs­re­ge­lun­gen für das Transportwesen.

Offen­le­gungs­pflich­ten

Nach Art. 3 Abs. 1 der KI-Haftungsrichtlinie sol­len die Mit­glieds­staa­ten sicher­stel­len, dass Geschä­dig­te vom Betrei­ber, Her­stel­ler oder Nut­zer von Hochrisiko-KI die Offen­le­gung von Infor­ma­tio­nen ver­lan­gen kön­nen. Ent­spre­chen­de Ansprü­che bestehen auch gegen Ver­trei­ber oder sons­ti­ge Drit­te, die durch die KI-Verordnung ver­pflich­tet sind. Her­aus­ver­langt wer­den kön­nen Trainings- und Vali­die­rungs­da­ten, Infor­ma­tio­nen aus der tech­ni­schen Doku­men­ta­ti­on und den Auf­zeich­nungs­pflich­ten sowie aus dem Qua­li­täts­ma­nage­ment­sys­tem und über ergrif­fe­ne Kor­rek­tur­maß­nah­men. Die Her­aus­ga­be darf nur erfol­gen, soweit sie not­wen­dig und ange­mes­sen ist, um den Anspruch zu ver­fol­gen. Wird sie unrecht­mä­ßig ver­wei­gert, greift die Ver­mu­tung, dass die ver­lang­ten Infor­ma­tio­nen den Anspruch begrün­det hät­ten. Zur Durch­set­zung und Kon­trol­le müs­sen die Mit­glieds­staa­ten geeig­ne­te gericht­li­che Zustän­dig­kei­ten schaffen.

Beweis­last­um­kehr

Um Geschä­dig­ten die Gel­tend­ma­chung von Ansprü­chen gegen­über Unter­neh­men zu erleich­tern, sieht die KI-Haftungsrichtlinie unter fol­gen­den Vor­aus­set­zun­gen eine Beweis­last­um­kehr vor:

1. Der Geschä­dig­te hat bestimm­te Ver­stö­ße des Unter­neh­mens gegen die KI-Verordnung dar­ge­legt; und
2. die Pflicht, gegen die das Unter­neh­men ver­sto­ßen hat, soll gera­de vor dem ein­ge­tre­te­nen Scha­den schüt­zen; und
3. nach dem natio­na­len Recht ist ein Ver­stoß gegen eine Sorg­falts­pflicht als Ver­schul­den des Unter­neh­mens fest­ge­stellt wor­den; und
4. es besteht ein Kau­sal­zu­sam­men­hang zwi­schen dem Ver­stoß und dem ent­stan­de­nen Schaden.

Greift die Beweis­last­um­kehr, muss das Unter­neh­men bewei­sen, dass es für den ent­stan­de­nen Scha­den nicht ver­ant­wort­lich ist.

Fazit

Noch befin­det sich der Ent­wurf für eine KI-Haftungsrichtlinie in einem frü­hen Sta­di­um. Schon jetzt ist aller­dings klar, dass die pro­zes­sua­len Fol­gen einer Richt­li­ne in die­ser Form gra­vie­rend wären. Neben einem Ver­lust von geis­ti­gem Eigen­tum durch eine über­bor­den­de Offen­le­gungs­pflicht wer­den Unter­neh­men durch die Beweis­last­um­kehr von vor­ne­her­ein in die Defen­si­ve gedrängt. Auch wenn bis zur Ver­ab­schie­dung der KI-Haftungsrichtlinie und ihrer Umset­zung in das natio­na­le Recht noch eini­ge Zeit ver­ge­hen mag, soll­ten Unter­neh­men, die KI ein­set­zen oder dies zukünf­tig beab­sich­ti­gen, schon heu­te Maß­nah­men zur Haf­tungs­re­du­zie­rung ergrei­fen und ihrer Pro­dukt­ver­ant­wor­tung nach­kom­men. Wei­te­re Infor­ma­tio­nen dazu fin­den Sie in unse­rem kos­ten­lo­sen reusch­law White­pa­per zu Update­pflich­ten aus zivil- und öffentlich-rechtlicher Pro­dukt­ver­ant­wor­tung.