KI in Pro­duk­ti­on und Lie­fer­ket­te: Recht­li­che Risi­ken im trans­at­lan­ti­schen Vergleich

Künst­li­che Intel­li­genz hält zuneh­mend Ein­zug in ope­ra­ti­ve Unter­neh­mens­pro­zes­se. Ob Pro­duk­ti­ons­pla­nung, Beschaf­fung, Logis­tik, Qua­li­täts­ma­nage­ment oder Pre­dic­ti­ve Main­ten­an­ce: Mit den neu­en Ein­satz­mög­lich­kei­ten wach­sen auch die recht­li­chen und orga­ni­sa­to­ri­schen Anforderungen.

Im Pod­cast „The Trans­at­lan­tic Per­spec­ti­ve“ dis­ku­tiert Dani­el Wuhr­mann mit Vanes­sa Mil­ler und Ray­mond J. McV­eigh von Foley & Lard­ner LLP, wel­che recht­li­chen Risi­ken Unter­neh­men beim Ein­satz von KI in Pro­duk­ti­on und Lie­fer­ket­ten berück­sich­ti­gen soll­ten. Dabei tref­fen die unter­schied­li­chen regu­la­to­ri­schen Ansät­ze der Euro­päi­schen Uni­on und der USA aufeinander.

Unter­schied­li­che regu­la­to­ri­sche Ansät­ze in EU und USA

Aus euro­päi­scher Per­spek­ti­ve steht die Ein­ord­nung des kon­kre­ten KI-Systems im Vordergrund: 

• Wel­che Rol­le über­nimmt das Unternehmen? 
• Für wel­chen Zweck wird das Sys­tem eingesetzt? 
• Wel­che Daten ver­ar­bei­tet es? 
• Gibt es Aus­wir­kun­gen auf Sicher­heit oder geschütz­te Rechte? 

Je nach Anwen­dung wer­den unter­schied­li­che regu­la­to­ri­sche Anfor­de­run­gen rele­vant wer­den, ins­be­son­de­re im Zusam­men­hang mit der KI-Verordnung, Pro­dukt­si­cher­heits­vor­ga­ben, Daten­schutz und Cybersicherheit.

Auch die Ver­trags­ge­stal­tung spielt eine zen­tra­le Rol­le. Stan­dard­ver­trä­ge für Soft­ware oder KI-Lösungen grei­fen gera­de bei indus­tri­el­len Anwen­dun­gen häu­fig zu kurz. Unter­neh­men soll­ten unter ande­rem Leis­tungs­an­for­de­run­gen, Ver­ant­wort­lich­kei­ten, Datenzugriffs- und Nut­zungs­rech­te sowie Haf­tungs­fra­gen berück­sich­ti­gen. Hin­zu kom­men Anfor­de­run­gen an Doku­men­ta­ti­on und den Umgang mit Ände­run­gen und Updates eines KI-Systems.

Der Blick in die USA zeigt einen ande­ren regu­la­to­ri­schen Ansatz. Wäh­rend Unter­neh­men in der EU ins­be­son­de­re die Anfor­de­run­gen der KI-Verordnung und wei­te­rer ein­schlä­gi­ger Regel­wer­ke berück­sich­ti­gen müs­sen, wer­den Risi­ken beim Ein­satz von KI in den USA bis­lang stär­ker über bestehen­de recht­li­che Grund­sät­ze, etwa aus Ver­trags­recht, Haf­tung und Arbeits­si­cher­heit, sowie über Risi­ko­ma­nage­ment und unter­neh­mens­in­ter­ne Gover­nan­ce adressiert.

Für Unter­neh­men bedeu­tet das jedoch nicht weni­ger Hand­lungs­be­darf. Im Pod­cast wird unter ande­rem emp­foh­len, die ein­ge­setz­ten KI-Systeme und deren Daten­zu­grif­fe sys­te­ma­tisch zu erfas­sen, ein­zel­ne Anwen­dungs­fäl­le nach ihrem Risi­ko zu klas­si­fi­zie­ren und kla­re inter­ne Ver­ant­wort­lich­kei­ten fest­zu­le­gen. Dazu gehö­ren auch Regeln für mensch­li­che Auf­sicht, Frei­ga­ben und den Umgang mit Vor­fäl­len. Bei der Beschaf­fung von KI-Lösungen soll­ten zudem Leis­tungs­an­for­de­run­gen, Daten­rech­te und Haf­tungs­fra­gen kon­kret auf den jewei­li­gen indus­tri­el­len Ein­satz zuge­schnit­ten werden.

Fazit

Sowohl für den euro­päi­schen als auch für den US-amerikanischen Markt wird deut­lich, wie wich­tig ein sys­te­ma­ti­scher Über­blick über die ein­ge­setz­ten KI-Systeme ist. Unter­neh­men soll­ten intern erfas­sen, wel­che Sys­te­me und Anbie­ter im Ein­satz sind, auf wel­che Daten die Anwen­dun­gen zugrei­fen und wel­che betrieb­li­chen Aus­wir­kun­gen feh­ler­haf­te Ent­schei­dun­gen haben können.

Beson­de­re Auf­merk­sam­keit gilt dabei Anwen­dun­gen mit einem hohen Maß an Auto­no­mie, etwa wenn ein KI-System eigen­stän­dig Bestel­lun­gen aus­lö­sen oder Pro­duk­ti­ons­pro­zes­se beein­flus­sen kann. Für sol­che Anwen­dungs­fäl­le soll­ten Unter­neh­men Zustän­dig­kei­ten, Befug­nis­se und Gren­zen der Sys­te­me sowie die mensch­li­che Auf­sicht klar fest­le­gen und dokumentieren.

Für inter­na­tio­nal täti­ge Unter­neh­men bedeu­tet das: KI-Governance soll­te nicht iso­liert für ein­zel­ne Märk­te gedacht wer­den. Wer KI-Systeme in Euro­pa und den USA ein­setzt oder ent­spre­chen­de Lösun­gen dort anbie­tet, muss unter­schied­li­che regu­la­to­ri­sche Rah­men­be­din­gun­gen berück­sich­ti­gen. Dazu gehö­ren die Ein­ord­nung und Risi­ko­be­wer­tung der ein­ge­setz­ten Sys­te­me eben­so wie geeig­ne­te Pro­zes­se für Doku­men­ta­ti­on, Ver­ant­wort­lich­kei­ten, mensch­li­che Auf­sicht und die lau­fen­de Über­prü­fung der Systeme.

Unter­neh­men, die bei­de Märk­te adres­sie­ren, soll­ten die­se Anfor­de­run­gen daher früh­zei­tig in ihre Struk­tu­ren und Pro­zes­se inte­grie­ren. So lässt sich der Ein­satz von KI nicht nur regu­la­to­risch beglei­ten, son­dern auch nach­voll­zieh­bar und belast­bar organisieren.

Wie gefällt Ihnen das For­mat und wel­che The­men wür­den Sie sich für wei­te­re Fol­gen wün­schen? Wir freu­en uns über Ihr Feed­back und Ihre Anregungen.