Robo­tik in der Pflege

Recht­li­che Anfor­de­run­gen für Her­stel­ler und Betreiber

Pfle­ge­ro­bo­ter ent­wi­ckeln sich von expe­ri­men­tel­len Sys­te­men zu einem fes­ten Bestand­teil moder­ner Ver­sor­gungs­struk­tu­ren. Mit der zuneh­men­den Inte­gra­ti­on von KI, Sen­so­rik und Ver­net­zung gera­ten auch regu­la­to­ri­sche Anfor­de­run­gen in den Fokus. Die­se betref­fen Her­stel­ler und Betrei­ber glei­cher­ma­ßen, aller­dings mit unter­schied­li­chen Schwerpunkten.

Für Her­stel­ler ste­hen zunächst die pro­dukt­si­cher­heits­recht­li­chen Anfor­de­run­gen im Vor­der­grund. Abhän­gig von Funk­ti­on und bestim­mungs­ge­mä­ßem Ver­wen­dungs­zweck kann ein Pfle­ge­ro­bo­ter als Medi­zin­pro­dukt im Sin­ne der Medi­cal Device Regu­la­ti­on (MDR) ein­zu­stu­fen sein. In die­sem Fall sind Anfor­de­run­gen an Risi­ko­ma­nage­ment, tech­ni­sche Doku­men­ta­ti­on, kli­ni­sche Bewer­tung und Kon­for­mi­täts­be­wer­tung zu erfül­len. Sind die Sys­te­me nicht als Medi­zin­pro­dukt ein­zu­stu­fen, kön­nen auch die Maschi­nen­ver­ord­nung (EU) 2023/1230 sowie der Cyber Resi­li­ence Act (CRA) ein­schlä­gig sein. Beson­de­re Bedeu­tung hat dar­über hin­aus der Ein­satz von KI. KI-gestützte Funk­tio­nen zur Umge­bungs­ana­ly­se, Ver­hal­tens­aus­wer­tung oder Inter­ak­ti­on mit Pfle­ge­be­dürf­ti­gen kön­nen Anfor­de­run­gen aus der KI-Verordnung (AI Act) unter­lie­gen. Her­stel­ler müs­sen daher bereits in der Ent­wick­lungs­pha­se prü­fen, ob das jewei­li­ge Sys­tem als Hochrisiko-KI-System ein­zu­stu­fen ist und wel­che Pflich­ten sich hier­aus ergeben.

Für Betrei­ber stel­len sich dem­ge­gen­über vor allem Fra­gen der rechts­kon­for­men Nut­zung. Bereits die Ein­füh­rung eines Robo­tik­sys­tems erfor­dert in der Regel eine daten­schutz­recht­li­che Prü­fung. Da Robo­ter­sys­te­me häu­fig per­so­nen­be­zo­ge­ne Daten und nicht sel­ten auch Gesund­heits­da­ten ver­ar­bei­ten, sind ins­be­son­de­re die Anfor­de­run­gen der DSGVO zu beach­ten. Bereits vor der Beschaf­fung soll­ten Ein­rich­tun­gen daher prü­fen, wel­che Daten ver­ar­bei­tet wer­den, wel­che Daten­schutz­maß­nah­men erfor­der­lich sind. Hier­zu zäh­len ins­be­son­de­re Datenschutz-Folgenabschätzungen. Hin­zu tre­ten Pflich­ten aus dem euro­päi­schen KI-Recht. Zwar rich­ten sich die zen­tra­len Anfor­de­run­gen des AI Act an Anbie­ter von KI-Systemen. Betrei­ber kön­nen jedoch eben­falls regu­la­to­ri­schen Vor­ga­ben unter­lie­gen, etwa im Hin­blick auf die bestim­mungs­ge­mä­ße Nut­zung, die mensch­li­che Auf­sicht oder die Ein­hal­tung spe­zi­fi­scher Einsatzbedingungen.

Die Ver­ant­wort­lich­keit von Her­stel­ler und Betrei­bern endet nicht mit dem Inver­kehr­brin­gen oder der Beschaf­fung. Viel­mehr erstre­cken sich zahl­rei­che Pflich­ten über den gesam­ten Lebens­zy­klus des Sys­tems. Kommt es zu Schä­den, kön­nen sowohl Pro­dukt­feh­ler als auch Defi­zi­te bei Imple­men­tie­rung, Über­wa­chung oder Nut­zung haf­tungs­recht­li­che Kon­se­quen­zen nach sich ziehen.

Robo­ti­sche Assis­tenz­sys­te­me kön­nen einen wich­ti­gen Bei­trag zur Bewäl­ti­gung der Her­aus­for­de­run­gen im Pfle­ge­be­reich leis­ten. Der erfolg­rei­che Ein­satz setzt jedoch vor­aus, dass Her­stel­ler und Betrei­ber die regu­la­to­ri­schen Anfor­de­run­gen aus Produktsicherheits- und Digi­tal­recht berück­sich­ti­gen. Wer Com­pli­ance bereits in Ent­wick­lung, Beschaf­fung und Betrieb inte­griert, redu­ziert recht­li­che Risi­ken und schafft die Grund­la­ge für eine nach­hal­ti­ge Nut­zung der Technologie.