Neue Pflichten für Unternehmen
Die KI-Verordnung (EU) 2024/1689 (KI-VO) ist seit dem 1. August 2024 in Kraft (wir berichteten). Ziel der KI-VO ist es, einen sicheren und transparenten Einsatz von KI-Systemen in der EU zu gewährleisten. Damit verbunden sind neue Pflichten für Unternehmen und öffentliche Stellen, die KI anbieten, betreiben, einführen, vertreiben oder nutzen. Alle Anforderungen der KI-VO müssen bis spätestens zum 2. August 2026 umgesetzt werden. Einige Pflichten gelten bereits ab dem 2. Februar 2025. Eine dieser Pflichten ist die Pflicht zur Sicherstellung von KI-Kompetenz im Unternehmen.
KI-Kompetenz nach Art. 4 KI-VO
Nach Art. 4 KI-VO müssen Anbieter und Betreiber von KI-Systemen jeglicher Art Maßnahmen ergreifen, um nach besten Kräften sicherzustellen, dass ihr Personal und andere Personen, die in ihrem Auftrag mit dem Betrieb und der Nutzung von KI-Systemen befasst sind, über eine ausreichende KI-Kompetenz verfügen. Diese Pflicht betrifft sowohl Anbieter als auch Betreiber von KI-Systemen. Importeure und Händler sind dem Wortlaut nach nicht betroffen.
Unter KI-Kompetenz versteht die KI-Verordnung die Fähigkeiten, die Kenntnisse und das Verständnis, die es Anbietern, Betreibern und Betroffenen unter Berücksichtigung ihrer jeweiligen Rechte und Pflichten ermöglichen, KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken von KI und möglicher Schäden, die sie verursachen kann, bewusst zu werden (Art. 3 Nr. 56 KI-VO). Ziel der KI-Kompetenz ist es, den größtmöglichen Nutzen aus KI-Systemen zu ziehen und gleichzeitig Grundrechte, Gesundheit und Sicherheit zu wahren und eine demokratische Kontrolle zu ermöglichen (ErwG. 20 KI-VO).
Umsetzung in der Praxis
Die Herausforderung in der Praxis besteht darin, zu bestimmen, was konkret im Rahmen der KI-Kompetenz geschuldet ist. Die KI-Verordnung gibt hierzu keinen Maßnahmenkatalog vor. Aus der Definition lässt sich jedoch ableiten, dass sowohl technisches Wissen, wie z. B. Grundkenntnisse über KI-Systeme und deren Funktionsweise, als auch ein Bewusstsein für die Chancen und Risiken von KI sowie ein soziales, ethisches und rechtliches Verständnis unter Berücksichtigung des Einzelfalls sicherzustellen sind. Bei den sozialen und ethischen Fragen sind insbesondere die Themen Fairness, Transparenz und Verantwortung beim Einsatz von KI zu berücksichtigen. Für die rechtlichen Informationen sind unter anderem die Anforderungen an den Datenschutz, das geistige Eigentum, den Schutz von Geschäftsgeheimnissen und die Cybersicherheit zu erläutern.
KI-Kompetenz kann durch verschiedene Maßnahmen vermittelt werden. Als relevante Maßnahmen sind insbesondere die Entwicklung interner Richtlinien und Standards sowie Schulungen und Trainings zu nennen. Auch Zertifizierungsprogramme und die Benennung eines KI-Beauftragten können zur KI-Kompetenz beitragen. In der Regel ist ein breit gefächertes Maßnahmenpaket erforderlich. Entsprechend dem risikobasierten Ansatz der KI-VO sind die konkreten Maßnahmen zur KI-Kompetenz an den jeweiligen Kontext und das vorhandene Wissen der Nutzer anzupassen, so dass die Maßnahmen in der Praxis je nach Nutzer, Art des KI-Systems und Einsatzzweck unterschiedlich auszugestalten sind. Darüber hinaus ist zu berücksichtigen, dass die KI-Kompetenz kontinuierlich sichergestellt werden muss, so dass die Maßnahmen sowohl regelmäßig als auch anlassbezogen im Unternehmen durchgeführt werden sollten. Nur so können die Nutzer auf dem aktuellen Stand gehalten werden (Fortbildungspflicht). Zur Durchsetzung der Maßnahmen sind zudem entsprechende Kontroll- und Durchsetzungsbefugnisse in den internen Richtlinien festzulegen.
zurück