Mit dem Inkrafttreten der zentralen Bestimmung der EU-KI-Verordnung (auch „EU AI Act“) am 02.02.2025 begann für Unternehmen eine neue Ära der Regulierung im Umgang mit Künstlicher Intelligenz. Die Anforderung: Unternehmen müssen sicherstellen, dass alle Mitarbeitenden, die mit diesen Systemen arbeiten, angemessen geschult sind (“KI-Kompetenz”). 

Ziel der Verordnung ist es, Vertrauen und Sicherheit im Einsatz von KI-Systemen zu schaffen, insbesondere bei sogenannten Hochrisiko-KI-Anwendungen, wie sie z. B. in der Personalrekrutierung, der medizinischen Diagnostik oder im Finanzbereich zum Einsatz kommen.

Die Schulungspflicht gilt für alle Unternehmen und Organisationen, die Hochrisiko-KI-Systeme im Sinne der Verordnung entweder entwickeln, bereitstellen oder nutzen. Das betrifft insbesondere:

  • Hersteller von KI-Systemen, die in sensiblen Bereichen wie Gesundheit, Bildung, Justiz, kritische Infrastrukturen oder Arbeitsvermittlung tätig sind;
  • Anwenderunternehmen, die solche Systeme in ihrem laufenden Geschäft einsetzen – unabhängig von der Unternehmensgröße;
  • Importeure und Händler, die Hochrisiko-KI-Systeme in der EU vertreiben oder in Verkehr bringen.

 

Auch kleine und mittlere Unternehmen (KMU) oder Start-ups sind betroffen, wenn sie Hochrisiko-KI-Systeme nutzen oder anbieten. Die Verordnung enthält zwar teilweise erleichterte Anforderungen für KMU, die Pflicht zur Schulung bleibt jedoch bestehen, da sie für die sichere Anwendung zentral ist.

Die Verordnung sieht vor, dass alle Personen, die mit der Bedienung, Überwachung oder Interpretation eines Hochrisiko-KI-Systems betraut sind, über die nötigen Kompetenzen verfügen müssen. Diese Schulungen sollen sicherstellen, dass die Mitarbeitenden die Funktionsweise des Systems verstehen, sich möglicher Risiken bewusst sind (wie Diskriminierung oder fehlerhafte Ergebnisse) und wissen, wie sie mit unerwartetem Verhalten der KI umgehen können. Auch Aspekte wie Datenschutz, Transparenz und der verantwortungsvolle Umgang mit Trainings- und Ausgabedaten müssen geschult werden. Die KI-VO schreibt keine festen Inhalte oder einheitliche Schulungsformate vor, sondern verpflichtet Unternehmen dazu, maßgeschneiderte Schulungen auf Basis der konkreten eingesetzten Systeme und deren Risiken anzubieten. Die Schulung muss also immer zum System, zum Einsatzkontext und zur Rolle der geschulten Person passen.

Dabei gilt: Die Schulungen sind regelmäßig zu aktualisieren, insbesondere dann, wenn sich das KI-System weiterentwickelt oder neue gesetzliche Vorgaben in Kraft treten.

KI-Anwendungen, die nicht als Hochrisiko-KI eingestuft werden (z. B. einfache Chatbots, Empfehlungsalgorithmen, Marketing-Tools), unterliegen nicht der formellen Schulungspflicht nach der Verordnung. Dennoch empfiehlt es sich aus Gründen der unternehmerischen Verantwortung und Compliance, auch hier mindestens grundlegende Schulungen zum sicheren, datenschutzkonformen Einsatz durchzuführen.

Die Missachtung der Schulungspflichten kann erhebliche rechtliche Konsequenzen nach sich ziehen. Die Verordnung sieht empfindliche Bußgelder vor – bei Verstößen gegen Betreiberpflichten bis zu 10 Millionen Euro oder 2 % des weltweiten Jahresumsatzes. Zudem drohen Nutzungsverbote für nicht regelkonform eingesetzte Systeme sowie mögliche zivilrechtliche Haftung, wenn ungeschultes Personal Schäden verursacht. Auch die öffentliche Bekanntmachung von Verstößen kann zu einem nicht unerheblichen Reputationsrisiko führen.

Handlungsempfehlungen für Unternehmen

Um den neuen Anforderungen gerecht zu werden, sollten Unternehmen zeitnah folgende Maßnahmen ergreifen:

  1. Bestandsaufnahme durchführen: Prüfen Sie, ob und welche Hochrisiko-KI-Systeme im Unternehmen zum Einsatz kommen.
  2. Schulungsbedarf identifizieren: Ermitteln Sie, welche Mitarbeitenden geschult werden müssen – auch abteilungsübergreifend.
  3. Schulungskonzepte entwickeln: Erstellen Sie zielgruppengerechte Schulungsinhalte, die auf die jeweilige Nutzung abgestimmt sind.
  4. Dokumentation sicherstellen: Halten Sie Schulungen und Teilnahme systematisch fest, um im Falle einer Kontrolle gewappnet zu sein.
  5. Verantwortlichkeiten klären: Benennen Sie interne Ansprechpersonen für Compliance mit dem KI-Regelwerk.
  6. Kontinuierliche Weiterbildung etablieren: Integrieren Sie Schulungen zu KI-Risiken und ethischem Einsatz in Ihr reguläres Weiterbildungsangebot.

 

Die Umsetzung dieser Pflichten ist nicht nur gesetzliche Notwendigkeit, sondern auch ein wichtiger Beitrag zur verantwortungsvollen Nutzung von Künstlicher Intelligenz im Unternehmen. Wer frühzeitig handelt, sichert sich einen Compliance-Vorsprung – und stärkt gleichzeitig das Vertrauen von Mitarbeitenden und Kunden.