Der EU AI Act ist die erste umfassende Verordnung zur Regulierung von Künstlicher Intelligenz in der Europäischen Union.
KI-Systeme werden in verschiedene Risikostufen eingeteilt: minimal, begrenzt, hoch und inakzeptabel. Je höher das Risiko, desto umfangreicher die Anforderungen.
Die Verordnung ist seit dem
1. August 2024 in Kraft und wird schrittweise implementiert, wobei bestimmte Artikel zu unterschiedlichen Zeitpunkten wirksam werden.
Artikel 4 verpflichtet Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um sicherzustellen, dass ihr Personal über ein ausreichendes Maß an
KI-Kompetenz verfügt.
KI-Kompetenz bezeichnet "die Fähigkeiten, die Kenntnisse und das Verständnis, die es ermöglichen,
KI-Systeme sachkundig einzusetzen sowie sich der Chancen und Risiken bewusst zu werden."
Die Verpflichtung gilt unabhängig von der Risikoeinstufung des KI-Systems für alle KI-Anwendungen, ob mit minimalem, begrenztem oder hohem Risiko.
Artikel 4 ist seit dem 2. Februar 2025 in Kraft. Unternehmen müssen ab diesem Zeitpunkt die Anforderungen an KI-Kompetenz erfüllen.
Nationale Aufsichtsbehörden müssen etabliert werden. In Deutschland wird dies voraussichtlich die Bundesnetzagentur (BNetzA) sein.
Bis zur Etablierung der Aufsichtsbehörden liegt die Sicherstellung der KI-Kompetenz in der Eigenverantwortung der Unternehmen.
Auch Kleinunternehmen und Selbstständige, die KI-Systeme entwickeln, anbieten oder betreiben, fallen unter die Regelung.
Behörden und öffentliche Organisationen, die KI in ihrem Betrieb einsetzen, müssen ebenfalls KI-Kompetenzen sicherstellen.
Auch Unternehmen, die KI-Systeme vertreiben oder importieren, sind von der Regelung betroffen.
Freelancer und Dienstleister, die im Auftrag eines Unternehmens mit KI arbeiten, müssen über entsprechende Kompetenzen verfügen.
Die Regelungen des Artikel 4 betreffen nur berufliche Nutzer von KI-Systemen. Private Anwender sind von den Verpflichtungen ausgenommen.
Auch Unternehmen, die lediglich allgemeine KI-Tools wie ChatGPT, Midjourney oder Claude nutzen, fallen unter die Regelung und müssen KI-Kompetenzen sicherstellen.
Die erforderlichen Kompetenzen hängen vom spezifischen Einsatzkontext ab. Der Artikel 4 schreibt keine einheitliche Lösung für alle Unternehmen vor.
Technisches Know-how
Mitarbeiter sollten die Funktionsweise von KI-Algorithmen, maschinellem Lernen und generativen Modellen grundlegend verstehen.
Die technischen Elemente des Systems müssen korrekt angewendet und dessen Ausgaben geeignet interpretiert werden können.
Es geht nicht um tiefgreifende Programmierkenntnisse, sondern um ein Verständnis der Grundprinzipien und Funktionsweisen der eingesetzten KI-Technologien.
Regulatorisches und ethisches Wissen
Kenntnisse über die Anforderungen des AI Acts und weitere relevante Gesetzgebungen wie die DSGVO sind erforderlich.
Sensibilisierung für ethische Fragen, insbesondere in Bezug auf Diskriminierung und Verzerrungen (Bias) in KI-Systemen.
Bewusstsein für die gesellschaftlichen Auswirkungen und ethischen Implikationen von KI-Entscheidungen ist ein wesentlicher Bestandteil der geforderten KI-Kompetenz.
Bewertung potenzieller Risiken
Anpassung an Branche und Anwendungsfall
Über den Einsatz von KI-Systemen
In spezifischen Branchen und Kontexten
Die Fähigkeit, KI sicher und effektiv in spezifischen Branchen und Kontexten einzusetzen, ist entscheidend. Mitarbeiter müssen potenzielle Risiken für Gesundheit, Sicherheit und Grundrechte erkennen und minimieren können.
Schulungen und Weiterbildungen
"Es reicht nicht aus, einfach eine Art von Schulung, eine Art von KI-Kompetenz über das komplette Unternehmen zu schulen, sondern man muss sich überlegen, welche Abteilungen welche KI-Kompetenzen benötigen, um dann spezifisch zu schulen", betont Valentin Mayer vom Fraunhofer FIT Generative AI Lab.
Effektive Schulungen sollten sowohl grundlegende als auch fortgeschrittene Themen abdecken:
- Grundlagen der Künstlichen Intelligenz
- Regelungen des EU AI Acts
- Effektive Nutzung von Prompts und KI-Tools
- Datenschutz und Datensicherheit
- Ethische Fragestellungen und potenzielle Risiken
Individueller Maßnahmenkatalog
Analyse der eingesetzten KI-Systeme
Identifikation notwendiger Kompetenzen
Entwicklung zielgerichteter Schulungen
Durchführung der Maßnahmen
Auf Basis einer Analyse der im Unternehmen eingesetzten KI-Systeme und der beteiligten Mitarbeiter sollte ein individueller Maßnahmenkatalog erstellt werden. Dieser definiert, wie die notwendigen Schulungen effizient und zielgerichtet umgesetzt werden können.
Evaluation des aktuellen Kompetenzstands
Anpassung an neue KI-Entwicklungen
Durchführung von Follow-up-Schulungen
Interne und externe Expertenvernetzung
Da sich die KI-Technologie ständig weiterentwickelt, ist es wichtig, dass auch die KI-Kompetenz kontinuierlich aktualisiert wird. Unternehmen sollten einen Prozess etablieren, der die regelmäßige Überprüfung und Aktualisierung der KI-Kompetenzen sicherstellt.
Dokumentation der Teilnahme an Schulungen und Weiterbildungsmaßnahmen zur KI-Kompetenz als Nachweis für Aufsichtsbehörden.
Erwerb und Sammlung von Zertifikaten, die die KI-Kompetenz der Mitarbeiter nachweisen und bestätigen.
Durchführung und Dokumentation interner Bewertungen zur Überprüfung des Kompetenzstands der Mitarbeiter im Umgang mit KI-Systemen.
Obwohl der AI Act keine spezifischen Vorgaben zur Dokumentation der KI-Kompetenz macht, ist es für Unternehmen ratsam, ihre Bemühungen zur Kompetenzentwicklung zu dokumentieren. Dies kann bei späteren Überprüfungen durch Aufsichtsbehörden hilfreich sein.
Führungskräfte benötigen vor allem strategisches Verständnis von KI und Kenntnisse zur Risikoabschätzung. Sie müssen in der Lage sein, fundierte Entscheidungen über den Einsatz von KI-Systemen zu treffen und die Compliance mit gesetzlichen Vorgaben sicherzustellen.
Technische Mitarbeiter benötigen tiefergehende Kenntnisse über die Funktionsweise und Implementation von KI-Systemen. Sie sollten die technischen Aspekte der eingesetzten KI-Technologien verstehen und potenzielle Risiken identifizieren können.
Mitarbeiter in Fachabteilungen wie Marketing oder Personalwesen benötigen anwendungsspezifische KI-Kompetenzen. Sie sollten wissen, wie sie KI-Tools effektiv für ihre spezifischen Aufgaben einsetzen können und welche ethischen Aspekte zu beachten sind.
Der AI Act definiert nicht präzise, welches Kompetenzniveau als "ausreichend" gilt. Unternehmen müssen selbst einschätzen, welche Maßnahmen angemessen sind.
Besonders für kleine und mittlere Unternehmen kann die Implementierung umfassender Schulungsmaßnahmen eine finanzielle und zeitliche Herausforderung darstellen.
Die rasante Weiterentwicklung von KI-Technologien erfordert eine kontinuierliche Aktualisierung der Kompetenzen, was einen fortlaufenden Aufwand bedeutet.
Mitarbeiter verfügen über unterschiedliche Vorkenntnisse im Bereich KI, was die Entwicklung passender Schulungskonzepte erschwert.
"AI Literacy ist mehr als eine gesetzliche Verpflichtung – sie ist eine Chance, Unternehmen zukunftssicher zu machen. Mitarbeitende, die den Umgang mit KI verstehen, sind besser in der Lage, deren Potenziale zu nutzen und Risiken zu minimieren", betont Valentin Mayer vom Fraunhofer FIT Generative AI Lab.
Erfassen Sie alle eingesetzten KI-Systeme und identifizieren Sie die damit befassten Mitarbeiter.
Ermitteln Sie den spezifischen Kompetenzbedarf für verschiedene Abteilungen und Rollen.
Entwickeln Sie ein maßgeschneidertes Schulungs- und Weiterbildungskonzept.
Dokumentieren Sie alle durchgeführten Maßnahmen zur Kompetenzentwicklung sorgfältig.
Ja, die Verpflichtung zur Sicherstellung ausreichender KI-Kompetenz gilt für alle Anbieter und Betreiber von KI-Systemen, unabhängig von der Unternehmensgröße. Auch Kleinunternehmen und Selbstständige, die KI-Tools wie ChatGPT oder Midjourney nutzen, fallen unter diese Regelung.
Der AI Act macht keine konkreten Vorgaben zu Art und Umfang der Schulungsmaßnahmen. Unternehmen haben hier Gestaltungsspielraum und sollten Maßnahmen wählen, die zum spezifischen Einsatzkontext ihrer KI-Systeme und den Vorkenntnissen ihrer Mitarbeiter passen. Dies können interne Workshops, externe Schulungen, E-Learning-Kurse oder eine Kombination verschiedener Formate sein.
Artikel 4 ist seit dem 2. Februar 2025 in Kraft. Unternehmen müssen ab diesem Zeitpunkt sicherstellen, dass ihr Personal über ausreichende KI-Kompetenzen verfügt. Die Überprüfung durch nationale Aufsichtsbehörden wird voraussichtlich ab August 2025 erfolgen, wenn diese etabliert sind.
Der AI Act sieht bei Verstößen Geldbußen vor, deren genaue Höhe von der Art des Verstoßes abhängt. Die Nichteinhaltung der Anforderungen des Artikel 4 könnte zu Bußgeldern führen. Allerdings sind die genauen Sanktionsmechanismen noch nicht vollständig definiert, da die nationalen Aufsichtsbehörden erst etabliert werden müssen.
Unternehmen, die in die KI-Kompetenz ihrer Mitarbeiter investieren, fördern nicht nur die Compliance mit gesetzlichen Vorgaben, sondern stärken auch ihre Innovationskraft und Wettbewerbsfähigkeit. Die Investition in KI-Kompetenz sollte daher nicht nur als regulatorische Pflicht, sondern als strategische Investition in die Zukunftsfähigkeit des Unternehmens verstanden werden.
Artikel 4 des EU AI Acts verpflichtet Unternehmen, KI-Kompetenzen bei ihrem Personal sicherzustellen. Diese Anforderung gilt unabhängig von der Risikoeinstufung des KI-Systems für alle beruflichen Anwender.
Die Implementierung von KI-Kompetenzen ist nicht nur eine regulatorische Pflicht, sondern auch eine strategische Investition in die Zukunftsfähigkeit des Unternehmens und kann zu Wettbewerbsvorteilen führen.
Die Entwicklung von KI-Kompetenzen ist kein einmaliges Projekt, sondern ein kontinuierlicher Prozess, der eine fortlaufende Anpassung an neue Technologien, Erkenntnisse und regulatorische Entwicklungen erfordert.
Der EU AI Act verpflichtet ab Februar 2025 alle Anbieter und Betreiber von KI-Systemen, ausreichende KI-Kompetenzen bei ihrem Personal sicherzustellen. Erfahren Sie, was Artikel 4 konkret fordert und wie Sie die Anforderungen in Ihrem Unternehmen umsetzen können.