Seit Februar Pflicht: KI-Schulung für Mitarbeitende – Was Sie wissen müssen

Artikel 4 des AI Acts verpflichtet Unternehmen dazu, ihre Teams gezielt zu schulen.

Künstliche Intelligenz verändert die Arbeitswelt rasant – doch mit dem technologischen Fortschritt wachsen auch die regulatorischen Anforderungen. Mit der neuen EU-Verordnung zum Einsatz von KI, dem AI Act, kommen klare Regeln: Wer KI entwickelt oder nutzt, muss sicherstellen, dass Mitarbeitende die Technologie verstehen und verantwortungsvoll einsetzen.

Im August 2024 trat der AI Act in Kraft verpflichtet Unternehmen mit seinem Artikel 4 ab diesem Jahr dazu, ihre Teams gezielt zu schulen. Was bedeutet das konkret? Welche Firmen müssen handeln, und wie kann eine praxisnahe Schulung aussehen?

Was ist der EU-AI Act: Innovationsförderung und Verbraucherschutz?

Der AI Act der Europäischen Union ist das erste umfassende Gesetz zur Regulierung von Künstlicher Intelligenz und soll Innovation und Verbraucher:innenschutz in Einklang bringen.

Das Prinzip: Je höher das Risiko eines KI-Systems, desto strenger die regulatorischen Anforderungen. Besonders kritische Anwendungen, die etwa Sicherheit, Grundrechte oder kollektive Interessen betreffen, unterliegen hohen Auflagen.

Einige KI-Anwendungen sind sogar gänzlich verboten. Dazu gehören:

• Social Scoring – die Bewertung von Menschen anhand ihres Verhaltens, wie es etwa in China praktiziert wird.
• Emotionserkennung am Arbeitsplatz oder in Bildungseinrichtungen – da solche Systeme als invasiv und fehleranfällig gelten.
• Manipulative KI, die menschliches Verhalten unbewusst beeinflusst, etwa durch subtile Beeinflussung von Entscheidungen.

Für viele Unternehmen bedeutet der AI Act nicht nur eine rechtliche Herausforderung, sondern auch eine Chance: Wer KI verantwortungsvoll einsetzt und seine Mitarbeitenden entsprechend schult, stärkt nicht nur Vertrauen bei Kundschaft und Partnern, sondern profitiert auch im Arbeitsalltag von den neuen Kenntnissen des Teams.

KI-Kompetenz für Mitarbeitende nach EU AI-Act Artikel 4

Mit Artikel 4 des AI Acts stellt die EU sicher, dass Unternehmen, die KI-Systeme entwickeln oder nutzen, ihre Mitarbeitenden entsprechend schulen.

Der Grund: Künstliche Intelligenz kann tief in Entscheidungsprozesse eingreifen, doch viele Beschäftigte haben nur begrenztes Wissen über Funktionsweise, Grenzen und Risiken dieser Technologie. Fehlbedienungen oder unkritischer Umgang mit KI können zu fehlerhaften Entscheidungen, Diskriminierung oder sogar Haftungsfällen führen.

Artikel 4 verpflichtet daher Anbieter und Betreiber von KI-Systemen, Maßnahmen zu ergreifen, um nach bestem Wissen und Gewissen sicherzustellen, dass ihr Personal über ausreichende KI-Kompetenz verfügt. Dabei müssen Unternehmen insbesondere Folgendes berücksichtigen:

• Technische Kenntnisse: Mitarbeitende müssen verstehen, wie KI-Modelle funktionieren, wie sie trainiert werden und welche Daten sie verarbeiten.
• Erfahrung und Ausbildung: Unternehmen sollten den Schulungsbedarf ihrer Mitarbeitenden genau prüfen. Für Mitarbeitende, die nicht direkt mit KI arbeiten, reicht grundlegendes Wissen oft aus. KI-Expert:innen, also Fachkräfte, die aktiv an der Entwicklung und Optimierung von KI-Systemen beteiligt sind, benötigen hingegen tiefere und regelmäßig aktualisierte Schulungen. Der Grund: KI-Modelle und deren Anwendungen entwickeln sich ständig weiter. Die KI-Expert:innen müssen sicherstellen, dass ihre Fähigkeiten immer auf dem neuesten Stand sind, um neue Technologien richtig einsetzen zu können und etwaige Risiken wie ethische Bedenken oder Verzerrungen in den Modellen zu erkennen und zu vermeiden.
• Einsatzkontext: Die Anforderungen an die Schulung variieren je nachdem, wie die KI eingesetzt wird. Ein KI-Tool für interne Datenanalysen benötigt eine andere Schulung als eine KI, die direkt mit Kunden interagiert.
• Betroffene Personengruppen: Wird KI zur Entscheidungsfindung in sensiblen Bereichen wie Personalwesen oder Finanzwesen eingesetzt, muss besonders darauf geachtet werden, dass die Mitarbeitenden mögliche Fehlerquellen erkennen und vermeiden, da falsche Entscheidungen gravierende Folgen haben können.

Begriffe wie Diskriminierung, Ethik und Bias können im Zusammenhang mit KI nochmal ganz neu an Bedeutung gewinnen – einen Überblick zu den neuen Begriffen verschafft unser KI-Glossar.

Für welche Unternehmen gilt Artikel 4?

Die Schulungspflicht betrifft alle Unternehmen, die KI-Systeme betreiben oder bereitstellen, jedoch mit unterschiedlicher Intensität:

1. Hochrisiko-KI-Systeme (z. B. in Medizin, Justiz, Kreditbewertung) unterliegen strengen Vorschriften. Hier sind umfassende Schulungen und Dokumentationen Pflicht.
2. KI-Systeme mit mittlerem oder geringem Risiko (z. B. Chatbots im Kundenservice, KI-gestützte Texterstellung) haben weniger strenge Auflagen, aber auch hier müssen Unternehmen sicherstellen, dass ihr Team die Grundprinzipien und Risiken der eingesetzten KI versteht.

Das bedeutet: Auch wer ChatGPT oder andere KI-Tools nutzt, muss sicherstellen, dass Mitarbeitende wissen, wie sie die KI korrekt verwenden, welche Limitationen bestehen und welche potenziellen ethischen oder datenschutzrechtlichen Risiken es gibt.

Die Schulungspflicht ist seit dem 2. Februar 2025 in Kraft. Unternehmen sollten daher frühzeitig Maßnahmen ergreifen, um ihre Mitarbeitenden entsprechend zu schulen und somit den Anforderungen des AI Acts gerecht zu werden.

Pflicht zur Schulung für Anbieter und Betreiber von KI-Lösungen

Ob ein Unternehmen vom AI Act betroffen ist, hängt davon ab, ob es KI-Systeme entwickelt oder einsetzt. Der AI Act unterscheidet zwischen Anbietern und Betreibern von KI-Lösungen, wobei beide Gruppen unterschiedliche Pflichten haben:

• Anbieter sind Unternehmen, die KI-Systeme oder -Modelle entwickeln und diese unter ihrem eigenen Namen oder ihrer Marke in Betrieb nehmen.
  Beispiel: Ein Softwareunternehmen entwickelt eine KI zur automatisierten Risikoanalyse für Kreditentscheidungen und verkauft sie an Banken.
• Betreiber sind Organisationen, die KI-Systeme eigenverantwortlich einsetzen, ohne sie selbst entwickelt zu haben.
  Beispiel: Eine Versicherung nutzt eine externe KI-Software zur Betrugserkennung bei Schadensmeldungen.

Artikel 4 des AI Acts betrifft auch Unternehmen, die KI-Anwendungen wie ChatGPT oder andere vorgefertigte Lösungen einsetzen. Auch diese Unternehmen können als Betreiber eingestuft werden und müssen sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenz verfügen. Dabei zählt nicht, ob die KI intern entwickelt oder extern bezogen wurde, sondern die tatsächliche Nutzung im eigenen Verantwortungsbereich.

Konkret bedeutet das: Sobald ein Unternehmen eine KI-Anwendung aktiv in seinen Geschäftsprozessen einsetzt, übernimmt es die Verantwortung für deren Nutzung. Dies betrifft etwa Unternehmen, die KI zur Automatisierung von Kund:innenanfragen, zur Texterstellung und Datenanalyse, in der Bewerber:innenauswahl oder zur Entscheidungsunterstützung verwenden. Diese Unternehmen müssen sicherstellen, dass ihre Mitarbeitenden sowohl mit den Potenzialen als auch den Risiken und Einschränkungen der eingesetzten KI-Systeme vertraut sind.

Einsatz von KI: Wir bieten regelmäßig Workshops und Webinare zum Verständnis und Einsatz von KI-Maßnahmen und Tools an.

FAQ: Das müssen Sie zur Schulungspflicht wissen

Welche Unternehmen sind betroffen?

• Kundenservice-Teams, die Chatbots zur Kommunikation einsetzen
• Personalabteilungen, die KI-gestützte Bewerbungsanalysen nutzen
• Finanzunternehmen, die KI-Modelle zur Risikobewertung verwenden
• Produktionsbetriebe, die KI-gestützte Qualitätssicherung nutzen
• Kreative und Marketing-Teams, die KI-Tools für Design oder Texterstellung verwenden

Kann ich die Schulung selbst vornehmen?

Ja, grundsätzlich können Unternehmen die Schulungen intern organisieren, solange sie sicherstellen, dass diese den Anforderungen des AI Acts entsprechen. In vielen Fällen ist es jedoch ratsam, externe Experten oder spezialisierte Schulungsanbieter hinzuzuziehen, um sicherzustellen, dass alle rechtlichen und technischen Anforderungen umfassend abgedeckt werden. Insbesondere bei komplexen Themen wie Datenschutz und ethischen Aspekten können externe Fachleute wertvolle Unterstützung leisten.

Muss ich auch KI-Spezialist:innen schulen?

Ja, auch KI-Spezialist:innen unterliegen der Schulungspflicht. Technisch versierte Fachkräfte im Bereich KI, maschinelles Lernen und Datenverarbeitung benötigen regelmäßige Fort- und Weiterbildungen, um den rechtlichen und ethischen Anforderungen gerecht zu werden. Besonders in Hochrisiko-Anwendungen ist es wichtig, dass auch Spezialist:innen über die neuesten regulatorischen Entwicklungen informiert sind.

Welche Inhalte sollte eine Schulung haben?

Die Schulungsinhalte sollten auf die eingesetzten KI-Systeme abgestimmt sein. Wichtige Themen sind:

• Funktionsweise von KI und maschinellem Lernen
• Datenschutz- und Sicherheitsanforderungen
• Erkennung von Bias (Verzerrungen) und Diskriminierung in KI-Modellen
• Rechtliche und ethische Implikationen, insbesondere im Hinblick auf den AI Act
• Umgang mit den Ergebnissen der KI und menschliche Kontrolle

Ein Unternehmen, das beispielsweise einen KI-Chatbot im Kundenservice einsetzt, muss seine Mitarbeitenden auf die Interaktion mit Kund:innen und die Verantwortung für die Qualität der KI-Antworten vorbereiten.

Nutzen Sie die kostenfreien Angebote von Mittelstand-Digital: Um Ihren Mitarbeitenden ein grundlegendes Verständnis von KI zu vermitteln, steht Ihnen das breitgefächerte und kostenfreie Angebot der Mittelstand-Digital Zentren zur Verfügung.

Vorsicht vor überteuerten Bezahlangeboten

Es gibt viele Anbieter, die teure Schulungsprogramme für KI anbieten. Unternehmen sollten jedoch sicherstellen, dass die Schulungen tatsächlich relevant und wirksam sind. Ein effektives Schulungsprogramm sollte praktisch und auf die tatsächlichen Bedürfnisse des Unternehmens und seine Mitarbeitenden zugeschnitten sein.

Checkliste: Woran erkennt man einen guten Anbieter von KI-Schulungen?

• Seriosität der Anbietenden: Überprüfen Sie, ob der Anbieter in der Branche anerkannt ist und über nachweisbare Erfahrung verfügt. Seriöse Anbieter haben oft positive Bewertungen und transparente Informationen zu ihrem Angebot.
• Transparente Schulungsinhalte: Ein gutes Schulungsangebot stellt die Inhalte klar und detailliert dar. Fragen Sie nach einem Curriculum, das auf Ihre spezifischen Anforderungen zugeschnitten ist.
• Qualifikation der Speaker:innen: Achten Sie darauf, dass die Trainer:innen über fundiertes Fachwissen und praktische Erfahrung in der Anwendung von KI verfügen.
• Praxisbezug der Schulung: Die Schulung sollte nicht nur theoretisch sein, sondern auch Praxisbeispiele und Fallstudien beinhalten, um das Gelernte direkt anwendbar zu machen.
• Flexibilität und Anpassung: Der Anbieter sollte in der Lage sein, die Schulung an die spezifischen Anforderungen Ihres Unternehmens anzupassen.
• Kosten-Nutzen-Verhältnis: Achten Sie darauf, dass das Angebot einen echten Mehrwert bietet und der Preis gerechtfertigt ist.

Fazit

Der AI Act stellt Unternehmen vor neue Herausforderungen, insbesondere hinsichtlich der Schulungspflichten gemäß Artikel 4. Unternehmen müssen sicherstellen, dass ihre Mitarbeitenden über ausreichende KI-Kompetenzen verfügen, um den sicheren und ethischen Einsatz von KI-Systemen zu gewährleisten. Dabei ist es wichtig, den Schulungsbedarf je nach Risikoprofil der eingesetzten KI-Systeme und der jeweiligen Zielgruppe – von allgemeinen Nutzer:innen bis hin zu spezialisierten KI-Expert:innen – zu berücksichtigen.

Es bestehen jedoch noch Grauzonen: Die Umsetzung des AI Acts ist noch nicht vollständig abgeschlossen, und es gibt derzeit noch keine nationale Behörde, die die Einhaltung der Vorgaben überwacht. Laut einem Bericht von Haufe ist die Umsetzung des AI Acts in den Mitgliedstaaten noch ausstehend, und nationale Behörden müssen bis zum 2. August 2025 benannt werden.

Besonders Betreiber von Hochrisikosystemen sollten sich ihrer Haftung bewusst sein, da auch Produkthaftung eine Rolle spielen kann. Unternehmen sollten daher frühzeitig in Schulung und Compliance investieren, um rechtlichen Risiken vorzubeugen und das Potenzial von KI optimal zu nutzen.

Autorin: Christel Schmuck