Künstliche Intelligenz ist längst im Personalwesen angekommen. Ob bei der Erstellung von Stellenanzeigen, der Vorauswahl von Bewerbungen oder der Automatisierung administrativer Aufgaben – KI kann HR-Teams spürbar entlasten. Doch mit den neuen Möglichkeiten wachsen auch die Anforderungen an einen verantwortungsvollen Umgang mit dieser Technologie.
Mit dem EU AI Act hat die Europäische Union einen verbindlichen Rechtsrahmen für den Einsatz künstlicher Intelligenz geschaffen. Besonders für Personalabteilungen ist die Verordnung relevant, denn hier können KI-Systeme Entscheidungen beeinflussen, die unmittelbare Auswirkungen auf Menschen und ihre berufliche Zukunft haben.
Welche KI-Anwendungen sind im HR-Bereich erlaubt? Wann gelten Systeme als Hochrisiko-KI? Welche Pflichten müssen Arbeitgeber bereits erfüllen und worauf sollten sie sich für 2027 vorbereiten?
Wir geben einen Überblick über die wichtigsten Regelungen und zeigen, was HR-Verantwortliche jetzt konkret tun können.
Was ist der EU AI Act?
Der EU AI Act, auch europäische KI-Verordnung genannt, ist ein europaweit geltendes Regelwerk für die Entwicklung, Bereitstellung und Nutzung künstlicher Intelligenz.
Ziel der Verordnung ist es, Innovationen zu ermöglichen und gleichzeitig Menschen vor möglichen Risiken durch KI-Systeme zu schützen. Dabei verfolgt die EU einen risikobasierten Ansatz: Je größer das potenzielle Risiko einer KI-Anwendung für Gesundheit, Sicherheit oder Grundrechte ist, desto strenger sind die gesetzlichen Anforderungen.
Grundsätzlich unterscheidet die Verordnung zwischen verschiedenen Risikostufen.
Bestimmte KI-Praktiken mit einem unannehmbaren Risiko sind verboten. Dazu zählt beispielsweise die biometrische Emotionserkennung am Arbeitsplatz, abgesehen von eng begrenzten Ausnahmen.
Für sogenannte Hochrisiko-KI gelten umfangreiche Anforderungen.
Dazu können beispielsweise KI-Systeme gehören, die Bewerbende bewerten oder die Leistung von Beschäftigten beurteilen.
Für weitere Anwendungen gelten besondere Transparenzpflichten. Dazu können beispielsweise KI-Chatbots zählen, die mit Bewerbenden kommunizieren.
Bei Anwendungen mit geringem oder minimalem Risiko bestehen dagegen grundsätzlich keine zusätzlichen Anforderungen durch die KI-Verordnung.
Für HR bedeutet das: Nicht jede Anwendung künstlicher Intelligenz ist automatisch kritisch. Entscheidend ist, welche Aufgaben das System übernimmt und welchen Einfluss seine Ergebnisse auf Menschen haben. (ai-act-service-desk)
Warum ist der EU AI Act für Personalabteilungen besonders relevant?
Kaum ein Unternehmensbereich arbeitet mit so vielen personenbezogenen Informationen wie HR. Bewerbungsunterlagen, Qualifikationen, Leistungsbeurteilungen, Gehaltsdaten und Informationen zur beruflichen Entwicklung bilden die Grundlage zahlreicher Personalprozesse.
Werden solche Prozesse durch künstliche Intelligenz unterstützt, können sich daraus besondere Risiken ergeben.
Ein Beispiel: Ein KI-System analysiert eingehende Bewerbungen und erstellt anhand bestimmter Kriterien eine Rangfolge der Kandidatinnen und Kandidaten. Das spart zunächst Zeit. Allerdings besteht auch die Gefahr, dass die Technologie bestehende Vorurteile oder diskriminierende Muster aus den verwendeten Daten übernimmt.
Im schlimmsten Fall erhalten qualifizierte Bewerbende dadurch schlechtere Chancen, ohne dass die Ursachen für die Entscheidung unmittelbar nachvollziehbar sind.
Der EU AI Act berücksichtigt diese Risiken ausdrücklich. Bestimmte KI-Anwendungen in den Bereichen Recruiting, Beschäftigung und Personalmanagement werden deshalb als Hochrisiko-KI eingestuft.
Welche HR-Anwendungen können als Hochrisiko-KI gelten?
Recruiting und Bewerberauswahl
KI-Systeme, die Bewerbungen automatisch filtern, Kandidatinnen und Kandidaten bewerten oder bei der Auswahl geeigneter Bewerbender unterstützen, können als Hochrisiko-KI eingestuft werden.
Auch der Einsatz von KI zur gezielten Platzierung von Stellenanzeigen kann unter bestimmten Voraussetzungen relevant sein.
Personal- und Karriereentscheidungen
KI-Anwendungen, die Entscheidungen über Beförderungen, Arbeitsbedingungen oder die Beendigung von Beschäftigungsverhältnissen beeinflussen, können ebenfalls unter die Hochrisiko-Kategorie fallen.
Leistungs- und Verhaltensbewertung
Systeme, die die Leistung oder das Verhalten von Mitarbeitenden beobachten und bewerten, gehören ebenfalls zu den besonders sensiblen Einsatzbereichen.
KI-gestützte Aufgabenverteilung
Werden Aufgaben automatisiert auf Basis persönlicher Merkmale oder des individuellen Verhaltens zugewiesen, kann auch dies als Hochrisiko-Anwendung gelten.
Wichtig ist dabei: Ein HR-System wird nicht allein dadurch zur Hochrisiko-KI, dass es künstliche Intelligenz enthält. Entscheidend sind der konkrete Verwendungszweck, die Funktion des Systems und die Auswirkungen auf die betroffenen Personen.
Welche KI-Anwendungen sind im Personalwesen verboten?
Neben besonders regulierten Hochrisiko-Anwendungen gibt es auch KI-Praktiken, deren Einsatz grundsätzlich untersagt ist. (AI Act Service Desk)
Ein für Arbeitgeber besonders relevantes Beispiel ist die biometrische Emotionserkennung am Arbeitsplatz.
Gemeint sind etwa Systeme, die anhand von Gesichtsausdrücken oder anderen biometrischen Merkmalen versuchen, die emotionale Verfassung von Beschäftigten abzuleiten.
Solche Anwendungen sind grundsätzlich verboten. Die KI-Verordnung sieht lediglich eng begrenzte Ausnahmen für medizinische oder sicherheitsbezogene Zwecke vor.
Damit zieht die EU eine klare Grenze: Technologische Möglichkeiten rechtfertigen nicht automatisch jeden Einsatz künstlicher Intelligenz.
Welche Pflichten haben Arbeitgeber beim Einsatz von KI?
Für Personalabteilungen ist insbesondere die Unterscheidung zwischen Anbieter und Betreiber eines KI-Systems wichtig.
Anbieter sind beispielsweise Unternehmen, die ein KI-System entwickeln oder unter eigenem Namen auf den Markt bringen. Arbeitgeber, die eine entsprechende Lösung in ihren Personalprozessen einsetzen, gelten in der Regel als Betreiber.
Die konkreten Pflichten hängen von der Rolle des Unternehmens und von der jeweiligen Risikokategorie des KI-Systems ab.
Menschliche Aufsicht sicherstellen
Personalentscheidungen sollten nicht unkritisch an eine KI delegiert werden.
Bei Hochrisiko-Systemen müssen geeignete Personen mit der menschlichen Aufsicht betraut werden. Sie müssen in der Lage sein, die Funktionsweise und Ergebnisse des Systems zu beurteilen und bei Bedarf einzugreifen.
Für die Praxis bedeutet das beispielsweise, dass KI-generierte Bewertungen im Recruiting nachvollzogen und kritisch überprüft werden können müssen.
Transparenz gegenüber Beschäftigten schaffen
Werden Hochrisiko-KI-Systeme am Arbeitsplatz eingesetzt, müssen betroffene Beschäftigte und gegebenenfalls ihre Arbeitnehmervertretung entsprechend informiert werden.
Auch für Bewerbende und Mitarbeitende kann es relevant sein, zu wissen, wenn KI-Systeme Entscheidungen vorbereiten oder beeinflussen.
Transparenz ist damit nicht nur eine rechtliche Anforderung, sondern auch eine wichtige Grundlage für Vertrauen in neue Technologien.
KI-Systeme kontrollieren und dokumentieren
Unternehmen müssen Hochrisiko-KI entsprechend den vorgesehenen Vorgaben einsetzen und den Betrieb überwachen.
Dazu können beispielsweise die Kontrolle von Eingabedaten, die Aufbewahrung bestimmter Protokolle und der Umgang mit erkannten Risiken oder Vorfällen gehören.
Für HR empfiehlt es sich deshalb, klare Zuständigkeiten für die Einführung und den laufenden Betrieb von KI-Anwendungen festzulegen.
Datenschutz und Mitbestimmung berücksichtigen
Der EU AI Act ersetzt weder die Datenschutz-Grundverordnung noch das nationale Arbeitsrecht.
Wer personenbezogene Daten mit KI verarbeitet, muss weiterhin die Anforderungen der DSGVO erfüllen. Dazu gehören unter anderem eine geeignete Rechtsgrundlage, die Zweckbindung und gegebenenfalls eine Datenschutz-Folgenabschätzung.
Auch der Betriebsrat kann bei der Einführung von KI-Systemen mitbestimmungspflichtig beteiligt sein. Das betrifft insbesondere technische Einrichtungen, die dazu bestimmt sind, Verhalten oder Leistung von Beschäftigten zu überwachen.
Checkliste
Unsere Checkliste zeigt in 10 Punkten worauf es beim Vergleich von HR-Software-Anbietern wirklich ankommt – kompakt, praxisnah und sofort einsetzbar.
KI-Kompetenz: Warum Weiterbildung für HR wichtiger wird
Ein besonders praxisrelevanter Bestandteil des EU AI Acts betrifft die sogenannte KI-Kompetenz. (AI Act Service Desk)
Unternehmen, die KI-Systeme anbieten oder einsetzen, müssen Maßnahmen ergreifen, um die KI-Kompetenz der Personen zu fördern, die in ihrem Auftrag mit diesen Systemen arbeiten.
Dabei sollen unter anderem technisches Wissen, Erfahrung, Ausbildung und der konkrete Einsatzkontext berücksichtigt werden.
Für Personalabteilungen entsteht daraus ein wichtiges Handlungsfeld.
Denn Mitarbeitende müssen nicht nur wissen, wie sie ein KI-Tool bedienen. Sie sollten auch verstehen, wo dessen Grenzen liegen und welche Risiken bei der Verarbeitung sensibler Informationen entstehen können.
Eine praxisorientierte KI-Qualifizierung kann beispielsweise folgende Inhalte umfassen:
- Grundlagen und Funktionsweise künstlicher Intelligenz
- Datenschutz und verantwortungsvoller Umgang mit Unternehmensdaten
- Möglichkeiten und Grenzen generativer KI
- Erkennen fehlerhafter oder diskriminierender Ergebnisse
- Unternehmensinterne Regeln für den Einsatz von KI
- Menschliche Kontrolle bei KI-gestützten Entscheidungen
Welche Maßnahmen sinnvoll sind, hängt vom konkreten Einsatz ab. Beschäftigte, die KI lediglich zur allgemeinen Texterstellung nutzen, benötigen andere Kenntnisse als HR-Fachkräfte, die mit KI-gestützten Bewerberbewertungen arbeiten.
Gerade für Learning & Development entsteht daraus die Aufgabe, KI-Kompetenzen systematisch aufzubauen und entsprechende Lernangebote in die betriebliche Weiterbildung zu integrieren. (VEDA Learning & Development)
EU AI Act: Welche Fristen gelten 2026 und 2027?
Der EU AI Act wird schrittweise angewendet. Einige Vorgaben gelten bereits, während insbesondere für Hochrisiko-KI im Personalwesen längere Übergangsfristen vorgesehen sind.
Seit dem 2. Februar 2025 gelten bereits die Vorschriften zu verbotenen KI-Praktiken sowie die Vorgaben zur KI-Kompetenz. Für HR ist das beispielsweise deshalb relevant, weil bestimmte Formen der Emotionserkennung am Arbeitsplatz grundsätzlich verboten sind.
Seit dem 2. August 2026 gilt der EU AI Act in weiten Teilen. Seit diesem Zeitpunkt greifen unter anderem weitere Transparenz- und Durchsetzungsregeln. So müssen beispielsweise bestimmte KI-Systeme wie Chatbots transparent machen, dass Nutzer mit einer KI und nicht mit einem Menschen interagieren.
Für Personalabteilungen ist jedoch vor allem der 2. Dezember 2027 entscheidend. Ab diesem Datum gelten die umfangreichen Anforderungen an Hochrisiko-KI-Systeme. Dazu gehören auch bestimmte KI-Anwendungen in den Bereichen Beschäftigung und Personalmanagement – beispielsweise Systeme zur Auswahl von Bewerbenden, zur Bewertung von Beschäftigten oder zur Unterstützung bestimmter Personalentscheidungen. Ursprünglich sollten diese Anforderungen früher gelten. Durch den 2026 in Kraft getretenen sogenannten AI Omnibus wurde die Frist für Hochrisiko-KI jedoch auf den 2. Dezember 2027 verschoben. (Zeitplan AI Act)
Für Unternehmen bedeutet das: Die Übergangsfrist sollte als Vorbereitungszeit genutzt werden. HR-Abteilungen sollten bereits jetzt erfassen, welche KI-Anwendungen im Einsatz sind, prüfen, ob diese als Hochrisiko-KI einzustufen sind, Verantwortlichkeiten festlegen und Beschäftigte entsprechend qualifizieren. Wer neue HR-Software beschafft, sollte die Anforderungen des EU AI Acts ebenfalls von Beginn an berücksichtigen.
EU AI Act in der Praxis: Checkliste für Personalabteilungen
Wie können sich HR-Teams konkret vorbereiten? Die folgenden sechs Schritte bieten eine erste Orientierung.
- KI-Anwendungen erfassen
Verschaffen Sie sich einen Überblick darüber, welche KI-Systeme im Unternehmen bereits genutzt werden. Berücksichtigen Sie dabei auch Anwendungen, die Mitarbeitende möglicherweise eigenständig in ihren Arbeitsalltag integriert haben. - Einsatzbereiche und Risiken bewerten
Prüfen Sie, welche Aufgaben die eingesetzten Systeme übernehmen und ob ihre Ergebnisse Einfluss auf Personalentscheidungen haben.
Klären Sie gemeinsam mit den jeweiligen Anbietern, wie die eingesetzten Systeme nach dem EU AI Act einzuordnen sind. - Klare Regeln für die Nutzung definieren
Legen Sie fest, welche KI-Tools eingesetzt werden dürfen, welche Informationen verarbeitet werden können und wann eine menschliche Überprüfung erforderlich ist.
Klare interne Leitlinien schaffen Orientierung und reduzieren Risiken. - Datenschutz und Arbeitnehmervertretung einbeziehen
Stimmen Sie die Einführung neuer KI-Anwendungen frühzeitig mit den zuständigen Stellen ab.
Prüfen Sie dabei auch mögliche Mitbestimmungsrechte und datenschutzrechtliche Anforderungen. - Mitarbeitende qualifizieren
Entwickeln Sie zielgruppengerechte Lernangebote.
Neben technischen Grundlagen sollten der verantwortungsvolle Umgang mit KI und die Grenzen automatisierter Ergebnisse im Mittelpunkt stehen. - Verantwortlichkeiten und Kontrollen etablieren
Definieren Sie, wer für Auswahl, Freigabe und Überwachung eingesetzter KI-Systeme verantwortlich ist.
Überprüfen Sie die eingesetzten Anwendungen regelmäßig und passen Sie interne Vorgaben an neue Entwicklungen an.
Mit diesen Maßnahmen schaffen Unternehmen eine gute Grundlage, um künstliche Intelligenz strukturiert und verantwortungsvoll in ihre Personalprozesse einzubinden.
Fazit: KI im HR braucht klare Regeln und kompetente Menschen
Der EU AI Act verändert die Rahmenbedingungen für den Einsatz künstlicher Intelligenz im Personalwesen.
Insbesondere dort, wo KI die Auswahl, Bewertung oder berufliche Entwicklung von Menschen beeinflusst, steigen die Anforderungen an Transparenz, Kontrolle und Verantwortung.
Für HR geht es deshalb um mehr als die Einhaltung neuer Vorschriften.
Personalabteilungen übernehmen eine zentrale Rolle dabei, den Einsatz künstlicher Intelligenz im Unternehmen verantwortungsvoll zu gestalten.
Dazu gehören die Auswahl geeigneter Technologien, die Gestaltung transparenter Prozesse und die gezielte Qualifizierung der Mitarbeitenden.
Wer sich frühzeitig mit den Anforderungen beschäftigt, schafft die Voraussetzungen, um die Potenziale künstlicher Intelligenz sinnvoll zu nutzen und gleichzeitig die Interessen von Bewerbenden und Beschäftigten zu schützen.
KI-Kompetenz im Unternehmen gezielt aufbauen
Die Einführung neuer Technologien ist nur ein Teil erfolgreicher HR-Digitalisierung.
Ebenso wichtig ist es, Mitarbeitende auf veränderte Anforderungen vorzubereiten und Wissen nachhaltig im Unternehmen zu verankern.
Mit dem Learning Management System unterstützt VEDA Unternehmen dabei, Weiterbildung digital und bedarfsgerecht zu organisieren. Lerninhalte lassen sich zentral bereitstellen und Mitarbeitende flexibel qualifizieren – beispielsweise auch rund um den verantwortungsvollen Einsatz künstlicher Intelligenz.
FAQ: Häufige Fragen zum EU AI Act im Personalwesen
Gilt der EU AI Act auch für kleine und mittelständische Unternehmen?
Ja. Die KI-Verordnung gilt grundsätzlich unabhängig von der Unternehmensgröße.
Entscheidend ist insbesondere, welche Rolle ein Unternehmen beim Einsatz künstlicher Intelligenz einnimmt und welche KI-Anwendungen verwendet werden.
Ist der Einsatz von KI im Recruiting verboten?
Nein. KI im Recruiting ist nicht grundsätzlich verboten.
Bestimmte Anwendungen, beispielsweise zur automatisierten Bewertung oder Vorauswahl von Bewerbenden, können jedoch als Hochrisiko-KI eingestuft werden und unterliegen dann besonderen Anforderungen.
Müssen alle Mitarbeitenden eine KI-Schulung absolvieren?
Der EU AI Act schreibt keine einheitliche Standardschulung für sämtliche Beschäftigte vor.
Unternehmen müssen jedoch geeignete Maßnahmen zur Förderung der KI-Kompetenz der Personen ergreifen, die in ihrem Auftrag mit KI-Systemen arbeiten.
Die Maßnahmen sollten auf Kenntnisse, Aufgaben und Einsatzkontext abgestimmt sein.
Wann gelten die Anforderungen für Hochrisiko-KI im HR?
Die Anforderungen des EU AI Acts werden schrittweise wirksam.
Einige Vorgaben gelten bereits, während umfassende Anforderungen für bestimmte Hochrisiko-KI-Systeme im HR-Bereich zu einem späteren Zeitpunkt vollständig greifen.
Unternehmen sollten sich deshalb bereits heute mit der Einordnung ihrer Systeme und den notwendigen organisatorischen Maßnahmen beschäftigen.
Ersetzt der EU AI Act die DSGVO?
Nein.
Die KI-Verordnung und die DSGVO gelten nebeneinander. Unternehmen müssen beim Einsatz künstlicher Intelligenz sowohl die einschlägigen Anforderungen des EU AI Acts als auch die geltenden Datenschutzvorschriften beachten.
