AI Act und HR: was sich für die Leistungsbeurteilung wirklich ändert

Die AI ist fast unbemerkt in die HR-Software eingezogen. Sie vervollständigt den Satz, während man eine Beurteilung schreibt, macht aus drei Notizen einen Absatz, transkribiert die Aufzeichnungen aus einem Gespräch. Wer heute ein System für das Performance Management auswählt, findet diese Funktionen im Produkt vor, ob er sie gesucht hat oder nicht.

Daraus folgt die Frage, die in der Auswahlphase regelmäßig kommt: Was ändert sich mit dem AI Act für diejenigen, die solche Werkzeuge einsetzen? Die kurze Antwort lautet: Bei den Fristen ändert sich weniger als befürchtet, bei dem, was schriftlich festgehalten werden muss, ändert sich einiges.

Was der AI Act ist und ab wann er gilt

Die Rede ist von der Verordnung (EU) 2024/1689. Sie ist seit dem 1. August 2024 in Kraft und gilt seit dem 2. August 2026 allgemein.

Im Juli 2026 wurde der Rahmen durch die Verordnung (EU) 2026/1744 geändert, den Vereinfachungs-Omnibus, der am 24. Juli 2026 im Amtsblatt der Union veröffentlicht wurde und am 27. Juli in Kraft getreten ist. Die wichtigste Verschiebung betrifft genau den Bereich, der HR angeht: Die Pflichten für Hochrisikosysteme nach Anhang III, die am 2. August 2026 greifen sollten, gelten ab dem 2. Dezember 2027. Für AI, die in bereits vom Produktsicherheitsrecht erfasste Produkte eingebettet ist (Anhang I), gilt der 2. August 2028.

Zwei Regelblöcke gelten dagegen schon jetzt: die Transparenzpflichten des Art. 50, anwendbar seit dem 2. August 2026, und Art. 4 zur AI-Kompetenz, durch den Omnibus neu gefasst und anwendbar seit dem 27. Juli 2026.

Wann eine HR-Software als Hochrisiko gilt

Hier kommt der Punkt, der alle betrifft, die Menschen beurteilen. Anhang III Nummer 4 Buchstabe b führt unter den Hochrisikosystemen diejenigen auf, die dazu bestimmt sind, Entscheidungen über Bedingungen von Arbeitsverhältnissen zu treffen, Aufgaben aufgrund von individuellem Verhalten oder persönlichen Merkmalen zuzuweisen oder die Leistung und das Verhalten von Personen in solchen Verhältnissen “zu überwachen und zu bewerten”.

So gelesen wäre jede Performance-Management-Software mit AI im Inneren automatisch hochriskant, und Art. 6(2) setzt die Grundregel tatsächlich dort an. Art. 6(3) sieht allerdings eine Ausnahme vor. Ein System nach Anhang III gilt nicht als hochriskant, wenn es kein erhebliches Risiko für die Gesundheit, die Sicherheit oder die Grundrechte von Personen birgt und wenn mindestens eine dieser Bedingungen erfüllt ist: Es erfüllt eine eng gefasste Verfahrensaufgabe; es verbessert das Ergebnis einer zuvor abgeschlossenen menschlichen Tätigkeit; es erkennt Abweichungen von früheren Entscheidungsmustern, ohne die menschliche Bewertung ohne angemessene Überprüfung zu ersetzen; es erfüllt eine vorbereitende Aufgabe für eine Bewertung.

Es gibt eine harte Grenze, und im HR-Bereich ist sie die wichtigste: Die Ausnahme greift nie, wenn das System ein Profiling natürlicher Personen vornimmt. Software, die das Profil einer Person erstellt, ihre Leistung vorhersagt oder ihr automatisch eine Punktzahl zuweist, bleibt hochriskant, ohne Abkürzungen.

Die Ausnahme ist außerdem nicht umsonst zu haben. Art. 6(4) verpflichtet den Anbieter des Systems, die Bewertung vor dem Inverkehrbringen zu dokumentieren, sich nach Art. 49(2) in der EU-Datenbank zu registrieren und die Unterlagen den Behörden auf Verlangen vorzulegen.

Für den Käufer ist die praktische Folge einfach: den Anbieter fragen, welchen der beiden Wege er gegangen ist, und darum bitten, das Dokument zu sehen.

Was heute schon gilt

Zu Art. 50 kursiert eine vereinfachte und falsche Lesart, nämlich dass seit dem 2. August 2026 jeder mit AI-Hilfe geschriebene Text als AI gekennzeichnet werden müsse. Die Verordnung sagt etwas anderes und unterscheidet danach, wer was tut.

Wer ein System anbietet, das für die direkte Interaktion mit Menschen bestimmt ist, muss erkennbar machen, dass auf der anderen Seite eine AI steht, sofern das nicht ohnehin offensichtlich ist. Wer ein System anbietet, das synthetische Inhalte erzeugt, also Audio, Bilder, Video oder Text, muss dessen Ausgaben in einem maschinenlesbaren Format kennzeichnen; für Systeme, die vor dem 2. August 2026 in Verkehr gebracht wurden, ist die Frist der 2. Dezember 2026. Wer Systeme zur Emotionserkennung oder zur biometrischen Kategorisierung einsetzt, muss die davon betroffenen Personen informieren. Wer ein System einsetzt, um Deepfakes zu erzeugen oder um Text zu erzeugen, der zur Information der Öffentlichkeit über Angelegenheiten von öffentlichem Interesse veröffentlicht wird, muss das offenlegen.

Ein mit AI-Hilfe geschriebener Kommentar in einem internen Beurteilungsbogen fällt nicht unter den letzten Fall, weil er kein Text ist, der zur Information der Öffentlichkeit veröffentlicht wird. Ihn trotzdem auszuweisen ist gute Praxis und der Weg, den wir gewählt haben; man sollte allerdings wissen, dass es sich um eine Entscheidung handelt und nicht um eine gesetzliche Pflicht.

Art. 4 betrifft dagegen die Kompetenzen der Menschen. In der durch den Omnibus neu gefassten Version müssen Anbieter und Betreiber von AI-Systemen Maßnahmen ergreifen, um die AI-Kompetenz ihres Personals zu fördern, und der Text stellt klar, dass kein bestimmtes Niveau für jede einzelne Person garantiert werden muss. Es bleibt eine Pflicht, tätig zu werden, und sie trifft auch das Unternehmen, das die Software einsetzt, nicht nur das, das sie herstellt.

Die Bußgelder, an der richtigen Stelle gelesen

Die Beträge in Art. 99 sind hoch. Die nach Art. 5 verbotenen Praktiken reichen bis zu 35 Millionen Euro oder 7 % des weltweiten Jahresumsatzes, je nachdem, welcher Betrag höher ist. Die Nichteinhaltung der übrigen Pflichten, einschließlich derjenigen der Betreiber und der Transparenzpflichten, reicht bis zu 15 Millionen oder 3 %. Falsche oder irreführende Auskünfte gegenüber den Behörden reichen bis zu 7,5 Millionen oder 1 %.

Für KMU und Start-ups gilt als Obergrenze der niedrigere der beiden Werte, Prozentsatz oder Festbetrag. Und es sind Obergrenzen: Der tatsächliche Betrag hängt von Schwere, Dauer und Folgen des Verstoßes ab. Ein Unternehmen mit sechzig Beschäftigten, das einen Schreibassistenten nutzt, riskiert keine fünfunddreißig Millionen Euro; diese Obergrenze steht dort für die verbotenen Praktiken, und die sind etwas anderes.

Der italienische Teil, der oft vergessen wird

Das Gesetz Nr. 132 vom 23. September 2025 ist das erste italienische Gesetz über künstliche Intelligenz: im Gesetzblatt veröffentlicht am 25. September 2025, in Kraft seit dem 10. Oktober 2025. Art. 11 Absatz 2 bestimmt, dass der Einsatz von AI im Arbeitsumfeld sicher, zuverlässig und transparent sein muss, dass er nicht im Widerspruch zur Menschenwürde stehen und die Vertraulichkeit personenbezogener Daten nicht verletzen darf, und dass der Arbeitgeber oder Auftraggeber “verpflichtet ist, den Arbeitnehmer über den Einsatz künstlicher Intelligenz in den Fällen und nach den Modalitäten des Artikels 1-bis des Gesetzesdekrets Nr. 152 vom 26. Mai 1997 zu informieren”.

Dieser Verweis ist der Teil, auf den es ankommt. Art. 1-bis des Gesetzesdekrets 152/1997, eingeführt durch das Gesetzesdekret 104/2022 und geändert durch das Arbeitsdekret von 2023, gilt für “vollständig automatisierte Entscheidungs- oder Überwachungssysteme”, die relevante Angaben zu Einstellung, Führung oder Beendigung des Arbeitsverhältnisses, zur Zuweisung von Aufgaben und Tätigkeiten, zur Überwachung, zur Bewertung und zur Leistung liefern. Das Wort “vollständig” wurde 2023 eingefügt und hat den Anwendungsbereich verengt: Wo es einen echten menschlichen Beitrag gibt, greift die Informationspflicht des Art. 1-bis im Grundsatz nicht.

Wenn Sie darüber entscheiden müssen, ob Sie sie erteilen, lautet die ehrliche Antwort: prüfen lassen. Die Grenze des “vollständig automatisiert” bei einem Schreibassistenten hat noch keine gefestigte Rechtsprechung, und Art. 11 verlangt ohnehin einen transparenten Einsatz. Die Beschäftigten darüber zu informieren, welche AI-Funktionen im HR-System aktiv sind, kostet wenig und erledigt die Frage.

Unberührt bleiben in jedem Fall Art. 4 des italienischen Arbeitnehmerstatuts zur Fernüberwachung und die Pflichten aus der DSGVO. Art. 1-bis selbst verlangt in Absatz 4 vom Arbeitgeber eine Risikoanalyse und eine Datenschutz-Folgenabschätzung für die betroffenen Verarbeitungen.

Zwei Randnotizen, nützlich, falls Sie einen Ansprechpartner suchen: Das Gesetz Nr. 132/2025 hat beim Arbeitsministerium eine Beobachtungsstelle für die Einführung von Systemen künstlicher Intelligenz in der Arbeitswelt eingerichtet (Art. 12) und AgID und ACN als nationale Behörden für künstliche Intelligenz benannt (Art. 20).

Drei Fragen an den Anbieter

Dafür braucht es keine juristischen Kenntnisse.

Die erste: Vergibt das System Punktzahlen, sagt es Leistungen voraus oder erstellt es Profile von Personen? Lautet die Antwort ja, ist man im Hochrisikobereich, und das gesamte Pflichtenpaket ändert sich, für den Anbieter und für das Unternehmen, das die Software einführt.

Die zweite: Haben Sie die Klassifizierungsbewertung nach Art. 6 durchgeführt, und sind Sie in der EU-Datenbank registriert? Lassen Sie sich das Dokument zeigen, nicht die Beruhigung.

Die dritte: Wo werden die Daten verarbeitet, und wer speichert sie? Text und Audio können innerhalb desselben Produkts unterschiedliche Wege nehmen, und es lohnt sich, sich sagen zu lassen, welche.

Wie wir es in TalentRewards gelöst haben

Die AI-Funktionen von TalentRewards sind Schreibwerkzeuge: Textvervollständigung während des Schreibens, Ausbau einer Notiz zu einem Absatz, Erstellung und Verfeinerung von Fragebögen, Diktat mit Transkription. Sie vergeben keine Noten, berechnen keine Punktzahlen, sagen niemandes Leistung voraus und rekonstruieren kein Profil einer Person.

Zum Modell gelangen der Text, den der Nutzer gerade schreibt, und ein Arbeitskontext: Art der Review, Rolle, Abteilung, Titel der aktiven Ziele, gewünschter Ton. Nicht dorthin gelangen der Name des Mitarbeiters und die Historie seiner Beurteilungen.

Auf dieser Grundlage haben wir die von Art. 6(4) verlangte Klassifizierungsbewertung erstellt und sind zu dem Ergebnis gekommen, dass die Funktionen unter die Ausnahme des Art. 6(3) fallen, unter den im Dokument schriftlich festgehaltenen Bedingungen: kein automatisches Scoring, kein Profiling, wirksame menschliche Aufsicht. Das ist unsere eigene dokumentierte Bewertung, keine von einem Dritten ausgestellte Zertifizierung, und sie ist erneut zu lesen, wenn sich die Funktionen ändern oder wenn die Kommission die Leitlinien zur Klassifizierung veröffentlicht. Die in Art. 49(2) vorgesehene Registrierung in der EU-Datenbank nehmen wir vor, sobald das Register betriebsbereit ist: zum Zeitpunkt dieses Artikels ist die Datenbank noch nicht geöffnet.

In der Oberfläche ist die AI dort ausgewiesen, wo sie arbeitet. Die AI-Werkzeugleiste und der Fragebogengenerator zeigen die Kennzeichnung “AI-gestützt”, und das Diktat weist darauf hin, dass die Transkription vor der Verwendung noch einmal gelesen werden sollte.

Bei den Daten ist die Beschränkung technischer Natur, und sie gilt für jede einzelne Anfrage. Zugelassen sind nur Endpunkte in der EU-Region und nur Endpunkte, die erklären, die Texte nicht zu speichern und sie nicht zum Trainieren der Modelle zu verwenden. Ein Ausweichen ist nicht vorgesehen: Erfüllt kein Endpunkt diese Bedingungen, geht die Anfrage gar nicht erst hinaus, statt die Union zu verlassen.

Das Audio des Diktats ist der schwache Punkt, und wir sagen es lieber: Das Transkriptionsmodell, das wir einsetzen, hat keine europäische Variante, deshalb wird das Audio in den Vereinigten Staaten verarbeitet. Die Funktion lässt sich abschalten, und wir suchen nach einer Alternative mit europäischem Endpunkt.

Für Unternehmen, die die Software einführen, haben wir ein Kit vorbereitet: die Gebrauchsanweisung mit den erklärten Grenzen der AI-Funktionen, eine Mustermitteilung an die Beschäftigten für Art. 1-bis des Gesetzesdekrets 152/1997 und einige Hinweise für die Folgenabschätzung. Das sind Unterstützungsmaterialien, keine Rechtsberatung: Die Pflichten bleiben beim Unternehmen, das die Software nutzt, und es tut gut daran, sie von der eigenen Rechtsberatung oder vom Datenschutzbeauftragten prüfen zu lassen.

Was bleibt

Der nützliche Teil des AI Act ist für alle, die HR-Software kaufen, nicht die Frist. Er besteht darin, dass er dazu zwingt, schriftlich festzuhalten, was das System tut, was es nicht tut und wo die Daten landen. Es sind ohnehin dieselben Fragen, die eine Personalleitung auch ohne Verordnung stellen würde.

Wenn Sie sehen möchten, wo die AI in TalentRewards eingreift und wo überhaupt nicht, können Sie eine Produktübersicht anfordern.

Dieser Artikel dient der Information und stellt keine Rechtsberatung dar. Stand: 18. September 2026.