ANZEIGE
KI-Tools haben die Personalarbeit grundlegend verändert: Texte erstellen, Dokumente zusammenfassen, Fragen recherchieren – vieles geht schneller und effizienter. Doch gerade im öffentlichen Dienst, wo täglich mit sensiblen Personaldaten gearbeitet wird, ist ein rechtssicherer Umgang mit Künstlicher Intelligenz unabdingbar. Personalerinnen und Personaler im öffentlichen Dienst müssen die rechtlichen Rahmenbedingungen beachten, insbesondere das AGG, die DSGVO und den AI Act.
Wie KI‑Chatbots funktionieren – und wo Risiken liegen
KI-Chatbots basieren auf sogenannten Large Language Models (LLMs), die mithilfe von Wahrscheinlichkeitsrechnung arbeiten. Sie geben nicht die „wahre“, sondern die wahrscheinlichste Antwort aus. Das führt zu zwei Risiken:
- Halluzinationen: Die KI gibt fehlerhafte oder erfundene Informationen aus.
- Voreingenommenheit: Wenn die Trainingsdaten Vorurteile oder Stereotypen enthalten, spiegeln sich diese in den Antworten wider.
Wenn Trainingsdaten aus frei zugänglichen Internetquellen stammen (Wikipedia, Werbetexte, Bücher), ist eine Verzerrung nicht auszuschließen. Zudem ist für Anwenderinnen und Anwender meist nicht transparent, was mit den eingegebenen Daten tatsächlich geschieht.
AGG – Schutz vor Diskriminierung
Das Allgemeine Gleichbehandlungsgesetz (AGG) schützt Personen vor Diskriminierung aufgrund von sechs Merkmalen:
- Ethnische Herkunft oder rassistische Gründe
- Geschlecht
- Religion oder Weltanschauung
- Behinderung
- Alter
- Sexuelle Identität
Behörden und Betriebe sind verpflichtet sicherzustellen, dass KI-Tools diese Merkmale nicht verletzen. Personalerinnen und Personaler müssen KI-generierte Ergebnisse stets kritisch prüfen.
Beispiel: Ein kommunales Rechenzentrum setzt KI zur Vorauswahl von Bewerbungen ein. Das System bevorzugt männliche Bewerber mit bestimmten Nachnamen oder Bildungshintergründen, weil es mit historischen Einstellungsdaten trainiert wurde. In einem solchen Fall kann das Rechenzentrum wegen eines Verstoßes gegen das AGG in Schwierigkeiten geraten. Die Lösung besteht in einem hybriden Verfahren: Die KI sortiert unter Beachtung des AI Acts der EU lediglich vor, während die finale Entscheidung bei Menschen liegt.
DSGVO – Datenschutz bei der KI‑Nutzung
Sobald personenbezogene Daten in KI‑Anwendungen verarbeitet werden, gilt die Datenschutz‑Grundverordnung (DSGVO). Sie schreibt zentrale Grundsätze vor:
- Rechtmäßigkeit (Verarbeitung nur mit Rechtsgrundlage)
- Transparenz (Verständliche Information der Betroffenen)
- Zweckbindung (Daten nur für festgelegte Zwecke erheben)
- Datenminimierung (Nur notwendige Daten verarbeiten)
- Richtigkeit (Daten müssen aktuell und korrekt sein)
- Speicherbegrenzung (Keine längere Speicherung als nötig)
- Integrität & Vertraulichkeit (Schutz vor unbefugtem Zugriff)
- Informationspflicht (Betroffene über Datenerhebung informieren)
Betroffene Personen haben zudem Rechte auf Auskunft, Berichtigung, Löschung sowie auf Widerruf einer erteilten Einwilligung.
Besonders relevant ist Art. 22 DSGVO: Er verbietet automatisierte Einzelfallentscheidungen, die rechtliche oder erhebliche Auswirkungen auf Personen haben. Das bedeutet konkret:
- Erlaubt: KI sortiert Bewerbungen vor, schlägt Kandidatinnen und Kandidaten vor, unterstützt bei Stellenanzeigen.
- Nicht erlaubt: KI versendet automatische Absagen, trifft finale Auswahlentscheidungen, entscheidet über Gehaltsangebote.
AI Act – das europäische KI‑Regelwerk
Der AI Act vom 21. Mai 2024 teilt KI-Systeme in vier Risikostufen ein:
- Unannehmbares Risiko: verboten (z. B. Social Scoring von Beschäftigten)
- Hochrisiko: erlaubt, aber mit strengen Anforderungen
- Begrenztes Risiko: spezifische Transparenzpflichten
- Niedriges / kein Risiko: keine besonderen Anforderungen
Da im Personalbereich häufig personenbezogene Daten verarbeitet werden, fallen viele HR-KI-Systeme in die Kategorie Hochrisiko. Betreiber haben folgende Pflichten:
- Sicherstellung einer menschlichen Aufsicht
- Überwachung des ordnungsgemäßen Betriebs
- Meldung schwerwiegender Vorfälle an den Anbieter
- Aufbewahrung automatisch erzeugter Protokolle für mindestens 6 Monate
- Schulung der Mitarbeitenden vor der KI-Nutzung
- Erstellung und Vermittlung von Nutzungsrichtlinien
Verantwortung kann auf ein KI-Team verteilt werden, z. B. bestehend aus einer HR-Fachkraft, einem IT-Experten und einer Person aus dem Datenschutz oder der Rechtsabteilung.
Rechtssicher mit KI arbeiten
KI ist ein wertvolles Hilfsmittel in der Personalarbeit, aber kein Ersatz für menschliches Urteilsvermögen. Wer KI im öffentlichen Dienst einsetzt, muss AGG, DSGVO und AI-Act im Blick behalten, kritisch prüfen, was die KI ausgibt, und klare interne Richtlinien etablieren. Speziell für den öffentlichen Dienst entwickelte Lösungen wie der CoPilot HR öD von Haufe bieten dabei einen entscheidenden Vorteil: Sie arbeiten auf Basis geprüfter Fachinhalte aus dem Haufe TVöD Office beziehungsweise TV‑L Office und reduzieren dadurch Halluzinationen erheblich.
Kontakt:
Haufe-Lexware GmbH & Co. KG
Munzinger Str. 9
79111 Freiburg
Ansprechpartner:
Ass. jur. Alexander Gabele,
Chefredakteur Haufe TVöD Office
Tel: 0761/898-3106
E-Mail: alexander.gabele@haufe-lexware.com
www.haufe.de
