V Kompetenz HF-D7.7-008 branchenübergreifend 7 Skills
Erkennen von Risiken und Verzerrungen durch KI
Erkennt, in welchen Fällen ein KI-System bei bestimmten Gruppen oder in bestimmten Situationen systematisch verzerrt oder unzuverlässig arbeitet, und benennt die daraus resultierenden Folgen sowie mögliche Maßnahmen.
Wie hrmforce dies misst
- Messmethode
- Arbeitsproben-Test · rho 0.33 (SD 0.09)
- hrmforce-Instrument
- Wissenstest (kundenspezifisch), Arbeitsproben-Test
- Kompetenz (50-Framework)
- Beurteilungsvermögen
- Trainierbarkeit
- mittel
- Nachfrageausblick 2026 bis 2030
- steigend
Der Bewerber führt unter standardisierten Bedingungen eine repräsentative Arbeitsprobe durch.
Verhaltensanker
| Ebene | Verhalten auf dieser Ebene |
|---|---|
| N1 Geführt | Weist darauf hin, dass die Ergebnisse der KI durch die verwendeten Daten verzerrt sein können, und leitet auffällige Ergebnisse an einen Kollegen weiter. arbeitet unter Aufsicht und befolgt Anweisungen · Routine, jeweils eine Variable nach der anderen · eigene Aufgabe |
| N3 Beherrscht | Untersucht Ergebnisse pro Gruppe oder Situation, ermittelt, wo das System Defizite aufweist, und schlägt Maßnahmen oder zusätzliche Kontrollen vor. legt den eigenen Ansatz fest und holt proaktiv Input ein · mehrere Variablen, gewisse Mehrdeutigkeiten · eigenes Team oder eigener Prozess |
| N5 Führung | Legt die Bewertungsrahmen für die Fairness und die Risiken von KI fest und entscheidet, ob ein System weiterhin eingesetzt werden darf. legt den Standard und die Richtlinien fest · strategisch, unter hoher Unsicherheit · Organisation, Wertschöpfungskette oder Berufsfeld |
N2 und N4 sind bewusst nicht verankert. Die Bewerter ordnen sie gemäß der Konvention O*NET zwischen den Ankerpunkten ein.
Zugrundeliegende Skills
Diese Skills übernehmen die Messroute und die Verhaltensanker dieses Konstrukts.
| T | Skill | Definition | Nachfrageausblick 2026 bis 2030 |
|---|---|---|---|
| V | Überprüfung eines Modells auf Verzerrungen Prüfung auf Voreingenommenheit · Fairnessanalyse | Vergleicht die Ergebnisse und Fehlerquoten eines Modells über verschiedene Gruppen hinweg und weist auf Abweichungen hin. | steigend |
| V | Erkennen von Ersatzvariablen Proxy-Variablen | Erkennt Merkmale, die indirekt auf Herkunft, Geschlecht oder Gesundheit hinweisen, und beurteilt, ob deren Verwendung vertretbar ist. | steigend |
| V | Bewertung der Repräsentativität des Datensatzes Repräsentativität des Datensatzes | Prüft, ob die Trainingsdaten die Gruppen und Situationen abdecken, für die das Modell später eingesetzt werden soll. | steigend |
| V | Abwägung der Auswirkungen einer falschen Vorhersage Fehlerkostenanalyse | Wägt ab, was ein falsch-positives oder falsch-negatives Ergebnis für eine Person bedeutet, und legt den Schwellenwert entsprechend fest. | steigend |
| V | Überwachung der Modellabweichung Modelldrift | Überwacht, ob sich die Modellleistung und die Eingabedaten im Laufe der Zeit verändern, und passt das Modell bei Bedarf an. | steigend |
| V | Einrichtung eines Einspruchs- und Beschwerdeverfahrens Einspruchsverfahren | Stellt sicher, dass Personen ein Ergebnis anfechten können und dass eine Person den Fall erneut in der Sache prüft. | steigend |
| G | Die Grenzen eines KI-Systems kommunizieren Kommunikation der Grenzen der KI | Erläutert den Nutzern, wofür ein System gedacht ist und wofür nicht, und wo sie sich selbst weiter informieren müssen. | steigend |