V Compétence HF-D7.7-008 intersectoriel 7 compétences
Identifier les risques et les biais liés à l’IA
Identifie les cas où un système d’IA fonctionne de manière systématiquement biaisée ou peu fiable pour certains groupes ou dans certaines situations, et en identifie les conséquences ainsi que les mesures possibles.
Comment hrmforce le mesure
- Méthode de mesure
- Test sur échantillon de travail · rho 0.33 (SD 0.09)
- Instrument hrmforce
- Test de connaissances (spécifique au client), Test sur échantillon de travail
- Aptitude (référentiel 50)
- Jugement
- Aptitude à l'apprentissage
- moyen
- Perspective de demande 2026 à 2030
- en hausse
Le candidat réalise un échantillon de travail représentatif dans des conditions standardisées.
Ancres comportementales
| Niveau | Comportement attendu à ce niveau |
|---|---|
| N1 Guidé | Indique que les résultats générés par l’IA peuvent être faussés par les données utilisées et renvoie les résultats surprenants à un collègue. travaille sous supervision et suit les consignes · procédure standard, une variable à la fois · tâche personnelle |
| N3 Maîtrise | Examine les résultats par groupe ou par situation, identifie les lacunes du système et propose des mesures ou des contrôles supplémentaires. définit sa propre approche et sollicite activement des contributions · plusieurs variables, une certaine ambiguïté · votre propre équipe ou processus |
| N5 Direction | Définit les cadres d’évaluation de l’équité et des risques liés à l’IA et décide si un système peut continuer à être utilisé. définit la norme et la politique · stratégique, dans un contexte de forte incertitude · organisation, chaîne de valeur ou profession |
Les éléments N2 et N4 ne sont délibérément pas ancrés. Les évaluateurs les placent entre les points d'ancrage, conformément à la convention O*NET.
Compétences sous-jacentes
Ces compétences héritent de la voie de mesure et des ancres comportementales de ce construit.
| T | Compétence | Définition | Perspective de demande 2026 à 2030 |
|---|---|---|---|
| V | Audit d'un modèle visant à détecter les biais Audit des biais · Analyse d'équité | Compare les résultats et les taux d'erreur d'un modèle entre différents groupes et signale les cas où les résultats présentent des biais. | en hausse |
| V | Identification des variables de substitution Variables de substitution | Identifie les attributs qui font indirectement référence à l’origine, au genre ou à la santé, et détermine si leur utilisation est justifiable. | en hausse |
| V | Évaluation de la représentativité d'un ensemble de données Représentativité de l’ensemble de données | Permet de vérifier si les données d’apprentissage couvrent les groupes et les situations pour lesquels le modèle sera ultérieurement utilisé. | en hausse |
| V | Évaluation de l’impact d’une prédiction erronée Analyse du coût des erreurs | Évalue l’impact d’un résultat faussement positif ou négatif sur une personne et fixe le seuil en conséquence. | en hausse |
| V | Suivi de la dérive du modèle Dérive du modèle | Vérifie si les performances du modèle et les données d'entrée évoluent au fil du temps et ajuste le modèle si nécessaire. | en hausse |
| V | Mise en place d'une procédure de contestation et de réclamation Procédure de recours | Permet aux personnes concernées de contester une décision et garantit qu’une autre personne réexamine le dossier au fond. | en hausse |
| G | Communiquer les limites d’un système d’IA Communiquer les limites de l’IA | Explique aux utilisateurs à quoi sert le système et à quoi il ne sert pas, et dans quels domaines ils doivent continuer à effectuer eux-mêmes leurs recherches. | en hausse |