Algoritmi di selezione del personale e discriminazione
Un candidato o un dipendente pensa di essere stato scartato o penalizzato da un sistema automatico in modo discriminatorio.
Ha un caso da valutare?
Le rispondiamo entro 24 ore. La strategia legale resta dell'avvocato, noi ci occupiamo della parte tecnica.
Lo scenario
Cosa succede di solito
Un'azienda usa un software per filtrare i curriculum, assegnare punteggi o fissare i colloqui.
Un candidato viene escluso e sospetta che abbiano pesato l'età, il genere o un altro dato personale.
In azienda nessuno sa spiegare con precisione come il software assegna i punteggi.
Il software è di un fornitore esterno e i criteri stanno in parte nella sua configurazione.
Lo stesso può succedere con turni, promozioni o valutazioni delle prestazioni.
Le due parti
Cosa deve dimostrare ognuna
Cosa deve dimostrare chi fa causa
- Che il sistema ha avuto un peso nella decisione.
- Che i criteri o i dati usati penalizzano un gruppo di persone.
- Che a parità di requisiti l'esito cambia per persone di gruppi diversi.
Cosa deve dimostrare chi si difende
- Quali criteri usa il sistema, e che nessuno riguarda dati protetti.
- Che la decisione finale l'ha presa una persona, e su quali basi.
- Che gli esiti non mostrano differenze ingiustificate tra gruppi.
I sistemi AI usati per selezionare il personale sono fra quelli ad alto rischio dell'allegato III dell'AI Act, con obblighi applicabili dal 2 dicembre 2027. Le norme antidiscriminazione valgono già. Il decreto legislativo 216/2003 (artt. 2 e 3) riguarda religione, convinzioni personali, disabilità, età e orientamento sessuale. Il decreto legislativo 198/2006 (artt. 25 e 27) riguarda la discriminazione in ragione del sesso, anche indiretta e anche nella selezione. Il decreto legislativo 215/2003 riguarda razza e origine etnica. L'art. 15 della legge 300/1970 rende nulli gli atti discriminatori del datore di lavoro, nei casi previsti. Il candidato deve portare elementi concreti che facciano presumere una discriminazione. A quel punto, nei casi previsti dalla legge, tocca al datore di lavoro dimostrare che non c'è. Il GDPR chiede un trattamento corretto dei dati e prevede garanzie sulle decisioni prese solo in modo automatico, quando si applicano.
Cosa analizza il consulente tecnico
- La configurazione del sistema: criteri, pesi, filtri e soglie.
- I dati usati per addestrare o tarare il sistema, quando sono disponibili.
- Le statistiche sugli esiti: chi è passato e chi no, divisi per gruppo quando i dati lo permettono.
- Prove sul sistema con profili costruiti apposta, uguali tranne che per un dato.
- Il ruolo delle persone nel processo: chi vedeva cosa, e chi decideva.
Domande da fare subito
- Il sistema scarta in automatico, assegna un punteggio o dà solo un suggerimento?
- L'azienda ha la documentazione del fornitore su come funziona?
- I dati delle selezioni passate esistono ancora?
- Il candidato sapeva che nella selezione c'era un sistema automatico?
Le domande che ci fanno
Domande frequenti
Si può dimostrare che un algoritmo discrimina?
E se il fornitore non dà accesso al sistema?
Fate verifiche anche prima che ci sia una causa?
Ha un caso da valutare?
Le rispondiamo entro 24 ore. La strategia legale resta dell'avvocato, noi ci occupiamo della parte tecnica.
