Per un uso responsabile degli strumenti basati sull’AI per le risorse umane

L'intelligenza artificiale (AI) già svolge diversi ruoli nei dipartimenti delle risorse umane di molte aziende. Da un sondaggio recente, che ha coinvolto più di 250 leader delle risorse umane negli Stati Uniti, è emerso che il 73% di questi utilizza l'AI nei processi di recruiting e assunzione. 

Oggi gli strumenti dell'AI possono essere utili per rivedere i CV e assegnare punteggi ai candidati, ricercare talenti per le posizioni aperte, scrivere descrizioni delle posizioni, identificare le opportunità di promozione per i dipendenti e persino inviare messaggi automatici ai candidati. 

"Pensa a un'attività qualsiasi, sicuramente in questo momento qualcuno sta sviluppando uno strumento AI ad hoc" afferma Trey Causey, head di Responsible AI e senior director di Data Science presso Indeed. 

Tuttavia la complessità di questi strumenti è eterogenea, e perciò altrettanto varia è l'attenzione che gli sviluppatori rivolgono ai possibili rischi. Le organizzazioni devono essere consapevoli della gamma di rischi che l'AI comporta e devono elaborare strategie per utilizzarla in modo responsabile. 

L'AI non solo può potenzialmente ridurre i bias umani, soprattutto nel recruiting, e creare migliori opportunità per i lavoratori, ma può anche snellire le attività di routine, per consentire ai professionisti delle risorse umane di concentrarsi sugli aspetti più umani del proprio lavoro. Tuttavia, l'AI può anche perpetuare e amplificare bias intrinsechi, portando così a perdite in termini di tempo e denaro. 

Ecco quattro passi che le organizzazioni possono compiere per identificare i rischi e per assicurarsi di utilizzare l'intelligenza artificiale in modo giusto, etico ed efficace.

1. Valutare i rischi e i vantaggi per l'organizzazione

Innanzitutto chiediti se gli strumenti dell'AI siano adatti alla tua azienda e al tuo dipartimento delle risorse umane. I sistemi di AI sono in grado amplificare i processi: ad esempio permettono di identificare e valutare molti più candidati di quanto sarebbe possibile manualmente. 

Ciononostante, "anche gli errori possono essere amplificati. Nessun sistema è perfetto", dice Jey Kumarasamy, associato di Luminos.Law, uno studio legale che si occupa di AI. "Anche con una precisione del 90%, che è comunque una stima generosa, se si ha a che fare con migliaia di candidature, un numero considerevole di queste verrà valutato in modo errato." 

Nel valutare i sistemi per le risorse umane basati sull'AI bisogna prendere atto del fatto che sono strumenti imperfetti. Causey dichiara: "I bias sono inevitabili, quindi le aziende dovranno capire come intendono affrontarli, oppure accettare il fattore di rischio". 

Alcune aziende accettano il rischio in vista di una produttività maggiore, altre invece pensano che il margine di errore metta a repentaglio i loro valori o crei una situazione ancora più complicata, dovuta alla pressione imposta da una maggiore conformità normativa. 

Se decidi di procedere con l'AI, scegli attentamente gli strumenti da utilizzare. L'intelligenza artificiale che crea trascrizioni delle conversazioni durante i colloqui, ad esempio, è un'applicazione tipicamente a basso rischio (benché le prestazioni siano inferiori quando alla conversazione partecipano dei parlanti non madrelingua). Al contrario, l'intelligenza artificiale che valuta e assegna punteggi ai candidati in base alla loro prestazione durante i colloqui in videoconferenza "è forse l'area più problematica, perché comporta numerosi rischi e ha un margine di errore estremamente ampio", afferma Kumarasamy.

Insomma, l'AI dovrebbe amplificare e migliorare le attività svolte dagli esseri umani, non sostituirsi ad essi. Prima di adottare uno strumento di AI, assicurati di avere abbastanza membri nel team delle risorse umane per controllare ogni fase dei processi automatizzati dall'intelligenza artificiale. Lascia che siano sempre le persone a occuparsi di questioni importanti, come decisioni finali su un'assunzione, promozione e supporto dei dipendenti. Il risvolto positivo è che, se l'AI si occupa delle mansioni più ordinarie, i professionisti delle risorse umane avranno più tempo e flessibilità per occuparsi delle attività sopracitate.

2. Valutare i fornitori di terze parti di strumenti basati sull'AI

Dopo aver deciso quale tipo di strumento AI si adatta meglio alle esigenze dell'organizzazione, potresti rivolgere ai fornitori domande specifiche, come: 

• Che tipo di controlli hanno eseguito sui sistemi? Quando hanno eseguito l'ultimo test e quali metriche hanno utilizzato?
• Il test è stato eseguito internamente o da un gruppo esterno?
• Come vengono mitigati i bias? Se dichiarano di avere bias minimi, che cosa vuol dire nel concreto e come vengono misurati i bias? 
• Le metriche dei test possono essere visionate dai clienti interessati all'acquisto?
• Se le prestazioni del modello calano, i fornitori offrono servizi post-installazione per formare il personale nella configurazione e manutenzione del sistema?
• Rispettano i regolamenti vigenti ed emergenti? "L'anno scorso ho contattato un fornitore per chiedere se rispettasse un regolamento specifico e mi ha risposto che non ne aveva mai sentito parlare", ha detto Causey. Non solo era un segnale di allarme, ma una mancanza che "influenzava in modo chiaro e diretto il prodotto". 
• Sono disposti a conformarsi a una tua richiesta di audit sull'AI? "Nel condurre un audit sull'intelligenza artificiale, hai probabilmente bisogno della collaborazione del fornitore, e non puoi scoprire il giorno dell'audit che non vuole aiutarti né fornirti la documentazione o i risultati ottenuti", afferma Kumarasamy.

3. Identificare e monitorare i bias

I bias degli algoritmi dell'AI sono tanti quanti quelli presenti nei dati usati per addestrarli. Le aziende non possono intervenire sulle tecniche utilizzate per sviluppare gli algoritmi, ma ci sono dei modi per testare gli strumenti prima di utilizzarli. La città di New York ha introdotto delle leggi che obbligano le aziende a condurre degli audit esterni sui bias e a pubblicarne i risultati prima di lanciare un'intelligenza artificiale per il recruiting.

Le organizzazioni possono anche sfruttare un processo chiamato "analisi controfattuale" per verificare come un modello di AI reagisce a vari input. Ad esempio, se il compito dell'AI è valutare i CV dei candidati, prova a modificare il nome del candidato o la scuola che ha frequentato e osserva: l'algoritmo assegna una valutazione diversa? 

"Questi metodi vengono applicati dagli anni 50, quando i sociologi inviavano i CV alle aziende modificandone solo una voce per osservare come variava la percentuale di risposte", spiega Causey. "Possiamo fare lo stesso con l'intelligenza artificiale e sfruttare le vaste conoscenze sulle scienze sociali per capire come valutare i bias nei modelli di AI."

Quando si utilizzano sistemi di AI, bisogna monitorarli costantemente per identificare e correggere pattern discriminatori sul nascere, e restare al passo con la ricerca su data science e intelligenza artificiale. "Quando le decisioni vengono prese da esseri umani, è difficile capire se sono presenti dei bias", afferma Causey. "Non si può entrare nel cervello di una persona e chiedere perché ha accettato un candidato e non un altro. Con un modello invece questo si può fare".

Non c'è una batteria di test standard per valutare i bias negli strumenti per le risorse umane. Come minimo le aziende dovrebbero capire come viene utilizzata l'AI all'interno dell'organizzazione, ad esempio tenendo un inventario di tutti i modelli di intelligenza artificiale in uso. Le organizzazioni devono tenere traccia scritta degli strumenti adottati, dei loro fornitori e dei casi d'uso per ciascuno strumento. 

Nel migliore dei casi gli audit porteranno a un confronto fra più dipartimenti, tra cui i team legali interni e i data scientist, nonché consulenti esterni e auditor di terze parti. Ci sono anche strumenti di dominio pubblico che possono aiutare le organizzazioni a condurre audit sui propri sistemi di AI. Ad esempio, il National Institute of Standards and Technology (NIST) ha definito un protocollo di gestione dei rischi in quattro parti: governare, mappare, misurare e gestire. 

4. Mantenersi aggiornati sulle modifiche normative

I possibili rischi posti dagli strumenti di risorse umane automatizzati non sono solo sul piano finanziario o della reputazione, ma anche su quello legale. Si stanno delineando nuove leggi in risposta alla proliferazione dell'intelligenza artificiale sul luogo di lavoro. 

Nell'Unione Europea la proposta di Legge sull'intelligenza artificiale si pone l'obiettivo di determinare i livelli di rischio delle applicazioni dell'AI sulla base del potenziale che hanno di essere poco sicure o discriminatorie, e di regolarle in base al punteggio ottenuto. Ad esempio, la proposta attuale considera le applicazioni dell'AI che scansionano i CV come "ad alto rischio" e le sottoporrebbe a severi requisiti di conformità.

Negli Stati Uniti più di 30 atti normativi sono in attesa di approvazione rispetto all'utilizzo dell'AI nel settore privato, compreso l'uso dell'AI per prendere decisioni sull'occupazione. Nel luglio 2023 è entrata in vigore la legge Automated Employment Decision Tool di New York City (AEDT), che impone alle aziende di dichiarare l'utilizzo dell'AI nel processo di assunzione e di condurre audit annuali per dimostrare che i sistemi non presentino bias relativi a sesso o etnia. Chi cerca lavoro e si candida nelle aziende newyorkesi ha anche la possibilità di richiedere informazioni su come l'AI analizza i propri dati.

"C'è questa idea errata secondo cui se una legge non parla nello specifico di sistemi AI non può essere applicata ai sistemi AI", afferma Kumarasamy. "Ma non è vero, soprattutto se parliamo di occupazione". Che la decisione venga presa da un essere umano o da un sistema di AI, la responsabilità per la presenza di eventuali bias ricade comunque sull'organizzazione.

Gli audit sono un buon punto di partenza, ma il modo migliore per prepararsi ai regolamenti venturi e garantire che l'AI utilizzata operi in modo efficace ed equo è mettere a punto un programma di governance dell'AI più ampio. 

I sistemi di governance documentano i principi dell'organizzazione in materia di intelligenza artificiale e stabiliscono processi per valutare strumenti, rilevare le criticità e correggere eventuali problemi senza soluzione di continuità. Ad esempio, Indeed ha sviluppato e ha reso pubblici i propri principi per l'utilizzo etico e appropriato dell'AI all'interno dell'azienda. Indeed ha anche creato un team trasversale AI Ethics addetto alla creazione di strumenti, sistemi e processi per aiutare a garantire un utilizzo responsabile di questa tecnologia. 

Nonostante le misure di sicurezza, la nuova generazione di strumenti AI è complessa e soggetta a errori. 

Tuttavia, l'impegno a utilizzarli in modo responsabile spiana la strada alla creazione di processi migliori. L'AI può aiutare gli esseri umani a essere più efficienti e a ridurre i bias, solo se le persone la controllano in modo adeguato. Ad esempio, potremmo pensare in modo critico ai parametri che un algoritmo AI dovrebbe prendere in considerazione per una qualifica, migliorando radicalmente il mondo in cui i candidati vengono valutati. 

Causey si chiede "Come possiamo capire cosa significhi davvero avere successo in un determinato lavoro?". Il recruiting basato sulle competenze può avere meno bias rispetto a quello basato sui nomi degli istituti di formazione e delle aziende in cui si ha lavorato, e potremmo dare all'AI proprio questa direzione, che agli esseri umani sembra sfuggire. Causey conclude: "Abbiamo la possibilità di creare davvero pari opportunità per chi cerca lavoro grazie all'AI".