Per non rischiare che l'IA cestini un curriculum, Google ha studiato una soluzione umana

I sistemi basati sull'intelligenza artificiale utilizzati dal Google eliminerebbero i curriculum di candidati altamente qualificati prima ancora che possano essere letti da un occhio umano.

Questo è ciò che Google DeepMind, il laboratorio di ricerca sull’intelligenza artificiale di Google, ha scritto in un documento interno visionato da Bloomberg.

Nel documento, contrassegnato dalla raccomandazione di non essere diffuso, si legge che, secondo DeepMind, esiste una “probabilità non trascurabile” che il sistema di selezione del personale scarti erroneamente i profili più adatti alle posizioni aperte o impieghi troppo tempo a sottoporli a chi può formalizzare le assunzioni.

Per ovviare a questo problema, lo stesso team di DeepMind, ha dovuto creare un modulo al di fuori della procedura standard, chiedendo ai candidati di sottoscriverlo per assicurarsi che una persona in carne e ossa possa effettivamente visionare le domande dei potenziali dipendenti.

Nonostante il tenore della comunicazione interna trapelata, Google smentisce l’ipotesi che il proprio sistema di selezione del personale sia fallace e, pure confermando l’esistenza del modulo alternativo che i candidati possono compilare, lo riduce a un mezzo utile a fare arrivare i curricula direttamente ai team interni che stanno assumendo.

Di fatto, Google nega che esista un malfunzionamento nel proprio algoritmo per le assunzioni.

Il paradosso commerciale

Google propone alle aziende strumenti di IA per le risorse umane. Nello specifico, questi strumenti vengono presentati come una mano santa nel valutare i curricula e velocizzare le selezioni del personale.

Un sistema di selezione automatizzata può ordinare i curricula, assegnare loro un punteggio o escluderli in base a requisiti specifici, parole chiave e corrispondenze tra esperienza e posizione.

Se l’algoritmo respinge o colloca troppo in basso una persona che avrebbe dovuto essere esaminata, produce quello che in statistica si chiama falso negativo e il sistema tratta come inadatto un profilo potenzialmente idoneo.

Nel caso della falla sospettata da DeepMind non è possibile stabilire quale di questi passaggi sia automatizzato, quali regole vengano applicate e in quale momento intervenga un selezionatore umano.

Sappiamo però che il memo interno è stato redatto dal gruppo AGI Safety and Alignment di Google DeepMind, impegnato nello studio della sicurezza e dell’allineamento dell’intelligenza artificiale generale, cioè dei metodi per far sì che sistemi futuri molto capaci operino secondo obiettivi e vincoli stabiliti dagli esseri umani.

Tutto ciò avvalora l’importanza del modulo parallelo che gli aspiranti dipendenti possono sottoscrivere il quale, pure non correggendo i filtri applicati dalle IA, impone che la candidatura venga valutata da un selezionatore in carne e ossa.

L’esclusione dei modelli linguistici

Il modulo alternativo informa i candidati che le loro risposte alle domande di selezione saranno esaminate da persone e raccomanda di non affidarne la stesura alle IA, giacché i testi generati dai modelli linguistici risultano spesso molto simili tra loro.

Comunque si guardi questa situazione, tra algoritmi perfettibili e l’invito a non usare le IA fatto da un’azienda che su queste ultime si sta giocando il futuro, richiama le disparità algoritmiche delle quali si parla da anni.