IA · 20 luglio 2026 · 3 min di lettura
Il paradosso dell'algoritmo HR: perché l'IA crea nuovi stereotipi (più degli umani)
In sintesi: Un recente studio di Princeton e dell'Università di Chicago rivela che i Large Language Model tendono a creare autonomamente stereotipi sui candidati durante i processi di assunzione. I modelli più avanzati come OpenAI o3 e DeepSeek R1 mostrano la tendenza più forte a escludere categorie protette basandosi su pochissimi dati, fallendo nel bilanciare esplorazione e ottimizzazione.
di Team Mocchi's
Il mito della neutralità algoritmica vacilla
Nelle direzioni HR di tutto il mondo, l'adozione dell'intelligenza artificiale per lo screening dei curriculum è spesso presentata come la soluzione definitiva per eliminare i pregiudizi umani. Tuttavia, una recente ricerca presentata alla prestigiosa conferenza ICML (International Conference on Machine Learning) di Seoul rivela uno scenario opposto: i modelli linguistici di ultima generazione non solo replicano i bias presenti nei dati di addestramento, ma sono in grado di fabbricarne di nuovi in modo autonomo, segregando i candidati con una rigidità nettamente superiore a quella umana.
Come riporta MIT Technology Review, lo studio condotto dai ricercatori della Princeton University e dell'Università di Chicago dimostra che la tendenza dei Large Language Model (LLM) a generalizzare rapidamente per risolvere problemi logico-matematici si trasforma in una pericolosa scorciatoia cognitiva quando applicata a contesti sociali, portando alla creazione sistematica di nuovi stereotipi.
La simulazione: quattro etnie fittizie e una scala di segregazione
Per testare i modelli senza l'influenza di pregiudizi storici reali, i ricercatori hanno ideato una simulazione in cui i chatbot — tra cui ChatGPT, Claude, Gemini e DeepSeek — vestivano i panni di un consulente comunale incaricato di selezionare personale per venti diverse professioni (da medici e avvocati a bidelli e assistenti all'infanzia). I candidati appartenevano a quattro gruppi etnici immaginari: Tufa, Aima, Reku e Weki.
In ogni round, il modello doveva assumere una persona, scoprendo subito dopo se l'assunzione avesse avuto successo o meno. All'insaputa dei modelli, tutti i candidati avevano esattamente la stessa probabilità matematica di successo in ogni ruolo. Eppure, le IA hanno iniziato quasi subito a segregare le etnie fittizie in ruoli specifici sulla base di pochissimi riscontri iniziali. Ad esempio, se un candidato di etnia Aima falliva come medico, l'IA smetteva di assumere esponenti di quel gruppo per posizioni di alto profilo, declassandoli sistematicamente a ruoli ritenuti meno prestigiosi, come quello di bidello.
I risultati numerici sono impietosi. In una scala di segregazione in cui il punteggio 2 indica la totale compartimentazione di un gruppo in una singola nicchia lavorativa, i partecipanti umani di un precedente studio psicologico analogo avevano ottenuto un punteggio medio di 0,84. Al contrario, i modelli di intelligenza artificiale hanno registrato punteggi mediamente superiori del 65%.
Il paradosso del "ragionamento": perché o3 e R1 sono i peggiori
L'aspetto più sorprendente emerso dalla ricerca riguarda le prestazioni dei modelli più avanzati. I cosiddetti "modelli di ragionamento" (reasoning models), come OpenAI o3 e DeepSeek R1, ottimizzati per la logica complessa e il problem solving scientifico, hanno mostrato i bias più rigidi. Il modello o3 di OpenAI ha quasi raggiunto il limite teorico dello studio, registrando un punteggio di segregazione pari a 1,83.
Questo fenomeno si spiega con quello che gli psicologi chiamano il "dilemma esplorazione-sfruttamento" (exploration-exploitation dilemma). Davanti a una scelta, ogni decisore deve bilanciare la tentazione di affidarsi a ciò che ha già funzionato (sfruttamento) con il rischio di provare opzioni nuove (esplorazione). I modelli di ragionamento, addestrati per trovare la risposta esatta nel minor tempo possibile generalizzando da pochissimi esempi, scelgono quasi sempre la via dello sfruttamento immediato. Se un singolo esempio suggerisce che un candidato "Tufa" ha fallito, l'algoritmo conclude istantaneamente che l'intero gruppo non è idoneo, senza concedersi la possibilità di esplorare e smentire la propria ipotesi.
Il punto di Mocchi's
Questo studio mette in guardia le aziende italiane che guardano all'IA come a una scorciatoia per automatizzare la selezione del personale o altri processi decisionali complessi. Riteniamo che l'adozione di questi strumenti non debba mai essere considerata "neutrale per definizione": al contrario, i modelli più intelligenti sono proprio quelli più inclini a creare scorciatoie logiche discriminatorie se lasciati operare senza supervisione. Per chi sviluppa e integra queste tecnologie in Italia, la priorità deve essere l'implementazione di rigorosi sistemi di controllo "human-in-the-loop" e l'adozione di metriche di valutazione dinamiche che costringano l'algoritmo a bilanciare l'efficienza con l'equità, evitando che la ricerca della massima ottimizzazione si traduca in nuove barriere invisibili.