Intelligenza Artificiale e pari opportunità: quando l’automazione viola il principio di non discriminazione

Illustrazione grafica dello Studio Legale Sgobbo per l'articolo sulla intelligenza artificiale e discriminazione nel diritto del lavoro

Sistemi di intelligenza artificiale e algoritmi decisionali sono ormai usati per selezionare candidati, assegnare turni, valutare prestazioni, concedere credito e stimare rischi assicurativi. L’idea che una decisione automatizzata sia, per definizione, più oggettiva di quella umana è diffusa ma giuridicamente fuorviante.

Un algoritmo apprende dai dati con cui è addestrato e applica i criteri scelti da chi lo progetta. Se i dati riflettono diseguaglianze storiche, o se i criteri penalizzano in misura sproporzionata determinati gruppi, l’automazione non elimina la discriminazione: la riproduce e la moltiplica su scala, rendendola spesso meno visibile.

Il diritto non resta indifferente. L’ordinamento italiano ed europeo offre un insieme articolato di tutele che si applicano anche quando a «decidere» è un sistema automatizzato:

  • i principi costituzionali;
  • la disciplina antidiscriminatoria;
  • la normativa sulla protezione dei dati personali;
  • il Regolamento europeo sull’intelligenza artificiale.

1. Il fondamento: eguaglianza formale e sostanziale

Il punto di partenza è l’art. 3 della Costituzione. Il primo comma sancisce che tutti i cittadini hanno pari dignità sociale e sono eguali davanti alla legge, «senza distinzione di sesso, di razza, di lingua, di religione, di opinioni politiche, di condizioni personali e sociali». Il secondo comma attribuisce alla Repubblica il compito di rimuovere gli ostacoli di ordine economico e sociale che limitano di fatto la libertà e l’eguaglianza.

Questa doppia dimensione è decisiva nel contesto algoritmico:

  • eguaglianza formale: vieta trattamenti differenziati fondati su fattori protetti;
  • eguaglianza sostanziale: impone di guardare agli effetti concreti di regole apparentemente uniformi.

Sul piano europeo, le direttive antidiscriminatorie hanno costruito un sistema di tutela che si estende a soggetti pubblici e privati. Gli Stati membri devono garantire che chiunque si ritenga leso dalla mancata applicazione del principio di parità di trattamento possa accedere a procedure giurisdizionali o amministrative, anche dopo la cessazione del rapporto (Direttiva 2000/43/CE del Consiglio del 29 giugno 2000).

2. Come un algoritmo può discriminare

2.1 Discriminazione diretta e indiretta

Il diritto antidiscriminatorio distingue due figure.

Discriminazione diretta: si ha quando una persona, a causa di un fattore protetto, è trattata meno favorevolmente di quanto sarebbe trattata un’altra in una situazione analoga.

Discriminazione indiretta: si ha quando una disposizione, un criterio o una prassi apparentemente neutri possono porre in una posizione di particolare svantaggio le persone portatrici di quel fattore. Fa eccezione il caso in cui il criterio sia oggettivamente giustificato da una finalità legittima e i mezzi impiegati siano appropriati e necessari.

Il Testo unico sull’immigrazione definisce discriminazione indiretta, nel rapporto di lavoro, ogni trattamento pregiudizievole derivante dall’adozione di criteri che svantaggino in modo proporzionalmente maggiore i lavoratori appartenenti a una determinata razza, gruppo etnico o linguistico, confessione religiosa o cittadinanza, e che riguardino requisiti non essenziali allo svolgimento dell’attività lavorativa.

È proprio la discriminazione indiretta il terreno elettivo del rischio algoritmico. Raramente un sistema di IA usa esplicitamente il sesso, l’origine etnica o la disabilità come variabile. Molto più spesso impiega variabili all’apparenza neutre che, per correlazione statistica, finiscono per «approssimare» il fattore protetto.

2.2 Le principali fonti di distorsione

Le dinamiche ricorrenti sono essenzialmente tre:

Dati di addestramento distorti. Un modello addestrato su decisioni passate (assunzioni, promozioni, concessioni di credito) incorpora le diseguaglianze che quelle decisioni esprimevano.

Variabili proxy. Il codice postale, le interruzioni di carriera o la disponibilità in determinate fasce orarie possono correlarsi con origine geografica, genere, carichi di cura o disabilità.

Criteri di valutazione indifferenti alle cause. Un sistema che penalizza ogni assenza o mancata disponibilità, senza distinguere tra motivi legittimi e non, colpisce chi esercita diritti tutelati.

2.3 Il caso dei rider: il punteggio di eccellenza

Quest’ultima dinamica è stata esaminata dal Tribunale di Palermo con la sentenza n. 3995 del 17 novembre 2023. La controversia riguardava il punteggio di eccellenza usato da una piattaforma di consegne per regolare l’accesso dei rider alle sessioni di lavoro.

Il giudice ha osservato che un modello organizzativo che, «disinteressandosi deliberatamente dei motivi di assenza dei corrieri», penalizza chi esercita un diritto sindacale trattandolo come chi non esercita alcun diritto, pone in una situazione di svantaggio chi manifesta legittimamente le proprie convinzioni. Ha quindi dichiarato discriminatori, ai sensi del d.lgs. 216/2003, i criteri del «contributo», delle «ore ad alta domanda» e della «mancata presentazione (cd. no show)».

La pronuncia è significativa anche per un altro profilo. Il Tribunale ha escluso, sulla base degli elementi acquisiti, il carattere discriminatorio del sistema di riconoscimento facciale rispetto alla provenienza geografica. La valutazione va dunque condotta criterio per criterio, senza generalizzazioni.

3. Il GDPR: il diritto a non essere sottoposti a decisioni unicamente automatizzate

3.1 La regola dell’art. 22

Il Regolamento (UE) 2016/679 contiene la prima disciplina europea specificamente dedicata alle decisioni automatizzate. L’art. 22, par. 1, riconosce all’interessato il diritto di non essere sottoposto a una decisione basata unicamente sul trattamento automatizzato, compresa la profilazione, che produca effetti giuridici che lo riguardano o che incida in modo analogo significativamente sulla sua persona.

3.2 Le eccezioni e le garanzie

Il divieto non opera quando la decisione:

  • è necessaria per la conclusione o l’esecuzione di un contratto;
  • è autorizzata dal diritto dell’Unione o dello Stato membro, con misure adeguate di tutela;
  • si basa sul consenso esplicito dell’interessato.

Nei casi contrattuali e consensuali il titolare deve comunque garantire almeno il diritto di ottenere l’intervento umano, di esprimere la propria opinione e di contestare la decisione.

Le decisioni automatizzate non possono inoltre basarsi sulle categorie particolari di dati (tra cui origine etnica, salute, convinzioni religiose), salvo specifiche condizioni e misure adeguate. Si tratta di un presidio che si salda direttamente con i fattori protetti dal diritto antidiscriminatorio.

3.3 La giurisprudenza della Corte di giustizia: la sentenza SCHUFA

La Corte di giustizia ha dato all’art. 22 una lettura sostanziale con la sentenza del 7 dicembre 2023 (C-634/21, SCHUFA Holding – Scoring). La Corte ha chiarito che il calcolo automatizzato, da parte di una società di informazioni commerciali, di un tasso di probabilità sulla capacità di una persona di onorare in futuro i propri impegni di pagamento costituisce già un «processo decisionale automatizzato». Ciò vale qualora da tale tasso dipenda in modo decisivo la stipula, l’esecuzione o la cessazione di un rapporto contrattuale da parte del terzo cui il punteggio è comunicato (Judgment of the Court (First Chamber) of 7 December 2023 (ECLI:EU:C:2023:957)).

Nelle conclusioni, l’Avvocato generale Pikamäe aveva osservato che ritenere il contrario, solo perché la decisione formale spetta all’istituto finanziario, «sarebbe non solo un formalismo eccessivo», poiché il fattore decisivo è l’impatto che la decisione ha sull’interessato (Opinion of Advocate General Pikamäe delivered on 16 March 2023.).

Il principio ha una portata che va oltre il credito. Non è possibile sottrarsi alle garanzie dell’art. 22 interponendo un «decisore umano» che si limita a recepire l’output della macchina.

3.4 La trasparenza: la sentenza Dun & Bradstreet Austria

Con la sentenza del 27 febbraio 2025 (C-203/22, Dun & Bradstreet Austria), la Corte ha precisato il contenuto del diritto di accesso alle «informazioni significative sulla logica utilizzata». L’interessato può pretendere che il titolare gli spieghi, in forma concisa, trasparente e comprensibile, «la procedura e i principi concretamente applicati» per ottenere un risultato determinato, come un profilo di solvibilità (Judgment of the Court (First Chamber) of 27 February 2025 (ECLI:EU:C:2025:117)).

Il titolare può ritenere che tali informazioni contengano segreti commerciali. In tal caso deve comunque comunicarle all’autorità di controllo o al giudice competente, cui spetta il bilanciamento caso per caso. Il segreto industriale, quindi, non può diventare uno schermo all’accertamento della discriminazione.

3.5 Le indicazioni dell’EDPB

Le Linee guida EDPB 4/2019 sulla protezione dei dati fin dalla progettazione richiedono al titolare di:

  • integrare «un intervento umano qualificato in grado di individuare le distorsioni (bias) che le macchine possono generare»;
  • valutare periodicamente se gli algoritmi funzionino in linea con le finalità, adeguandoli per attenuare le distorsioni e garantire l’imparzialità del trattamento.

4. Il Regolamento europeo sull’intelligenza artificiale (AI Act)

4.1 L’approccio basato sul rischio

Il Regolamento (UE) 2024/1689 adotta un approccio basato sul rischio e individua nell’allegato III i casi d’uso ad alto rischio. Tra questi rientrano due ambiti di particolare rilievo per il tema della parità di trattamento:

Il Regolamento consente al fornitore di dimostrare, in presenza di specifiche condizioni, che un sistema dell’allegato III non presenta un rischio significativo. Precisa però che un sistema di IA dell’allegato III «è sempre considerato ad alto rischio qualora esso effettui profilazione di persone fisiche».

4.2 Gli obblighi per chi utilizza il sistema (deployer)

Gli obblighi non gravano solo su chi sviluppa il sistema. Assumono rilievo anche quelli di chi lo utilizza:

Informazione alle persone interessate. I deployer di sistemi ad alto rischio dell’allegato III che adottano decisioni, o assistono nell’adozione di decisioni, riguardanti persone fisiche devono informarle che sono soggette all’uso del sistema.

Valutazione d’impatto sui diritti fondamentali. Prima dell’uso deve essere effettuata dagli organismi di diritto pubblico, dagli enti privati che forniscono servizi pubblici e dai deployer dei sistemi di valutazione del merito creditizio e dei rischi assicurativi.

Diritto alla spiegazione. La persona oggetto di una decisione basata sull’output di un sistema ad alto rischio, che ritenga negativo l’impatto sui propri diritti fondamentali, ha diritto di ottenere dal deployer «spiegazioni chiare e significative sul ruolo del sistema di IA nella procedura decisionale e sui principali elementi della decisione adottata».

4.3 Il rapporto con le altre discipline

L’AI Act non sostituisce né il GDPR né la disciplina antidiscriminatoria: vi si affianca. Il diritto alla spiegazione, in particolare, si applica solo nella misura in cui non sia già previsto altrimenti dal diritto dell’Unione.

5. Gli ambiti applicativi

5.1 Lavoro e selezione del personale

Nel rapporto di lavoro la tutela è particolarmente intensa. Il Codice delle pari opportunità vieta qualsiasi discriminazione nell’accesso al lavoro, in qualunque forma, «compresi i criteri di selezione e le condizioni di assunzione». Il divieto si applica anche alle discriminazioni attuate in modo indiretto «attraverso meccanismi di preselezione».

Uno strumento di screening automatizzato dei curricula che penalizzi, ad esempio, le interruzioni di carriera legate alla maternità ricade pienamente in questa previsione. Lo stesso vale per uno strumento che privilegi profili statisticamente maschili.

Analoghe tutele valgono per i fattori di razza, origine etnica, lingua, religione e cittadinanza, nonché per disabilità, età, orientamento sessuale e convinzioni personali, compresa l’attività sindacale.

L’esperienza delle piattaforme digitali mostra che l’algoritmo di gestione del lavoro è esso stesso un «criterio» o una «prassi» soggetti al sindacato antidiscriminatorio.

5.2 Accesso a beni, servizi e credito

Fuori dal rapporto di lavoro, il Codice delle pari opportunità vieta ogni discriminazione diretta e indiretta fondata sul sesso nell’accesso a beni e servizi offerti al pubblico e nella loro fornitura. Il Testo unico sull’immigrazione considera discriminatorio imporre condizioni più svantaggiose, o rifiutare beni o servizi, a causa della condizione di straniero o dell’appartenenza a un gruppo etnico o religioso.

I sistemi di credit scoring e di pricing assicurativo sono quindi esposti su tre fronti:

  • la disciplina antidiscriminatoria;
  • l’art. 22 GDPR, nella lettura della sentenza SCHUFA;
  • la qualificazione come sistemi ad alto rischio ai sensi dell’AI Act.

5.3 Settore pubblico e attività di contrasto

Per i trattamenti a fini di prevenzione e repressione dei reati, l’art. 8 del d.lgs. 51/2018 vieta le decisioni basate unicamente su un trattamento automatizzato che producano effetti negativi per l’interessato, salvo autorizzazione normativa. Prevede inoltre che sia in ogni caso garantito il diritto di ottenere l’intervento umano.

Per le pubbliche amministrazioni assume rilievo anche l’obbligo di valutazione d’impatto sui diritti fondamentali previsto dall’AI Act.

6. La prova della discriminazione algoritmica

L’opacità dei sistemi automatizzati rende cruciale il regime probatorio.

6.1 L’onere agevolato

L’art. 28, comma 4, del d.lgs. 150/2011 prevede che, se il ricorrente fornisce elementi di fatto, anche desunti da dati statistici, idonei a fondare la presunzione di una discriminazione, spetta al convenuto provarne l’insussistenza.

La Cassazione ha chiarito che non si tratta di una vera inversione dell’onere, ma di un’attenuazione del regime ordinario. Il convenuto deve provare l’inesistenza della discriminazione solo dopo che il ricorrente abbia fornito elementi di fatto, desunti anche da dati statistici, idonei a fondare in termini precisi e concordanti, anche se non gravi, la presunzione dell’esistenza di comportamenti discriminatori (Cass., 18/01/2023, n. 1512).

Il lavoratore deve dunque provare:

  • il fattore di rischio;
  • il trattamento meno favorevole;
  • una correlazione significativa che renda plausibile la discriminazione (Cass., 02/01/2020, n. 1).

6.2 Il peso del dato statistico

Nella discriminazione algoritmica il dato statistico è spesso l’unica via d’accesso. Il raffronto tra l’esito del sistema per il gruppo protetto e per gli altri può essere determinante: la Cassazione ha valorizzato, ad esempio, la sproporzione tra il 6% di trasferimenti sul totale degli addetti e l’80% tra gli iscritti a un sindacato (Cass., 02/01/2020, n. 1).

A questo si aggiungono gli strumenti di trasparenza offerti dal GDPR e dall’AI Act, che consentono di acquisire informazioni sulla logica del sistema.

7. Rimedi e responsabilità

7.1 L’azione civile contro la discriminazione

L’azione ex art. 28 d.lgs. 150/2011, richiamata anche dall’art. 44 del Testo unico sull’immigrazione, offre un ventaglio ampio di misure. Con la sentenza il giudice può:

  • condannare al risarcimento del danno, anche non patrimoniale;
  • ordinare la cessazione della condotta e adottare ogni provvedimento idoneo a rimuoverne gli effetti;
  • ordinare l’adozione di un piano di rimozione delle discriminazioni (sentito l’ente collettivo ricorrente, nei casi di discriminazione collettiva);
  • disporre la pubblicazione del provvedimento.

L’elusione dei provvedimenti diversi dalla condanna risarcitoria è penalmente sanzionata.

7.2 Le misure concretamente applicate: il caso Palermo

Nel caso dei rider, il Tribunale di Palermo ha:

  • ordinato l’adozione di un piano di rimozione sentite le organizzazioni sindacali;
  • disposto la pubblicazione della sentenza su un quotidiano nazionale e sulla pagina aziendale dedicata al reclutamento;
  • liquidato in via equitativa 40.000 euro di danno non patrimoniale. La liquidazione ha tenuto conto della dimensione dell’impresa e del carattere «effettivo e dissuasivo» che la misura risarcitoria deve possedere.

Il Tribunale ha invece respinto la richiesta di condannare l’impresa a una valutazione d’impatto dei sistemi di profilazione, ritenendola priva di fondamento normativo. Ha fatti salvi, tuttavia, gli obblighi di legge in materia di profilazione e gestione automatizzata (Tribunale di Palermo, Sentenza n.3995 del 17 novembre 2023).

Oggi quegli obblighi trovano una base più solida nell’AI Act.

7.3 Gli ulteriori profili di responsabilità

Alla tutela antidiscriminatoria si sommano:

  • i rimedi previsti dal GDPR (reclamo all’autorità di controllo, risarcimento, sanzioni amministrative);
  • il sistema sanzionatorio dell’AI Act.

La responsabilità grava sul titolare del trattamento e sul deployer che utilizza il sistema. Non può essere trasferita sul fornitore tecnologico per il solo fatto che l’algoritmo sia stato sviluppato da terzi.

8. Indicazioni operative

Per imprese e pubbliche amministrazioni che sviluppano o impiegano sistemi automatizzati, emergono alcune linee di condotta:

Mappare i sistemi e verificare se rientrano tra quelli ad alto rischio, con particolare attenzione alla profilazione.

Analizzare i dati e i criteri per individuare variabili proxy e impatti sproporzionati sui gruppi protetti.

Garantire un intervento umano effettivo e non meramente formale, capace di correggere l’output.

Documentare la logica del sistema in modo da poterla spiegare agli interessati e, se necessario, all’autorità o al giudice.

Informare le persone interessate e, ove richiesto, effettuare la valutazione d’impatto sui diritti fondamentali.

Distinguere le cause di assenze e indisponibilità, evitando criteri che penalizzino l’esercizio di diritti.

Monitorare periodicamente i risultati e aggiornare i modelli.

9. Conclusioni

La discriminazione algoritmica non è una categoria giuridica nuova: è la vecchia discriminazione, soprattutto indiretta, espressa con strumenti nuovi.

L’ordinamento dispone già di principi e rimedi efficaci, oggi rafforzati da un quadro europeo che impone trasparenza, supervisione umana e valutazione preventiva dei rischi. Ne fanno parte l’eguaglianza sostanziale dell’art. 3 Cost., le regole sull’onere della prova e l’ampio potere conformativo del giudice.

La conclusione per chi sviluppa o utilizza sistemi di IA è netta: la conformità al principio di non discriminazione va progettata fin dall’inizio, non verificata a posteriori. Sul piano giuridico, «l’ha deciso l’algoritmo» non è mai una giustificazione.

Potrebbe interessarti
Licenziamento illegittimo: termini di decadenza e rischi aziendali
15 Novembre 2026
La semplicità della causa non giustifica una liquidazione delle spese di lite sotto i minimi tabellari: Cassazione 29 settembre 2026, n. 25965
4 Ottobre 2026
Decadenza dall’impugnazione del licenziamento, incapacità naturale del lavoratore e nuovo termine “lungo” di 240 giorni
31 Agosto 2026

Attività connesse

Attività connesse

Consulenza in diritto del lavoro: analisi del contratto collettivo nazionale e caschetto antinfortunistico allo Studio Legale Sgobbo.
Diritto del Lavoro e Relazioni Industriali
Diritto del Lavoro
%post_title%