Chi insegna all’IA a non discriminare?

Dalla Sindrome di Yentl ai bias degli algoritmi: perché la tecnologia non è mai neutrale.

L’Intelligenza Artificiale oggi è ovunque. Dai video online che sempre più spesso facciamo fatica a riconoscere come sintetici, ai bar che, banalmente, hanno abbandonato la lavagna col gessetto per indicare gli orari di apertura. Uno strumento potentissimo che, come spesso accade con le grandi innovazioni, rischiamo di usare troppo e non sempre nel modo giusto.

In alcuni ambiti, però, l’IA è una vera e propria svolta, a partire dalla medicina. Sono sempre più numerose le applicazioni che stanno cambiando il modo di diagnosticare e curare, aprendo possibilità che, anche solo cinque anni fa, sarebbero sembrate impensabili.

Pensiamo alla diagnostica per immagini: lo studio clinico MASAI (pubblicato su The Lancet Oncology) ha dimostrato che l’uso dell’IA nello screening mammografico permette di individuare il 20% in più di tumori al seno rispetto alle letture tradizionali, scovando anomalie millimetriche invisibili all’occhio umano. O pensiamo all’oncologia di precisione, dove i modelli di IA analizzano i sequenziamenti genomici e le strutture proteiche in pochi secondi – come dimostrato dalla svolta di AlphaFold – permettendo ai medici di elaborare terapie personalizzate ritagliate esattamente sul profilo genetico del tumore di quel singolo paziente.

Come ci insegna la storia, però, qualsiasi scoperta presenta costi elevati, spesso a discapito di chi quello strumento non lo utilizza e probabilmente non lo utilizzerà mai. Pensiamo alla prima rivoluzione industriale: l’introduzione delle macchine a vapore e dei telai meccanici ha creato un’ineguagliabile ricchezza di massa, ma nell’immediato ha spazzato via intere categorie di artigiani, precarizzato il lavoro nelle fabbriche e creato un divario sociale enorme tra chi possedeva la tecnologia e chi ne subiva le conseguenze.

Il costo non è solo sociale, ma anche ecologico. Pensiamo all’impronta idrica ed energetica dei server necessari per addestrare i modelli di grandi dimensioni o all’estrazione di terre rare per i microprocessori: secondo i report della International Energy Agency (IEA), i data center globali dedicati all’IA si avviano a raddoppiare la propria domanda elettrica entro pochi anni, arrivando a consumare quanto un’intera nazione industrializzata.

Parlare di IA e sostenibilità non è mai semplice. C’è chi mostra una totale riluttanza nei confronti del suo utilizzo, chi la usa a sproposito e chi, invece, la usa con cognizione di causa. Dovremmo, prima di tutto, comprendere le differenze tra le varie tecnologie, perché non tutte le IA sono uguali e non tutte hanno lo stesso impatto sul pianeta:

• • IA Predittiva: analizza grandi quantità di dati del passato per calcolare probabilità e prevedere scenari futuri (dalle diagnosi mediche ai punteggi di merito creditizio). Questa tecnologia lavora su modelli matematici snelli: richiede energia per essere allenata, ma ha un’impronta ecologica contenuta quando viene usata nel quotidiano;
  • IA Generativa: è quella con cui interagiamo ogni giorno, in grado di creare testi, immagini, codice o video da un semplice input. Qui la bilancia ambientale cambia drasticamente: generare un contenuto ex-novo richiede un’infrastruttura di calcolo enorme. Se un’interrogazione predittiva consuma pochissima energia, generare un singolo contenuto multimediale o una risposta complessa può richiedere una quantità di elettricità (e di acqua per il raffreddamento dei data center) ordini di grandezza superiore.

Comprendere questa distinzione è fondamentale: l’IA predittiva analizza lo storico per ottimizzare risorse e decisioni; l’IA generativa crea nuovi contenuti, ma a un costo energetico ed ecologico che non possiamo più permetterci di ignorare o usare a sproposito.

È impossibile opporsi in modo acritico all’IA. Si può sicuramente decidere di non utilizzarla a livello individuale, evitare di abusarne e continuare a svolgere determinate attività senza quel supporto. Ma condannarla in blocco è, prima ancora che impossibile, inutile. Per questo motivo dobbiamo educarci: se nessuno ci guida in questo percorso, dobbiamo farlo in autonomia.

Dalla cardiologia alla codice: la lezione della Sindrome di Yentl

Riprendiamo proprio il filo della cardiologia per capire dove risiede il vero nodo culturale di questa transizione.

In ambito cardiovascolare, i modelli di IA analizzano tracciati elettrocardiografici (ECG) a 12 derivazioni anche quando appaiono del tutto “normali” all’occhio umano, captando micro-variazioni del segnale elettrico che indicano una disfunzione asintomatica del ventricolo sinistro o il rischio imminente di fibrillazione atriale. Ed è proprio all’intersezione tra cardiologia e tecnologia che la lezione della storia si trasforma in un monito fondamentale per il nostro futuro: la Sindrome di Yentl.

Nel 1991, la cardiologa Bernadine Healy conia il termine Sindrome di Yentl (ispirandosi all’eroina del racconto di Isaac Bashevis Singer che dovette travestirsi da uomo per studiare la Torah) per denunciare un paradosso sistemico della medicina: le donne venivano diagnosticate e curate per infarto o patologie cardiache solo quando i loro sintomi coincidevano con quelli maschili.

Per decenni, i protocolli clinici e le sperimentazioni avevano preso come riferimento lo “standard” del corpo maschile. Di conseguenza i sintomi femminili, che spesso si presentavano in modo differente (come nausea, stanchezza cronica o dolore alla schiena anziché il classico dolore al braccio sinistro), venivano etichettati come “atipici“, portando a ritardi diagnostici e tassi di mortalità più elevati. La donna veniva considerata e curata solo se i suoi sintomi ricalcavano quelli dello standard maschile.

Oggi stiamo correndo il rischio concreto di trasferire la stessa identica distorsione dalla biologia agli algoritmi di Intelligenza Artificiale.

L’IA non nasce neutrale: viene addestrata (training phase) su dataset enormi legati al passato. Se la storia economica, sociale e professionale degli ultimi cinquant’anni è stata caratterizzata da un profondo gender gap, l’algoritmo considererà quella storia come l’unico modello di riferimento valido.

Questo genera un cortocircuito in diversi ambiti chiave:

1. 1. 1. Selezione del personale e percorsi di carriera: se un software di recruiting analizza i CV ritenuti vincenti negli ultimi vent’anni per selezionare un profilo manageriale, cercherà pattern legati alla continuità lavorativa senza pause, all’iper-presenza o a uno stile di leadership autoritario. Le carriere caratterizzate da periodi di caregiving o da modelli di gestione collaborativi rischiano di essere penalizzate dall’algoritmo, che classifica il talento femminile come “fuori standard”;
      2. Accesso al credito e meritocrazia aziendale: quando l’IA predittiva assegna un punteggio di affidabilità finanziaria o valuta l’investibilità di una startup, fa riferimento a parametri storici dominati da founder uomini. Modelli d’impresa orientati all’impatto sociale o settori a prevalenza femminile rischiano di essere etichettati come “a basso rendimento” o “di nicchia”.
      3. Amplificazione degli stereotipi (Generative Bias): nell’IA generativa, se chiediamo a un modello di illustrare un “amministratore delegato” o un “chirurgo”, la maggior parte dei sistemi restituirà immagini di uomini; se chiediamo di illustrare un “assistente” o un “insegnante”, prevarranno figure femminili. L’algoritmo non fa altro che rispecchiare e cristallizzare i pregiudizi storici.

Un nuovo modello di governance per l’impresa

Ritornare alla Sindrome di Yentl significa comprendere che l’omologazione ai parametri del passato è il primo nemico dell’innovazione.

Come la medicina ha dovuto ridefinire i propri protocolli per riconoscere le peculiarità del corpo femminile senza considerarle un’anomalia, così oggi chi fa impresa ha la responsabilità di guidare la transizione digitale.

Per evitare che l’IA si trasformi in uno strumento di discriminazione automatizzata, non occorre frenare la tecnologia, ma piuttosto intervenire sulla sua governance:

• • Esigere dataset di addestramento trasparenti, equamente rappresentativi e de-biased;
  • Promuovere una presenza attiva di donne e competenze multidisciplinari nei team di sviluppo e nei board tecnologici;
  • Sviluppare un’alfabetizzazione digitale etica che rimetta il giudizio umano e la valorizzazione delle diversità al centro di ogni processo.

Educarsi all’uso dell’Intelligenza Artificiale significa allora non solo imparare a utilizzarla, ma imparare a interrogarla: quali dati la stanno guidando? Chi rappresentano? E chi rischia di rimanere fuori?

La sfida non è fermare la tecnologia, piuttosto governarla abbastanza bene da non lasciare che siano i pregiudizi del passato a decidere chi avrà spazio nel futuro. Se l’IA deve costruire il futuro, dobbiamo assicurarci che non lo costruisca copiando il passato.

Di Erica Vitiello.