Esiste una coscienza etica nell’ambito dell’intelligenza artificiale? Lo scopriamo conoscendo meglio una delle maggiori esperte mondiali, Benedetta Giovanola.
Filosofa, esperta autorevole di etica, giustizia sociale ed etica dell’intelligenza artificiale. Benedetta Giovanola, dalle Marche a Boston, come docente universitaria e titolare di una prestigiosa cattedra Jean Monnet finanziata dall’Unione Europea. Ha insegnato e svolto ricerca anche negli Stati Uniti dove vive parte dell’anno con la famiglia.
Una donna che ha sempre cercato di seguire i propri sogni, unendo realizzazione professionale, relazioni significative e la famiglia. La prof. Giovanola è l’esempio che, seppur con sacrifici, spirito organizzativo e flessibilità, è possibile conciliare con determinazione vita privata e una carriera internazionale. Ma chi è Benedetta Giovanola?
Come si diventa Benedetta Giovanola?
Direi cercando sempre un equilibrio tra il seguire i propri sogni e un sano pragmatismo. Ponendosi sfide, anche difficili, con l’idea che queste sfide ci fanno crescere e arricchiscono come persone. Quando si pensa di non farcela, di non essere all’altezza, è importante concentrarsi anche sui propri lati positivi e lavorare sulle insicurezze, evitando di autoimporci limiti. Bisogna anche imparare a rischiare, perché spesso ci autolimitiamo per paura del fallimento. E invece, bisogna osare. Un altro principio fondamentale per me è la disponibilità a mettersi in discussione, a essere sempre aperti al confronto e pronti a imparare. Non bisogna mai avere la presunzione di sapere tutto, anche dopo molti anni di studio: c’è sempre qualcosa in più da apprendere, e condividere la conoscenza con gli altri è una delle cose più belle che ci siano.
Benedetta Giovanola, una formazione classica verso l’AI
Quando mi sono iscritta all’università, ero un po’ indecisa tra la filosofia — la mia passione — e l’economia, che mi sembrava offrire più prospettive lavorative. Alla fine, ho seguito il mio sogno, scegliendo filosofia. Un giorno, per caso, lessi su una rivista di un centro in Belgio che si occupava di etica ed economia. Mi interessava molto. Avevo appena iniziato il dottorato — avevo capito ormai che la filosofia, in particolare quella morale, era ciò a cui volevo dedicarmi — e così sono partita per conoscere questo professore, uno dei massimi esperti internazionali in quel campo. Mi ha insegnato che più si è competenti e noti, più si è semplici e umili, aperti al dialogo con chiunque, anche con un dottorando o uno studente. Questo è un atteggiamento che ho scelto di portare avanti sempre. Da lì ho capito che la filosofia, e in particolare l’etica, potevano avere anche un impatto applicato, contribuendo concretamente alla società. Ho iniziato a studiare vari temi, tra cui — più di recente — quello della giustizia sociale. Questo interesse nasceva sia da un’esperienza concreta, cioè dall’osservazione delle crescenti disuguaglianze nelle nostre società, sia dalla domanda su quale contributo potessi dare per affrontarle. Ed è proprio riflettendo su questo che sono arrivata all’intelligenza artificiale: mi sono resa conto che molti processi che toccano la giustizia sociale sono sempre più mediati da tecnologie digitali, in particolare dai sistemi di IA. Questo riguarda sia la dimensione relazionale — cioè come ci relazioniamo gli uni agli altri, tra equità, disuguaglianza, oppressione, intolleranza — sia la dimensione distributiva, ovvero l’accesso a beni e servizi fondamentali come sanità, istruzione, lavoro. E oggi tutto questo è sempre più influenzato da sistemi basati su IA.
Benedetta Giovanola, giustizia sociale e intelligenza artificiale
Il tema di cui mi occupo attualmente è quindi se e come l’intelligenza artificiale possa promuovere giustizia sociale. Da qui nascono anche altri temi, come l’impatto sui sistemi democratici, che la IA sta contribuendo a trasformare. È stato, insomma, un processo nato dall’intreccio tra i miei interessi teorici e il tentativo costante di restare aderente alla realtà. Per questo parlavo di pragmatismo: cercare sempre di fare ricerca che abbia un potenziale per essere messa al servizio degli altri.
Benedetta Giovanola, l’etica, l’economia e l’intelligenza artificiale sono anche una questione di genere?
Le questioni di genere attraversano tutti questi ambiti. Diseguaglianze di genere sono radicate sistemicamente nella nostra società e spesso i sistemi di IA tendono ad amplificarle. L’ambito accademico non fa eccezione: basta guardare la distribuzione dei ruoli — tra i professori ordinari, la maggioranza sono uomini. Nel mio settore, la situazione non è diversa. C’è una duplice percezione: da un lato la fatica di dover dimostrare di più, come se una donna dovesse sempre “valere di più” per essere riconosciuta; dall’altro la sensazione, a volte, di essere chiamata solo in quanto donna, per soddisfare formalmente criteri di rappresentanza, e non per il proprio merito. Queste due esperienze, apparentemente opposte, sono legate dal fatto che una vera “equa eguaglianza di opportunità”, per dirla con Rawls, ancora non c’è. E nel mondo accademico questa disuguaglianza è molto evidente, soprattutto nei ruoli più alti.
Benedetta Giovanola, qual è la parte del suo lavoro che più la preoccupa?
La parte che più mi preoccupa è la confusione diffusa sul tema dell’intelligenza artificiale. Questa confusione viene spesso strumentalizzata: da un lato per generare allarmismi, dall’altro per proporre soluzioni troppo ingenue o ottimistiche. Questo disorienta sia chi deve decidere se adottare sistemi di IA (aziende, pubbliche amministrazioni, ecc.) sia i cittadini. Mi preoccupa anche perché dalle scelte che facciamo oggi sui sistemi di IA dipenderà il tipo di società in cui vivremo domani: l’accesso al lavoro, la qualità della vita, la possibilità di condurre un’esistenza significativa. La parte più positiva, però, è la possibilità di contribuire a fare chiarezza in questo dibattito. Molto dipenderà non solo dalle decisioni dei governi o delle imprese, ma anche da ciò che ciascuno di noi farà come individuo.
Credo molto nelle attività di sensibilizzazione — quello che chiamiamo public engagement. Un obiettivo centrale della cattedra Jean Monnet di cui sono titolare, finanziata dall’Unione Europea, è proprio quello di promuovere consapevolezza sull’etica dell’intelligenza artificiale in tutta la società, in modo trasversale e inclusivo.
Benedetta Giovanola, come si costruisce una soluzione etica e concreta?
Innanzitutto, c’è un problema culturale: l’etica è spesso percepita come un vincolo, mentre dovrebbe essere vista come un’opportunità per una buona innovazione. L’innovazione, infatti, non è buona di per sé: si può innovare anche male. La bomba atomica è un’innovazione, ma non positiva. L’etica ci aiuta a orientare bene l’innovazione, anche quella legata all’intelligenza artificiale. Per farlo, servono azioni concrete, a partire dalla progettazione dei sistemi: l’etica deve entrare già nella fase del design.
Se un sistema è progettato per manipolare o influenzare, non possiamo poi aspettarci che l’utente finale sia in grado di difendersi da solo. È quindi necessario che i sistemi siano progettati in modo da tutelare l’autonomia degli individui. Serve poi interdisciplinarietà nei team di sviluppo, coinvolgendo non solo tecnici, ma anche esperti di etica e di altre aree. E servono team diversificati per genere, provenienza culturale, background. Altrimenti, anche inconsapevolmente, si rischia di produrre sistemi ingiusti o parziali.
Infine, bisogna ripensare i percorsi formativi. Già dalla scuola, e poi all’università, bisognerebbe introdurre l’educazione digitale con una forte componente etica. Altrimenti, chi si occupa di IA finirà per produrre sistemi senza tenere conto delle implicazioni sociali e morali.
Benedetta Giovanola, la conciliazione lavoro e famiglia, tra le Marche e gli Stati Uniti
Concilio con molto equilibrismo! Non è semplice. Fortunatamente, negli ultimi anni sono riuscita a viaggiare con tutta la famiglia, anche negli Stati Uniti. Certo, è uno sforzo organizzativo importante, ma ne vale la pena. Per esempio, mio figlio frequenta la scuola anche qui, e questo è un arricchimento non solo linguistico, ma anche culturale. Quindi direi: apertura mentale, flessibilità e tanta organizzazione. E soprattutto, non pensare mai che non ce la si possa fare: un modo per riuscirci c’è sempre.
Cosa c’è dietro l’angolo per Benedetta Giovanola?
Sto lavorando a nuovi progetti. A breve pubblicherò un libro in inglese, dopo averne appena pubblicati due: uno sull’etica e l’intelligenza artificiale in ambito aziendale, e uno su etica e politica dell’intelligenza artificiale, scritto con un collega. Il prossimo progetto riguarda un volume in inglese, scritto a quattro mani con una collega, che esplora il tema della ragionevolezza nell’era digitale: ci chiediamo se questo criterio possa ancora aiutarci a vivere insieme in modo rispettoso e pacifico, e se l’essere immersi nel digitale ne modifichi il significato.
