Verso una tecnologia benefica, giusta e inclusiva per tutti

Intelligenza artificiale alla prova dell’etica. La presenza delle donne nel settore? Una garanzia per la necessaria attenzione agli aspetti sociali.

Francesca Rossi è una dei massimi esperti mondiali di Intelligenza artificiale, settore in cui conduce ricerche da oltre trent’anni. Leader globale sull’etica dell’AI per IBM, professore di informatica (in aspettativa) all’Università’ di Padova, è stata presidente dell’International Joint Conference on Artificial Intelligence, la più importante conferenza scientifica mondiale dedicata all’Intelligenza Artificiale. Relatrice in sedi quali il Parlamento Europeo, Il World Economic Forum e le Nazioni Unite, fa parte di numerosi organismi e comitati scientifici internazionali, oltre che del gruppo di esperti che consiglia la Commissione Europea sulle linee guida etiche per l’AI. Perché le sfide che questa tecnologia si troverà ad affrontare nei prossimi anni avranno necessariamente a che fare con le sue implicazioni sociali, all’insegna di aggettivi come “giusta”, “benefica”, “inclusiva”.

 

Quali sono le principali sfide etiche che dovrà affrontare questa tecnologia?

Le principali sfide etiche per l’AI sono relative al comportamento della tecnologia, alla responsabilità delle aziende che la producono e all’impatto della tecnologia sul mondo del lavoro e sulla nostra privacy. Un sistema di AI deve essere “giusto” (senza pregiudizi o bias), deve seguire principi etici o vincoli comportamentali adatti a ogni specifica situazione e deve saper giustificare le proprie azioni. Inoltre, chi raccoglie e usa i dati per effettuare il training dell’AI, deve avere una politica chiara e trasparente su come gestirà tali dati. Infine, l’uso dell’AI a fini benefici va considerato con attenzione per capire cosa ha senso evitare o facilitare.

Quali saranno e come andranno gestite le implicazioni sociali dell’AI?

Le soluzioni andranno trovate tramite una discussione multi-disciplinare dove tutti gli attori siano presenti, da chi produce AI, a chi la usa, a chi la subisce. Sociologi, economisti, psicologi, filosofi vanno tutti coinvolti nell’identificazione delle conseguenze dell’uso pervasivo dell’AI nella società, dei potenziali effetti non desiderati e di possibili soluzioni.

Spesso per misurare, o rendere evidenti, i progressi nel campo dell’intelligenza artificiale si sfruttano situazioni in cui emerge la competizione con l’intelligenza umana (come nella celeberrima sfida Deep Blue – Kasparov), è la competizione la chiave di avanzamento della ricerca nel settore? Quanto pesano rispettivamente competizione e collaborazione?

I giochi, come gli scacchi o il go, sono stati spesso usati per misurare le capacità della tecnologia tramite un paragone con quelle degli esseri umani. Inoltre, i giochi offrono un ambiente di sperimentazione in cui le regole sono chiare e non cambiano nel tempo. Questo permette di capire in modo quantitativamente chiaro le effettive capacità dell’AI. La vita reale è però molto diversa. Se si vuole sviluppare tecnologia innovativa che possa essere adottata nella vita di tutti i giorni, è necessario adottare un approccio collaborativo e pensare a scenari dove l’AI e gli esseri umani lavorino insieme con il fine comune di aiutare gli umani a prendere decisioni migliori, più informate e meglio giustificabili.

Su quali elementi si gioca la complementarietà tra intelligenza umana e intelligenza artificiale?

Gli esseri umani sono migliori delle macchine nel farsi domande stimolanti, l’AI può aiutare a trovare le risposte a tali domande grazie alle sue superiori capacità di gestire grandi quantità di dati e di ragionare su base statistica. Inoltre, gli esseri umani hanno ancora la supremazia in molte attività che richiedono una precisa manipolazione fisica e dove è necessaria empatia, intuizione e creatività.

Quali caratteristiche fondamentali del ragionamento umano mancano ancora all’intelligenza artificiale?

Anche se l’AI sa indicare cosa c’è in una immagine, individuare gli argomenti contenuti in un testo scritto, rispondere alle nostre domande e tradurre un testo da una lingua a un’altra, ancora non ha una vera comprensione di questi dati (immagini, testo scritto o parlato, ecc). Questo vuol dire che, nonostante i successi evidenti, ha bisogno di enormi quantità di dati per acquisire un comportamento e non sa apprendere dei concetti generali, da poter poi usare per facilitare la comprensione di altri concetti simili. Inoltre, l’AI non sa le regole fondamentali di funzionamento del mondo (il cosiddetto ragionamento di senso comune), che è alla base di tutto quello che diciamo e delle nostre interazioni con altri esseri umani. Questo implica che sia necessaria una grande attenzione all’allineamento dell’AI a valori e linee guida necessarie in una specifica situazione, altrimenti l’AI potrebbe seguire strade non desiderate per raggiungere l’obbiettivo richiesto.

Nel futuro sarà possibile una relazione profonda uomo-macchina come quella raccontata dai molti romanzi/film sul tema?

Lo scopo dell’AI deve essere quello di aumentare ed estendere l’intelligenza umana, piuttosto che di creare una forma di intelligenza indipendente e non allineata con i valori umani. Quindi è necessario arrivare a una collaborazione profonda e proficua tra AI ed essere umani. Questo è molto chiaro in aziende come IBM, che sviluppano AI che possa lavorare insieme a professionisti in vari settori (medici, consulenti finanziari, ecc.). Gli umani e l’AI hanno capacità molto complementari e i migliori risultati si ottengono quando combinano le proprie diversità. Questa profonda relazione tra AI e umani includerà sia la nostra vita professionale che quella privata, con assistenti digitali intelligenti che ci aiuteranno a prendere decisioni migliori seguendoci in ogni momento della nostra giornata. Indipendentemente dalle situazioni descritte dai libri o dai film, sta a noi indirizzare l’AI verso forme di collaborazione rispettose dei nostri diritti e della nostra dignità.

Arriveremo a fidarci dei sistemi basati sull’AI, delle loro valutazioni, del loro giudizio?

L’obbiettivo è quello di avere il livello corretto di fiducia nei sistemi di AI. Non vogliamo fidarci troppo poco dell’AI, perchè così perderemmo opportunità di impatto benefico della tecnologia. Ma non vogliamo neanche fidarci troppo, perchè così rischieremmo di non renderci conto e magari amplificare comportamenti non desiderati. Il giusto livello di fiducia potrà essere raggiunto tramite una corretta informazione sulle reali capacità e limiti dell’AI, che cambiano continuamente con i nuovi risultati di ricerca. Sono fiduciosa che sarà possibile raggiungere questo obbiettivo e quindi costruire dei meccanismi per una collaborazione fruttuosa e benefica tra l’AI e gli esseri umani.

L’intelligenza artificiale è ormai entrata prepotentemente nell’immaginario collettivo, è diventata un volano di comunicazione molto potente. Perché oggi se ne parla così tanto? Cosa è cambiato?

L’AI è una disciplina scientifica nata circa 60 anni fa. Nel corso di questi sei decenni i ricercatori di AI hanno lavorato continuamente, ottenendo risultati senza interruzioni, anche se non sempre con un grande supporto da parte di chi distribuisce fondi di ricerca. Quello che è cambiato recentemente è la disponibilità di grandi quantità di dati e di computer sufficientemente potenti per poter gestire tali dati. Questo ha permesso ad algoritmi di apprendimento automatico (machine learning) di poter essere utilizzati con successo in molte situazione, soprattutto relative a capacità percettive dell’AI, come la comprensione di testi o l’interpretazione di immagini. Queste capacità percettive hanno facilitato l’uso di AI in molti più campi applicativi rispetto al passato, dandole una visibilità molto maggiore, che ha superato i confini della ricerca e ha raggiunto molti settori della nostra vita quotidiana.

Sono sempre di più le donne protagoniste del settore (e questo progetto editoriale intende mettere in evidenza questo aspetto), la presenza femminile nel settore cosa comporta? Quale impronta può dare allo sviluppo di questa tecnologia? C’è un “modo femminile” di fare ricerca sull’AI?

La discussione delle conseguenze dell’uso pervasivo dell’AI nella nostra vita va fatta in un ambito molto inclusivo e diversificato. La presenza di sempre più donne nella ricerca in AI e anche in posizioni di leadership in aziende che producono AI assicura la necessaria attenzione ad aspetti sociali e di inclusione che vanno considerati per ottenere una tecnologia che sia benefica, giusta e inclusiva per tutti.

AI Love Women