Stufo di sentire orazioni catilinarie su ChatGPT e Intelligenza Artificiale giungere da ogni angolo del pianeta, ho deciso di seguire il consiglio di Mago Merlino: “quando sei triste l’unica cosa da fare è imparare qualcosa. È l’unica cosa che non fallisce mai“.
Dopo una certa età, per imparare qualcosa si va all’Università. Perciò ho chiesto alla Professoressa Margherita Benzi di concedermi un po’ del suo tempo prezioso per produrre un compendio ultra-ridotto sui risvolti etici e filosofici di AI.
Margherita Benzi è Professoressa in Logica e Filosofia della scienza presso il Dipartimento di Scienze Giuridiche, Economiche e Sociali dell’Università del Piemonte Orientale. Tra le sue pubblicazioni i volumi Il ragionamento incerto. Probabilità e logica in intelligenza artificiale (1997); Scoprire le cause. Reti causali, contesti, probabilità (rist. 2005); Cause singolari (2020). È autrice di contributi su riviste quali “Disputatio”, “Historia Mathematica”, “History and philosophy of Logic”, “International Statistic Review”, “Topoi” e “Sistemi intelligenti”. Margherita Benzi ha inoltre curato la rivista online “Networks”.
L’intervista a Margherita Benzi, Professoressa in Logica e Filosofia dell’Università degli Studi del Piemonte Orientale
Ragionamento logico in condizioni di incertezza: intervista a Margherita Benzi
Professoressa, come si fa ad applicare il ragionamento logico in condizioni di incertezza? Ci spiega in cosa consistono le sue ricerche?
La parola “incertezza” compare in diverse aree disciplinari e scientifiche, assumendo di volta in volta diversi significati tecnici: pensiamo in particolare alla fisica o all’economia. In Intelligenza Artificiale, si parla di rappresentazione della conoscenza incerta e di ragionamento in condizioni di incertezza, quando non possiamo limitarci a ragionare semplicemente in termini di verità o falsità ed applicare i metodi della logica classica deduttiva.
Tradizionalmente, lo strumento concettuale mediante il quale la scienza affronta l’incertezza è il calcolo delle probabilità. La nozione stessa di probabilità pone interessanti problemi interpretativi, che presentano un particolare appeal per chi, come me, ha una formazione filosofica. La ricerca in Intelligenza Artificiale ha contribuito a valorizzare ulteriori aspetti dell’incertezza oltre a quelli tradizionalmente catturati dalla probabilità.
Infatti ha permesso di distinguere tra diverse forme di incertezza – quali l’incompletezza dell’informazione, la vaghezza, l’ambiguità, l’approssimazione, ed altre ancora – proponendo diversi metodi formali per affrontarli: una specie di cassetta degli attrezzi con strumenti diversi per problemi diversi. In generale, questi metodi ci aiutano ad essere razionali quando le nostre conoscenze non sono complete o comunque ottimali, cosa che avviene nella maggior parte delle situazioni nelle quali ci troviamo.
Un altro campo che ha visto un dialogo vivace e proficuo tra filosofi ed informatici è quello della causalità; come facciamo a distinguere le ‘vere’ cause di un certo fatto, quando sono presenti diversi fattori che avrebbero potuto produrlo? Trovare dei principi generali per ottenere giudizi causali validi è piuttosto complesso, ed anche in questo caso alcuni tradizionali problemi filosofici e scientifici assumono una nuova ‘coloritura’ alla luce dell’intelligenza artificiale.
Cosa si intende per Intelligenza Artificiale
Ci spiega cosa si intende per Intelligenza Artificiale? È qualcosa di tangibile o incorporeo? Vaga nel mondo e si destreggia tra le nostre vite senza che noi riusciamo ad accorgercene? Oppure, in determinate situazioni, ci soffermiamo a pensare “toh! Questa è opera di una IA e io l’avrei fatto meglio”? È sempre la stessa Intelligenza Artificiale che ha conosciuto all’inizio della sua carriera universitaria?
Oggi usiamo il termine ‘Intelligenza Artificiale’ per indicare una varietà di cose diverse, dai chatbot, ai sistemi basati sull’apprendimento automatico e mille altre cose.
In realtà non esiste una definizione univoca dell’IA, né come concetto, né come disciplina scientifica. Il programma di ricerca sull’intelligenza artificiale, ufficializzato dagli studiosi riuniti a Dartmouth nel 1956, partiva dall’assunzione che fosse possibile simulare artificialmente varie attività considerate tipiche dell’intelligenza umana, quali l’apprendimento, la capacità di auto-istruirsi, l’uso del linguaggio naturale, ecc. : “per il presente scopo il problema dell’Intelligenza Artificiale è quello di far sì che una macchina agisca con modalità che sarebbero definite intelligenti se un essere umano si comportasse allo stesso modo”.
Nella sua voluta vaghezza, la definizione è accettabile ancora oggi.
Ne ritroviamo traccia nella definizione elaborata dalla Commissione Europea nel 2018 per scopi legislativi: “[l’espressione] Intelligenza Artificiale (IA) indica sistemi che mostrano un comportamento intelligente analizzando il proprio ambiente e compiendo azioni, con un certo grado di autonomia, per raggiungere specifici obiettivi.”
A loro volta, i “sistemi basati sull’IA possono consistere solo in software che agiscono nel mondo virtuale (per esempio assistenti vocali, software per l’analisi delle immagini, motori di ricerca, sistemi di riconoscimento vocale e facciale); oppure incorporare l’IA in dispositivi hardware (per esempio in robot avanzati, auto a guida autonoma, droni o applicazioni dell’Internet delle cose).”
Questa seconda definizione risponde anche alla seconda delle sue domande, sia l’aspetto incorporeo sia quello tangibile dell’IA. Oggi l’IA è ubiqua e naturalmente non siamo sempre consapevoli di usarla quando lo stiamo facendo, ma questo credo valga per molti settori della tecnologia; paradossalmente, il progresso tecnologico sembra talvolta favorire uno stile di pensiero ‘magico’. Quanto all’ultima componente della sua domanda, c’è stato un notevole cambiamento nell’IA, con il passaggio da una supremazia dell’approccio logico a quello statistico.
Potresti essere interessato a leggere: Comprendere i Bias Cognitivi: cosa sono e perché condizionano le nostre scelte d’acquisto
Associare un sentimento umano all’Intelligenza Artificiale
Qual è l’opinione che si è fatta dell’Intelligenza Artificiale per come la stiamo conoscendo in questi ultimi anni? Riesce ad associarle un sentimento positivo, negativo o assume un atteggiamento neutro e distaccato?
La mia generazione è l’ultima “analogica”, mi sento un po’ come una degli ultimi abitanti di un mondo che sta svanendo rapidamente e dunque, se vogliamo parlare di sentimenti, quello predominante è forse lo stupore per la velocità dell’evoluzione tecnologica.
Per quanto riguarda l’IA come campo di studio, cerco di superare le simpatie istintive per certi approcci e le antipatie per certi altri; questi “sentimenti” sono elementi che orientano inizialmente la ricerca e non sono del tutto razionali, ma nemmeno nocivi se si ha la capacità di correggere la propria posizione di fronte ad argomenti convincenti.
Ma forse la sua domanda riguardava non tanto l’IA in sé quanto l’uso che ne facciamo, la cosiddetta società dell’algoritmo. Anche in questo caso cerco di non nutrire sentimenti negativi o positivi, cerco di fare io stessa quello che suggerisco ai miei studenti: smontare gli hype dei media e coltivare la consapevolezza, basandomi su fonti qualificate.
Perché l’uomo ha iniziato a studiare l’IA
Secondo il suo parere scientifico (ma anche quello di essere umano), crede che l’uomo abbia iniziato a studiare l’Intelligenza Artificiale perché troppo annoiato con la vita reale di tutti i giorni?
Mi limiterò ad un parere umano, e scherzoso: se proprio dovessi indicare un tratto caratteriale come motore della ricerca in IA, sceglierei la pigrizia, non la noia. Cerchiamo di costruire macchine che lavorino al nostro posto.
È ipotizzabile un futuro in cui le macchine prenderanno il sopravvento sull’uomo?
È davvero ipotizzabile un futuro in cui le macchine prenderanno il sopravvento sull’uomo? E sarà proprio l’Intelligenza Artificiale a determinare questo capovolgimento di forze? Oggi sorridiamo al pensiero di Cyborg e automi che prendono il sopravvento sulle nostre vite. Questo perché siamo fiduciosi che in qualche modo possiamo “staccare la spina alla macchina”?
C’è un senso in cui il digitale influenza già profondamente le nostre vite, influenzando il nostro modo di comunicare, di percepire il tempo, di consumare, di lavorare…
Ad esempio, è stato notato che tendiamo ad attribuire ai computer una maggiore autorevolezza come fonte di informazioni. Spesso abbiam la sensazione che l’innovazione tecnologica avanzi autonomamente, senza chiederci permesso ed è per questo che va incoraggiata una riflessione collettiva sugli usi appropriati dell’IA.
Ma in questo caso stiamo parlando di dialoghi, decisioni ed eventuali conflitti tra umani: tra utenti, consumatori, produttori e sviluppatori di tecnologia; distrarsi, oggi, da questo tipo di problemi per speculare sulla possibilità di diventare schiavi dei Cyborg mi sembra un po’ una fuga in avanti.
Il ruolo degli algoritmi generativi nel pensiero umano
Non crede che cedere il passo ad algoritmi generativi su attività decisionali e creative sia un po’ come scegliere di affidare il proprio destino a qualcosa che non è più totalmente sotto il nostro controllo? Ad esempio, per quanto riguarda la creazione di immagini e testi, non rischiamo di avvallare – nel corso degli anni – un certo tipo di cultura selezionata dalle macchine?
Dipende da che cosa si intende per “cedere il passo”.
Se intendiamo “affidare completamente”, la risposta è tautologica; se delegheremo alle macchine la produzione di immagini e testi è evidente che avremo assegnato alle macchine un ruolo importante, forse predominante, in quel settore.
Ma per il momento non mi sembra che ciò stia accadendo ( e nemmeno che possa accadere a breve termine).
Il pensiero si svuota di significato a causa dell’Intelligenza Artificiale?
Parliamo dell’arte di sviluppare un pensiero da parte dell’uomo. In un recente articolo Riccardo Manzotti ha affermato che siamo arrivati a poter produrre contenuti paragonabili a quelli creati con decenni – o secoli – di sforzi intellettuali e culturali. In questo senso il pensiero dell’uomo è diventato obsoleto? Si svuota di significato?
L’articolo in questione fa riferimento a ChatGPT e nell’incipit descrive molto bene lo stupore ammirato che proviamo quando ci accostiamo per la prima volta a questo tipo di algoritmi generativi.
In effetti l’algoritmo inventa barzellette nemmeno troppo stupide, compila a richiesta saggetti di filosofia che potrebbero fruttare un voto dignitoso a un esame, e fa altro ancora (anche se, ogni tanto, fa errori clamorosi cui nessuno penserebbe, come dire che “i cani depongono uova”.
Tuttavia l’algoritmo non “sviluppa pensieri”: produce testi a partire da altri testi dati ripetendoli a pappagallo, sulla base di probabilità di occorrenze di frasi. Come è stato scritto di recente,
ChatGPT è, come altri software analoghi, un “pappagallo stocastico”. La composizione di questi testi segue un percorso diverso dalla composizione di un testo da parte di un umano “pensante”, dunque quest’ultimo non è, in generale, messo in discussione dagli algoritmi generativi, almeno per il momento.
È vero che questi algoritmi possono essere utilizzati per produrre fake anche molto convincenti, e tale uso degli algoritmi può creare problemi nell’arena pubblica. Ma questo è un altro argomento.
Cosa si intende per Etica dell’Intelligenza Artificiale?
Cosa si intende per Etica dell’Intelligenza Artificiale? Quali sono i problemi etici legati all’Intelligenza Artificiale?
L’etica dell’intelligenza artificiale si occupa da un lato di problemi etici tradizionali trasferiti in contesti caratterizzati da una presenza forte del l’IA, dall’altro di problemi nuovi, originati dall’uso di programmi di IA.
Usando l’espressione ‘IA’ in un’accezione larga, sono moltissimi. Si va dai problemi di privacy a quelli che derivano dall’uso di sistemi di sostegno alla presa di decisioni che pesano sulle nostre vite (selezione del personale, concessione di mutui bancari, iscrizioni a scuole prestigiose, processi in tribunali, scelte di terapie e altri ancora) e che sono basati su processi di elaborazione che non riusciamo a ricostruire interamente (problema della ‘black box’), dalla profilazione alla progettazione di veicoli senza guidatore e di armi autonome. Un ulteriore gruppo di problemi riguarda il modo in cui noi interagiamo con le macchine, il fatto che tendiamo ad antropomorfizzarli e quindi ad umanizzare eventuali robot infermieri, robot pet, robot badanti e così via.
Vi sono problemi che derivano dal fatto che certe applicazioni dell’IA potrebbero aumentare le disparità esistenti e rinforzare pregiudizi. In generale, l’etica dell’IA dibatte sui principi che dovrebbero essere adottati nell’affrontare queste questioni, bilanciando i possibili problemi con le meravigliose opportunità che l’IA offre. Non dimentichiamo, come ho sentito dire a un recente convegno, che anche gli informatici spesso sognano un mondo migliore.
Studiare l’etica dell’IA significa spostare gli attori del dibattito?
Da quando l’uomo ha iniziato a interrogarsi sullo scopo della sua esistenza e su come poter vivere meglio sul pianeta in cui si è ritrovato, si sono sviluppate una serie infinita di scuole e correnti filosofiche che hanno approfondito il tema dell’etica. Oggi ci interroghiamo sull’etica dell’Intelligenza Artificiale. Stiamo spostando gli attori del dibattito?
Direi di no, al massimo ne allarghiamo il campo. Servono filosofi (e giuristi, e sociologi…) informati, almeno un po’, su come funziona l’IA, e computer scientists allenati a ‘scovare’ possibili problemi etici nascosti che potrebbero derivare dalle loro scelte.
Molte università si stanno muovendo in questa direzione: il mio Ateneo, per esempio, è stato il primo in Italia ad attivare una laurea magistrale in “Intelligenza artificiale e innovazione digitale” con l’intento di fornire a studenti di diversa provenienza le competenze necessarie per accostarsi all’IA ed alle sfide scientifiche, sociali, giuridiche, economiche (ed ovviamente anche etiche) che questa presenta.
Come vivono i ragazzi di oggi la Quarta Rivoluzione Industriale?
Da Professoressa immagino entri in contatto con ragazzi e studenti che si trovano ad affrontare quesiti di vita quotidiana diversi rispetto a quelli che erano 15 o 20 anni fa. Come vivono i ragazzi la quarta rivoluzione industriale in corso? Sono totalmente concentrati sugli aspetti tecnici o si pongono anche domande di tipo etico?
Credo che la quarta rivoluzione industriale sia in gran parte già avvenuta. Le ragazze e i ragazzi sono cresciuti in un ambiente digitalizzato e tendono a darlo per scontato, senza problematizzarlo, ed è comprensibile: la mia generazione non si è interrogata sull’uso della luce elettrica o dell’acqua corrente, o sull’abbigliamento prodotto industrialmente. Tuttavia, anche grazie ad una corposa produzione letteraria e cinematografica, sono molto sensibili ad alcuni aspetti etici dell’IA e della robotica.
Che volto dare all’Intelligenza Artificiale?
Voglio farle una confessione. Nel mio immaginario di futuro distopico compongo fatti e scenari come se mi trovassi sul set di 2001: Odissea nello Spazio di Stanley Kubrick piuttosto che la saga di Terminator. Questo perché ipotizzo un’Intelligenza Artificiale subdola e machiavellica e non propriamente machista. Faccio bene (perdoni l’ironia)?
Interessante l’associazione tra IA subdola e declino del machismo!
Ci devo riflettere. Scherzi a parte, le previsioni in campo tecnologico costituiscono un terreno scivoloso e ho visto inciampare menti più potenti della mia. Passo.
Puoi approfondire il Content Marketing qui: Film su marketing e business: 20 pellicole + 3 da non perdere
Due scene tratte dai film 2001: Odissea nello Spazio e Terminator.
Materiale per approfondire l’Intelligenza Artificiale
Sono convinto che in questa epoca di enormi cambiamenti, mai come prima abbiamo bisogno di strumenti che ci aiutino a inquadrare al meglio fatti, contesti e scenari futuri (qui parlo da neo-genitore preoccupato). Conosce dei libri, dei film, degli autori o del materiale divulgativo da condividere con noi persone che viviamo fuori dall’ambiente accademico ma sentiamo la necessità di approfondire i quesiti imposti dall’Intelligenza Artificiale?
Tra gli innumerevoli film, forse la serie britannica di Black Mirror dà una buona idea (distopica) delle possibili deformazioni dell’Intelligenza artificiale. Più riflessivi sono il film The Social Dilemma e quello più specifico sulla storia della manipolazione delle elezioni The Great Hack (tutti su Netflix).
Di libri ce ne sono a non finire, da Cathy O’ Neil, Armi di distruzione matematica. Come i big data aumentano la disuguaglianza e minacciano la democrazia, a una ricca antologia con diversi autori su vari temi curata da Fabio Fossa, Viola Schiaffonati e Guglielmo Tamburrini, Automi e persone, Introduzione all’etica dell’intelligenza artificiale e della robotica. Per chi ha voglia di leggere in inglese, consiglio, di Brian Christian The alignment problem: Machine learning and human values. Ad un livello più accademico, il recente Etica dell’intelligenza artificiale, di Luciano Floridi.
Vi sono inoltre innumerevoli introduzioni all’IA, anche se molte sono di fatto datate, dato il rapido sviluppo della tecnologia. Tra gli ultimi usciti in italiano una buona accoglienza ha avuto il corposo volume di Melanie Mitchell L’intelligenza artificiale. Una guida per esseri umani pensanti.
Ci sono infine moltissimi blog sull’intelligenza artificiale, molti dei quali per lo più pubblicitari o rivolti a spingere certi prodotti, altri legati alla diffusione di novità del momento (come la sezione IA di HDBLOG) o a problemi specifici come la cybersicurezza (come il blog lanciato da Carola Frediani, Guerre di Rete.
Ringraziamenti
Ringrazio la Professoressa Margherita Benzi che ha accettato di rispondere alle mie domande dedicate a uno dei topic più caldi del momento: l’Intelligenza Artificiale applicata alla generazione di testi, immagini e video. Certamente non è stato possibile approfondire le mille sfaccettature che si porta dietro un tema così complesso. La mia speranza è quella di aver acceso pensieri, ragionamenti e collegamenti su cui ciascuno di noi può indagare come meglio crede.
Potete entrare in contatto con la Professoressa Margherita Benzi attraverso la scheda docente di UNIUPO e, iscrivervi ai suoi meravigliosi corsi.
