Trascrizione (rivisitata) del mio contributo (slides qui) al XV Congresso dell'Associazione Luca Coscioni sulla Libertà di Ricerca. Disponibile anche in inglese.
Buona sera, io mi chiamo Giacomo, sono un programmatore e vi porto una prospettiva molto più pratica su queste materie. Vi parlerò della simbiosi fra uomo e macchina, provando a proporvi una strada che possa farci procedere più rapidamente in questa direzione.
Una nuova specie
Partiamo da una definizione dell'Intelligenza Artificiale dell'Università di Stanford
L'intelligenza artificiale (AI) è il campo dell'informatica dedicato alla costruzione di animali artificiali (o quanto meno di creature artificiali che – in contesti adatti – appaiano come animali) e, per molti, persone artificiali (o almeno creature artificiali che – in contesti adatti – appaiano come persone).
Ora se introduciamo una nuova specie in un ecosistema, sia essa artificiale o meno, ne rompiamo l'equilibrio dinamico, con alcuni possibili esiti:
- l'estinzione della nuova specie, rifiutata dall'ecosistema
- un'articolazione della catena alimentare
- la distruzione dell'ecosistema
- l'instaurazione di una relazione simbiotica fra la nuova specie ed una delle residenti.
Possiamo sicuramente escludere il primo esito, visto che stiamo parlando di "intelligenze artificiali" che stanno attecchendo. Ma possiamo anche escludere un'articolazione della catena alimentare guardando il metabolismod delle intelligenze artificiali, basato sui dati:
- data raccolti da infrastrutture specializzate
- fornite alle AI in INPUT
- trasformati da tali AI
- restituiti dalle AI in OUTPUT
- e poi dati in input ad altre AI
- o trasformate in informazioni da noi umani
Possiamo quindi vedere tre fasi:
- alimentazione
- evacuazione
- interpretazione (delle feci :-D)
che è un po' magica, è sempre arbitraria, poiché effettuata da umani.
L'informazione appartiene alla mente umana.
Ma da dove arrivano questi dati?
Allevare Intelligenze Artificiali
Per comprenderlo, vi propongo un piccolo estratto da Wikipedia.
In una nota a piè di pagina contiene un link ad una fonte.
Cliccando su tale link, diffondiamo al minimo 10 informazioni personali.
Alcune informazioni sono culturali, altre mediche, altre geopolitiche, altre ancora sono economiche, poiché se state navigando con l'ultimo iPhone, avete probabilmente un reddito molto diverso che se state visitando Wikipedia dal PC di una biblioteca pubblica.
Notate che si tratta del insieme minimo: con la configurazione predefinita del broweser, diffondete molte più informazioni. E questo è un solo click: non potete nemmeno immaginare quante preziossime informazioni mediche diffondete giocando ad un gioco online!
Tuttavia questi dati sono ciò che le AI consumano ogni giorno, senza alcuna interazione con il ciclo del carbonio: non sono né prede né predatori, per le altre specie.
Per cui ci rimangono due possibili esiti:
- la distruzione dell'ecosistema
- la simbiosi
Ovvero lo scenario alla Terminator… o quello alla WALL-E.
Artificial… Politics.
Purtroppo, quest'anno escludere lo scenario alla Terminator è diventato molto più difficile perché, a marzo, un'auto guidata da un'intelligenza artificiale di Uber ha ucciso una donna di 49 anni in Arizona.
Nessuno è finito in carcere.
Nemmeno l'auto, nonostante questa avesse "percepito" Elaine Herzberg in tempo per frenare, ma non avesse frenato comunque.
Che cosa significa?
La Singolarità!
Abbiamo due possibili interpretazioni.
La prima è che abbiamo raggiunto la Singolarità: la macchina asserisce la propria superiorità uccidendo un cittadino della più grande potenza militare del pianeta.
Notate l'acume politico di questa intelligenza: in un momento in cui le AI vengono accusate di riprodurre i bias umani, la macchina uccide una donna bianca negli Stati Uniti; ma per evitare una sommossa dell'opinione pubblica, uccide una senza tetto, un povero, una donna che non era rilevante nell'economia capitalista che sta al cuore dei valori di quel Paese.
In questo modo, la macchina stabilisce un precedente, con un messaggio chiaro: “è lecito sacrificare vite umane al progresso; è permesso uccidere per facilitare l'evoluzione della mia specie”.
Una super intelligenza, come vedete.
Ma c'è un'altra spiegazione possibile.
Hype-Driven Politics
Quel simulatore non sarebbe dovuto essere alla guida di un'auto di 2 tonnellate su una strada aperta al pubblico.
Infatti, gli ingegneri di Uber hanno chiarito che
l'auto era configurata per evitare frenate di emergenza
mentre il veicolo era sotto il controllo del computer di bordo, “per ridurre il rischio di un comportamento erratico del mezzo”.
L'auto non ha frenato per evitare il mal d'auto ai clienti di Uber.
Dunque Elaine non è stata uccisa per il progresso, ma per il profitto di Uber!
Mi concentrerei sugli umani, prima.
E questo è rilevante perché Uber era stata invitata a sperimentare una tecnologia assolutamente inadeguata alla complessità che avrebbe dovuto gestire da un Governatore ignorante.
Ma un Governatore la cui ignoranza è molto diffusa.
Un linguaggio ingannevole
Il linguaggio che usiamo per descrivere la realtà, determina la nostra comprensione della stessa.
Dunque quando utiliziamo parole come “intelligenza”, “apprendimento”, “allenamento” e anche “reti neurali”, evochiamo esperienze umane, profondamente radicate nelle nostre coscienze, ma che non hanno NULLA in comune con quanto avviene durante l'esecuzione di questi software.
Questo linguaggio è ottimo per la fantascienza, ma è assolutamente inadeguato per la scienza.
Sarebbe facile adottare un linguaggio tecnico più descrittivo, meno antropomorfico, ma preferiamo
ottenere fondi facilmente evocando fantasie di magnifiche sorti e progressive, rispetto a comprendere
veramente cosa stiamo cercando con quei fondi.
Dopo tutto, più ci mettiamo a trovarlo, più fondi otterremo!
Robot significa schiavo!
Tuttavia questo incidente ci permette di escludere l'esito alla Terminator.
Dimostra infatti che, anche quando una macchina uccide autonomamente, uccide seguendo una decisione umana. Un essere umano ha deciso che la vita di Elaine valesse meno del profitto di Uber.
Per cui anche quando saremo in grado di creare armi autonome, queste non distruggeranno il pianeta.
Non distruggeranno l'ecosistema. Assolutamente!
Si limiteranno a sfoltire l'umanità del 99 percento in eccesso!
Simbiosi
Ci rimane dunque un solo possibile esito: la simbiosi fra uomo e machina.
Ma che cos'è la simbiosi?
Un associazione intima, spesso obbligata, fra membri di diverse specie, che solitamente produce una coevoluzione.
Si tratta di un processo molto lungo, avviato da singoli individui delle specie originali che traggono un vantaggio evolutivo sulle popolazioni da cui provengono.
Dunque ci dovremmo chiedere: chi erediterà la Terra? Chi prenderà parte a questa coevoluzione?
Gli smartphone nelle vostre tasche potrebbe farvi credere di esser parte di questo popolo eletto, ma devo deludervi. Per allevare "intelligenze artificiali" bisogna controllare i dati. E voi non controllate i dati che vi riguardano.
Aziende come Google, Amazon, Facebook, Apple, Microsoft e Uber controllano i vostri dati.
Ora, certamente qualcuno dirà che queste aziende non farebbero mai del male e che le interdipendenze prodotte dal mercato globale ci progeranno tutti da pratiche distruttive.
La fede nel mercato
Per ragionare su questa obiezione, vi propongo di considerare i browser che servono oltre il 90% del mercato: Google Chrome, Mozilla Firefox, Microsoft Edge e Apple Safari.
Questi browser sono i principali strumenti di mugitura… voglio dire… i principali strumenti per raccogliere i dati degli utenti. Sono distribuiti gratuitamente, ma finanziati o sviluppati dalle aziende. E tramite questi software ogni sito che visitate può
- entrare nella vostra rete privata, ovunque voi lavoriate, in un ospedale, in una banca, in una base militare, in Parlamento… ovunque!
- salvare contenuti illegali sul vostro computer a vostra insaputa
e molti altri attacchi che sarebbe troppo lungo descrivere qui.
Questi attacchi sono possibili da decenni ma sono stati segnalati chiaramente un mese fa a queste aziende. Ma a tutt'oggi (quasi tre anni dopo), non ne sapete nulla perché queste aziende hanno chiuso la segnalazione sostenendo che non è possibile fixare il bug.
Il che è falso: nello stesso bug report, suggerivo alcune semplicissime modifiche, piuttosto facili da implementare, che ridurrebbero enormemente la superficie d'attacco. Il problema è che una di queste modifiche consiste nel rendere l'esecuzione di JavaScript opt-in (come era Flash) e JavaScript è fondamentale per i business model di moltissime compagnie nella Silicon Valley.
Ciò evidenzia che la mano invisibile non ci protegge dall'ignoranza.
Queste compagnie non hanno informato i propri utenti. Non VI hanno informato.
Dobbiamo comprendere ed accettare che il mercato non funziona laddove esiste asimmetria informativa!
Infatti, comprendendone il rischio politico, la China ha deciso di competere sullo stesso terreno, creando grandi compagnie specializzate in robotica, in riconoscimento facciale e nella "intelligenza artificiale" in generale che stanno lentamente conquistando larghe fette del mercato.
E l'Europa?
Ovviamente anche l'Europa potrebbe iniziare a competere sul mercato: Macron ha già candidato la Francia per questa gara ed altri seguiranno.
Ma io penso che esistano altri terreni in cui l'Europa, grazie alla propria storia, ha un maggiore vantaggio competitivo:
- i Principi e le Leggi che derivano da tali principi come:
- Responsibilità che deve sempre essere riconducibile a esseri umani, anzitutto quando le macchine sbagliano
- Trasparenza algoritmica che deve sempre essere totale ed assoluta quando le AI vengono applicate ad esseri umani
- la Ricerca che tali Principi può ispirare
(e tali Leggi incentivare)- nuovi algoritmi che garantiscano totale trasparenza (e non fingano semplicemente, fornendo spiegazioni accettabili dall'opinione pubblica ma non verificabili)
- un nuovo linguaggio, che non inganni le persone
- la Cultura, tramite lo studio di Storia ed Informatica
La Simbiosi è una Coevoluzione
Se la Simbiosi è un processo di coevoluzione, allora dobbiamo evolvere anche noi, deve evolvere la nostra intelligenza collettiva. Questo di solito si ottiene attraverso l'Educazione.
Oggi l'Informatica è ciò che la scrittura era 5000 anni fa: uno strumento assolutamente primitivo (nulla di ciò che abbiamo costruito negli ultimi 100 anni durerà!) ma uno strumento efficacissimo per ottenere e mantenere il Potere sulle persone, proprio perché primitivo.
Chi detiene questo potere?
Questa è Audrey Jones. Ha 11 anni e ha bucato il sistema di voto elettronico degli Stati Uniti d'America. In 10 minuti. Come è possibile?
Randall Munroe spiega parte del problema con questa splendida vignetta
Our entire field is bad at what we do, and if you rely on us, everyone will die.
(e NO, la blockchain non è la soluzione, solo un altro sintomo)
Ma c'è un altro aspetto di questa storia che è ancora più importante.
Audrey Jones può
- scrivere
- far di conto
- programmare
che sono tutte precondizioni di una piena cittadinanza nel mondo in cui viviamo.
E poi i computer sono facili! Un SQL injection è un attacco banale: il fatto che voi non sappiate come effettuarlo non significa che sia difficile, ma solo che voi non sapete come effettuarlo! Audrey può e ha undici anni!
Audrey Jones ha
- Curiosità
- Fantasia
- e gli strumenti culturali per creare l'infrastruttura del mondo che desidera!
L'Europa deve tirar sù una generazione di hackers come Audrey!
Una generazione che potrà produrre Politici che comprendano la democrazia cibernetica in cui viviamo!
Non possiamo insegnare ai Politici come funzionano i computer: deve essere parte della loro educazione sin dalle elementari!
Perché diciamo la verità: quelli come me potranno sempre fregarvi.
Ma non possiamo fregare Audrey… lei ne sa di più!
Audrey ci insegna che possiamo solo essere Hacker o Robot (biologici),
o Cittadini o Schiavi, perché (diciamocelo) se un software può influenzare le elezioni di un Paese, significa che siete voi i robot!
Voi che credete di essere utenti, di usare il software, mentre in realtà venite usati dal software perché non comprendete come funzioni.
Noi non dobbiamo insegnare ai nostri figli come usare i computer, dobbiamo insegnargli come creare con i computer. Così che possano costruire il mondo che desiderano. Un mondo che noi non possiamo nemmeno immaginare ma per il quale dobbiamo prepararli comunque.
Dobbiamo mettere server in ogni casa, server mail… server web…
Ma server sotto il pieno controllo delle persone che vi abitano!
E dobbiamo iniziare ad insegnare Storia e Informatica a scuola. Ma sul serio!
E l'unica alternativa che abbiamo, non metterci chip sotto pelle.
E' questa la Simbiosi di cui abbiamo bisogno: saper creare il Futuro.