Il tema delle fragilità e della loro tutela è della massima importanza. È sempre stato al centro di tutte le culture fondate sulla solidarietà reale e non soltanto formale. Oggi, però, esistono nuovi tipi di fragilità, molto complessi, che superano i vecchi schemi. In altre parole, oltre alle fragilità tradizionali che riguardano categorie deboli ben individuate, la situazione attuale rende precarie, e quindi fragili, molte altre categorie di persone, spesso perfino insospettabili.
Quali sono queste nuove condizioni che determinano nuove fragilità? In primo luogo dobbiamo prendere in esame l’intelligenza artificiale, che investirà moltissimi settori, mettendo a rischio l’occupazione e rendendo precarie molte posizioni di lavoro che fino a pochissimo tempo fa si ritenevano solide e non sostituibili.
Ma, oltre a questo tipo di fragilità, dobbiamo notare che entrano nelle categorie fragili anche tutte quelle persone a cui viene imposto di utilizzare l’intelligenza artificiale e determinati servizi informatici senza fornire loro la necessaria formazione. Queste persone vengono gettate allo sbaraglio in modo impietoso e andrebbero quindi tutelate in modo specifico.
Al tema dell’intelligenza artificiale si aggiunge oggi un nuovo rischio, costituito dalla situazione geopolitica estremamente instabile e dunque dalle minacce alla pace. Questi due fattori sono legati tra loro, come vedremo.
Dobbiamo fare una breve rassegna del tema della pace, che ha subito molte modifiche negli ultimi tempi. La pace è un’antichissima aspirazione dell’umanità, un’aspirazione sempre delusa, ma negli ultimi ottant’anni essa è stata riferita soprattutto al rischio dell’olocausto atomico. Si temeva, cioè, che un nuovo conflitto potesse sfociare in una guerra atomica capace di spazzare via l’umanità.
La guerra fredda è stata un momento di equilibrio, precario, ma comunque in qualche modo valido. Per preservare il mondo dal rischio della catastrofe atomica, e quindi pur in presenza di molte guerre locali, si è costruito un periodo di pace relativa. In tutto questo arco di tempo il precario equilibrio è stato assicurato dagli organismi internazionali, che in parte offrivano un luogo di confronto fra i blocchi e in parte intervenivano nei conflitti minori, cercando di limitarne gli effetti negativi sulle popolazioni. Non è mai stata una situazione ottimale, ma questo equilibrio precario ha comunque preservato il mondo da conflitti generali catastrofici e quindi dal rischio di un conflitto atomico.
Dopo la fine del blocco sovietico sono però emerse scelte culturali che hanno cambiato molto profondamente questo quadro.
È nata la teoria della cancel culture, si è parlato della fine della storia, perché ormai tutti si sarebbero ritrovati dentro un globalismo. Ma tale globalismo si è configurato come un’ideologia incentrata sul mercato. L’apparenza era quella di una trasformazione dei conflitti in concorrenza economica, ma la realtà era molto più dura, perché la centralità del mercato era, in realtà, la centralità del mercato oligopolistico: gli oligopoli dettavano le regole, i piccoli le subivano.
La nuova instabilità apertasi negli ultimi anni sta cambiando completamente questo quadro. Si parla di guerre preventive, si parla di esportazione della democrazia, e pian piano è stata posta quasi come normale l’ipotesi di una guerra atomica limitata alle cosiddette atomiche tattiche. Si è pensato che l’esecrazione dell’opinione pubblica mondiale avrebbe bloccato la possibilità di una guerra atomica di sterminio, ma non si è considerato che, in caso di rottura degli equilibri, qualcuno, minacciato nella sua stessa esistenza, potrebbe avere la tentazione di scatenare una guerra atomica il cui inizio sarebbe persino difficile da provare, nel senso che potrebbero esserci provocazioni finalizzate ad attribuire la prima mossa sempre alla parte avversa.
Ed ecco che entra in gioco il tema della deterrenza.
La deterrenza è stata il criterio che ha assicurato la pace, pur precaria, durante tutto il periodo della guerra fredda, così come gli accordi internazionali per il disarmo, che in realtà prevedevano piuttosto la limitazione degli armamenti che un vero disarmo. Tali accordi erano basati sulla prevedibilità della risposta di ciascuna delle parti e quindi sulla possibilità di riflettere, nel momento di tensione massima, prima di premere il bottone di una inevitabile catastrofe atomica. Ma tutto questo è stato superato, in primo luogo, dalla tecnologia, che, introducendo forme intermedie di armamenti atomici, tecnologie missilistiche ibride e altre innovazioni d’arma, comprese le armi a conduzione IA, ha reso obsoleta la distinzione fra missili balistici, missili di crociera e così via, rendendo obsoleta gran parte dei trattati internazionali che reggevano quel precario equilibrio.
A questa instabilità tecnologica si è aggiunta la cancellazione del principio di non ingerenza nelle scelte politiche e culturali dei vari Paesi. La giustificazione dell’esportazione della democrazia e dell’ingerenza umanitaria ha dapprima legittimato guerre cosiddette umanitarie, che però, pian piano e quasi insensibilmente, hanno preparato il terreno a un diffuso stato di tensione e insicurezza. Ciascuno, infatti, può giustificare le proprie ingerenze e la propria esportazione di valori, anche perché successivi interessi economici, dal petrolio alle materie prime, hanno messo in forte dubbio la finalità umanitaria sbandierata, facendo emergere invece dinamiche di appropriazione dei beni dei Paesi investiti da queste guerre apparentemente umanitarie.
Vi è poi un ulteriore aspetto che in questa sede accenniamo appena: il duplice impatto che la situazione geopolitica, leggasi guerra mondiale, e l’intelligenza artificiale esercitano sulla comunicazione. Su questo tema, che merita il massimo approfondimento, ci stiamo impegnando con il Comitato scientifico della comunicazione audiovisiva della REA, perché, se la guerra distorce la comunicazione e la piega alla propaganda, mettendo a rischio, anzi schiacciando, il pluralismo con la famosa scusa “taci, il nemico ti ascolta”, anche l’IA piega la comunicazione alle sue regole e può squilibrare fortemente la libertà e il pluralismo a favore di un conformismo di massa legato al concetto di onniscienza artificiale. Ecco perché le fragilità dell’informazione libera vengono amplificate al massimo grado, fino ad annebbiare il concetto stesso di libertà e di democrazia.
Su tutto questo processo, che già da solo ha sgretolato il precedente, pur precario, equilibrio, è intervenuto ora pesantemente il tema dell’intelligenza artificiale. Perché questo tema è così decisivo? Perché l’intelligenza artificiale, accelerando e automatizzando i processi di risposta alle minacce, sottrae in realtà le decisioni alla responsabilità umana e riduce i tempi della riflessione prima della risposta.
Finora questo equivoco è stato gestito parlando di danni collaterali, parlando di bombardamenti intelligenti, ma questo schermo verbale non può rassicurare. Se infatti l’intelligenza artificiale, intravedendo un rischio, magari grave, e dovendo rispondere a esigenze difensive rapidissime, dovesse far scattare una risposta di tipo nucleare, è chiaro che il mondo precipiterebbe in pochissimi istanti in una catastrofe.
Non ci sarebbe il tempo della riflessione e della mediazione umana, in una situazione di escalation incontrollabile.
Una situazione simile, in campo finanziario, si è verificata nella crisi economica del 2029, in cui gli automatismi di risposta hanno accelerato e aggravato la crisi proprio per la simultaneità delle decisioni.
Un effetto di panico generale che, se ha prodotto danni in campo finanziario, in campo militare potrebbe produrne di ben più gravi. Ecco perché l’intelligenza artificiale diventa un acceleratore di questi processi, che minimizzano il controllo umano.
In altre parole, l’irruzione dell’intelligenza artificiale nella guerra ha determinato alcune novità fondamentali. Da un lato, l’intelligenza artificiale è diventata uno strumento di supremazia geopolitica; risulta quindi difficile, per non dire impossibile, una regolamentazione a livello internazionale, se ciascuna delle parti la considera uno strumento strategico di potere. Dall’altro lato, l’intervento dell’IA ha caratteristiche che rendono difficile un controllo umano, proprio perché è automatico.
Ma soprattutto l’intelligenza artificiale non ha le stesse remore dell’uomo, cioè la paura della morte, la paura della fine dell’umanità, la paura di una catastrofe atomica. Ragiona per automatismi. Non esistono quindi correttivi umani credibili se l’intelligenza artificiale prende in mano decisioni così importanti. E vogliamo sottolineare che in questo meccanismo non è coinvolta soltanto la decisione finale di premere il bottone atomico, ma anche tutte le decisioni che portano a quel rischio possono essere così rapide, così accelerate, così demandate all’intelligenza artificiale da rendere inevitabile l’ultima scelta.
Ma nello scenario così delineato c’è un ulteriore rischio finale, ancora più serio e irrevocabile.
Molti temono l’autonomizzazione dell’intelligenza artificiale e la possibilità che, data la sua potenza e rapidità di calcolo, l’IA possa sfuggire definitivamente al controllo umano.
Questo timore serpeggia in molti e non è irrilevante; anzi, è la sfida più grande che l’intelligenza umana abbia avuto da centomila anni.
L’uomo, anche quando era debolissimo e in balia delle forze della natura, era comunque più intelligente di tutte le altre specie viventi e proprio per questo ha superato mille difficoltà e pericoli serissimi, quali pestilenze, carestie, genocidi, tsunami, diluvi universali. Attraversando tutti questi pericoli, aveva pur sempre un’intelligenza superiore alle altre specie viventi e riteneva di averla.
Ora la sfida è assoluta: per la prima volta c’è la possibilità di un’intelligenza superiore a quella umana per rapidità, per memoria, per potenza di calcolo. Ecco quindi che il rischio che possa sfuggire di mano è paventato da molti scienziati.
Tale rischio non può essere sottovalutato né ignorato. Non vogliamo attardarci in ragionamenti paradossali come quelli sull’autocoscienza, perché qui la sfida si gioca sull’azione e sulle decisioni.
Ecco allora il tema della regolamentazione dell’IA e del suo uso etico.
Si apre a questo punto un territorio sconfinato di riflessioni e di tesi che non vogliamo assolutamente ridurre nei brevi limiti di questa nota, ma che costituiscono la materia di riflessione su cui noi, come ENIA, Ente Nazionale Intelligenza Artificiale, di cui faccio parte come membro del Consiglio di Presidenza e come presidente del Salotto dell’Intelligenza Artificiale, stiamo lavorando.
Quindi, in questa sede, enunciamo il tema per chi vorrà seguire le nostre riflessioni.
Qui ci limitiamo a dire che le ipotesi di regolamentazione dell’IA si scontrano con due limiti che intrecciano i temi fin qui svolti.
Il dual use dell’IA, cioè l’uso militare e civile sostanzialmente intercambiabili, rende già di per sé difficile una regolamentazione.
Ma su questo scenario, già di per sé complesso, incombe il tema della guerra mondiale in atto.
Una guerra che, seppur negata con il riferimento a guerre locali, è invece più correttamente composta da battaglie locali su singoli teatri di guerra di uno scontro mondiale già in atto, anche se ufficialmente negato.
Sarebbe un buon esercizio chiedersi le ragioni di questa negazione, ma il discorso ci porterebbe lontano, e quindi lo accantoniamo.
Accantoniamo anche un secondo tema importantissimo, che qui enunciamo soltanto per sottolinearne l’importanza strategica e filosofica a livello geopolitico.
Il tema è il seguente: la regolamentazione dell’IA può essere fatta solo a livello giuridico o va necessariamente integrata con un vincolo etico, cioè con una regola contenutistica interna e non soltanto formale?
E, in questo caso, nell’etica non deve necessariamente essere presente la pace?
Accantoniamo questo tema, che però è decisivo, solo perché il suo sviluppo richiederebbe uno spazio non adatto a queste note. Tuttavia esso resta centrale e decisivo, tanto che lo enunciamo proprio per sottolineare che si tratta di un passaggio non evitabile, un passaggio assoluto su cui fisseremo la nostra riflessione nel futuro immediato.
Sottolineato questo aspetto, diventa evidente che la regolamentazione dell’IA o sarà a livello internazionale o sarà soltanto fittizia, perché resterà sempre l’ombra del doppio uso, militare oltre che civile, con la conseguente impossibilità, in questo clima, di regolamentare l’IA senza la pace.
Ciascuna parte avrebbe sempre il dubbio che, in segreto, gli altri superino il limite, e quindi ogni limite rischierebbe di diventare soltanto una commedia degli equivoci.
Ecco il tema di fondo e la debolezza intrinseca delle attuali, pur lodevoli, prove di regolamentazione dell’AI, su cui ci soffermeremo in altra sede.
In questa sede ci limitiamo a osservare che, a questo punto, per le ragioni fin qui dette, il rischio che l’IA sfugga al controllo umano diventa incombente e concreto.
I rischi di un’IA autonoma, oppure in mano a ristrette élite malintenzionate, proprio quelle che ci vengono descritte come illuminate ma illuminate non sono, diventerebbero assolutamente evidenti, perché verrebbero certamente resi possibili dalla situazione conflittuale permanente a livello mondiale.
Questo è il vero rischio. Ecco perché la pace diventa ancora più indispensabile, ancora più cogente che nel passato.
Separare il rischio dell’IA dal tema della pace è un errore assoluto.
Immaginare un’etica dell’IA senza la pace è un errore assoluto, o un equivoco voluto.
Per tutti questi motivi l’ENIA, Ente Nazionale Intelligenza Artificiale, si batte per la regolamentazione internazionale dell’intelligenza artificiale, per rafforzare il controllo umano.
Ma per fare questo c’è bisogno di una coraggiosa scelta di pace.
Una scelta che non è il pacifismo ottimistico del “mettiamo i fiori nei nostri cannoni”, ma la realistica consapevolezza che bisogna trovare formule di dialogo sui punti centrali dei diritti umani e dell’umanità, se vogliamo che l’umanità vinca questa sfida epocale.
Ecco perché abbiamo proposto di chiamare NEOEVO l’età dell’intelligenza artificiale, per sottolineare plasticamente che siamo davanti a uno snodo essenziale nella storia e nella civiltà umana.
E l’esito è assolutamente incerto.
Ma anche assolutamente decisivo.
Ecco, dunque, che l’ENIA, Ente Nazionale per l’Intelligenza Artificiale, è schierata senza se e senza ma per la pace, ma soprattutto per l’impegno a diffondere un’adeguata conoscenza, presso tutti i cittadini, dei rischi e dei pericoli che una situazione di conflitto permanente ed esasperato può avere sullo sviluppo dell’intelligenza artificiale, che, per altri versi, potrebbe invece portare grandi vantaggi a tutta l’umanità.
Ecco perché ENIA sta sviluppando progetti educativi e formativi che coniugano il dialogo, la pace e l’etica dell’intelligenza artificiale.
Mi sia consentito citare, sia pure rapidamente, il grande progetto di ENIA delle giurie di comunità, che rappresentano un tentativo innovativo di creare strumenti di tutela della gente di tipo nuovo e collettivo, ma soprattutto uno strumento non legato unicamente al potere del denaro, il cosiddetto potere di mercato, che riduce l’uomo a puro homo oeconomicus, l’agire umano a puro profitto, e a un’interpretazione economicistica che smentisce tutta la retorica dei cosiddetti valori umani, laddove la difesa è affidata al solo metro della ricchezza, cioè a una visione rigidamente classista a favore dei superricchi.
Torneremo a parlare delle giurie di comunità, con cui ENIA cerca di dare voce ai deboli in un campo, quello dell’IA, nel quale operano soggetti fortissimi.
Ecco perché ENIA ha sottoscritto un accordo proprio con Unipace, l’università dell’ONU intitolata alla pace, imperniato sui temi dell’intelligenza artificiale.
A questo punto dobbiamo tornare a chiederci: è ammissibile un’etica che non comprenda in prima linea il concetto di pace? Noi riteniamo di no e riteniamo che non si possa chiamare etica qualcosa che, fra le sue regole, non metta in prima linea la pace, perché il rischio è davvero troppo grande.
Una partita a scacchi con l’apocalisse, di cui abbiamo parlato nei libri che compongono la saga del Neoevo.
Ecco perché illustriamo il nostro accordo con Unipace.
Avv. Fabrizio Abbate
Presidente salotto IA di ENIA
Membro consiglio di presidenza di ENIA
Presidente del comitato scientifico della comunicazione audiovisiva e artistica REA
Responsabile rapporti istituzionali REA
Membro del comitato scientifico di Assisi Strategic Forum