Nel Giugno del ’50 veniva pubblicato il racconto The Evitable Conflict, di Asimov, tradotto in italiano con Conflitto Evitabile. La trama (in breve): sono state create quattro Macchine con lo scopo di controllare l’economia, sotto ogni suo aspetto, delle macroregioni in cui è stata divisa la Terra.
I problemi di disoccupazione, di squilibrio tra domanda e offerta e di produzione in generale vengono presto dimenticati perché queste Macchine, infinitamente più intelligenti di qualsiasi essere umano, prendono le migliori decisioni possibili per “evitare che l’essere umano patisca danno”, mantra fondamentale delle Leggi della Robotica.
Conflitto Evitabile
Si scopre, però, che ci sono stati problemi sparsi in tutto il pianeta, problemi non particolarmente rilevanti ma che denotano una imperfezione di queste Macchine – che, per natura, non possono essere imperfette. La “soluzione” a cui si arriva alla fine del racconto è ben complessa: le Macchine hanno giudicato necessario correre determinati rischi – che hanno di fatto danneggiato anche degli esseri umani, ad esempio causando il loro licenziamento – in nome della salvaguardia dell’umanità. In altre parole, in virtù della loro super-intelligenza, queste sofisticatissime IA conducono l’umanità sul sentiero migliore, controllando di fatto ogni aspetto dell’economia globale ed annullando la possibilità dell’uomo di “decidere del proprio futuro”. Non solo: antepongono il bene dei molti a quello dei singoli, con tutte le conseguenze che ne derivano.
«È orribile».
«O forse è meraviglioso. Pensi, per tutto il tempo futuro, i conflitti saranno finalmente evitabili. Soltanto le Macchine, d’ora innanzi, saranno inevitabili».
Con queste parole si conclude il racconto, lasciando intendere che le Macchine non abbiano in realtà alcun interesse a dominare l’umanità per il puro gusto di farlo; semplicemente, consapevoli di quale sia la soluzione migliore, si limitano a prendere decisioni in nome della salvaguardia dell’umanità tutta e non più dei singoli esseri umani.
Macchina umana?
Il problema di una presa di potere da parte dell’IA è motivo di dibattito, oggi più che mai. In effetti, la creatura che si ribella al creatore costituisce uno dei leitmotiv della letteratura fantastica e di fantascienza: Frankenstein, ad esempio, per non menzionare la moltitudine di opere cinematografiche esistenti sull’argomento. Ma non è una tematica legata esclusivamente alla fantasia e all’intrattenimento dato che perfino personalità come Elon Musk e Bill Gates hanno espresso preoccupazioni circa la creazione di una IA super intelligente che possa sfuggire al controllo umano, decretando – worst-case scenario – l’estinzione della razza umana.
Ora, io non so quanto sia possibile che una IA arrivi a prendere il controllo dell’umanità (anche perché ci sarebbero una serie di discussioni da fare che non è il caso di cominciare qui); vorrei, però, partire dalle riflessioni che Maurizio Ferraris fa nel suo ultimo lavoro (Documanità. Filosofia del mondo nuovo).
«A chi teme la distopia di un mondo di macchine che producono mentre l’umanità sta a guardare e soccombe, propongo una semplice riflessione: che senso ha una macchina senza un umano? Che senso ha una produzione senza un consumo?». Insomma, il punto è: l’uomo giunge a creare una macchina il cui scopo, diciamo, è ottimizzare la produzione di un campo di patate – dalla semina al raccolto, ogni aspetto della produzione. Se non ci fosse, successivamente, un essere umano che prenda quelle patate e le consumi in qualche modo, il lavoro della macchina che senso avrebbe avuto? Un esempio ancor più semplice: non immaginereste mai un aereo, per quanto sofisticato, che tenti di assumere il controllo per… per? È questo il punto. Un aereo ha una specifica funzione: trasportare passeggeri, o merci, da un punto A ad un punto B. Tolte le merci e i passeggeri stessi, l’aereo non avrebbe motivo di esistere. «Riesco ad immaginare una macchina che produce sinfonie, non una macchina che ne gode», scrive ancora il Ferraris, per poi arrivare a «le macchine possono produrre infinitamente più e meglio degli umani. Ma nessuna macchina potrà mai consumare al posto di un umano […] la macchina ha sempre bisogno di qualcuno – di un vivente e il più delle volte di un umano – che le dia uno scopo».
I signori del vapore
«È possibile che prima o poi ci sarà una macchina per produrre e distribuire qualunque cosa, ma quella macchina sarebbe sovranamente inutile in assenza di umani. Il che significa, se ci pensiamo bene, che noi siamo, letteralmente, i padroni del vapore, i signori delle macchine benché per qualche motivo […] siamo per lo più inclini a pensarci come schiavi dell’automazione».
Lo scopo di un orologio è segnare il tempo ma all’orologio, se avesse coscienza di sé, interesserebbe poco lo scorrere del tempo. Il suo scopo è ricordarci l’ora, quanto siamo in ritardo, a che ora comincia una partita di calcio; per dirlo diversamente, lo scopo dell’orologio è l’essere umano o, meglio, il soddisfacimento del suo bisogno di tenere sotto controllo lo scorrere delle ore. Perché dovremmo pensare ad una serie di robot con volontà di dominio rispetto all’umanità? A prescindere da quanto potrà mai essere intelligente una IA, se il suo scopo fosse riuscire a soddisfare il fabbisogno mondiale di acqua, perché mai dovrebbe decidere di assumere il controllo dell’umanità? Che senso avrebbe, poi, il suo continuare ad esistere?
Non ho le conoscenze e le competenze di Elon Musk e Bill Gates – e sono sicuro che loro potrebbero spiegarvi in maniera infinitamente più precisa perché, invece, dovremmo temere uno scenario dove l’IA domini l’umanità. Eppure, «l’intelligenza artificiale sembra una scoperta dell’ultimo momento, mentre a ben vedere l’umanità è diventata umana proprio attraverso la tecnologia, che è una intelligenza artificiale […] intelligenza artificiale sono abachi, libri, penne, taccuini […]».
Chiudo il libro del Ferraris, altrimenti scriverei altre quattro pagine: il senso ultimo è che solo l’uomo ha bisogni da soddisfare, e solo gli esseri umani «si uccidono per delle menzogne, cosa inconcepibile sia per una macchina sia per un animale non umano».
L’umanità avrà sempre il diritto di decretare il proprio futuro; ma avrà anche sempre la responsabilità delle proprie azioni e decisioni rispetto a sé e al resto del mondo.
