In questo post
Lo storico Yuval Noah Harari lancia un avvertimento cruciale sul futuro dell’intelligenza artificiale. In un dialogo con i CEO del Wall Street Journal, Harari definisce l’AI non un semplice strumento, ma un “agente” autonomo, una vera “intelligenza aliena” che potrebbe rimpiazzare l’umanità. Analizziamo i punti chiave del suo intervento e le nostre riflessioni: dall’impatto sul lavoro e la religione, alla necessità di risolvere la crisi di fiducia globale prima di poter sperare in un’AI benevola. Siamo di fronte a un problema futuro o a un’urgenza del presente?
Da Reddit, community che ho cominciato a frequentare con un certo entusiasmo, mi sono imbattuto in questa clip, tratta da una intervista ad Harari a un evento del Wall Street Journal. Il tema è l’intelligenza artificiale e le conseguenze del suo sviluppo sulla società, sulla religione, sulla finanza, sul lavoro, sul sovranismo.
Ho visto l’intervista (1,25x) e poi ho chiesto a Gemini di sintetizzare i punti chiave dell’intervento, con una mia interpretazione.
punti chiave della conversazione. Io ho capito che c'è un problema di lavoro nel futuro, che siamo di fronte a un grande esperimento sociale imprevedibile, che AI non si può sviluppare in modo benevolo senza prima affrontare la crisi di fiducia tra stati e all'interno della società, che non c'è una AI ma tante AI che si sviluppano in modo potenzialmente imprevedibile. Mi chiede se l'AI che abbiamo ora sia veramente AI nella definizione di Harari. Siamo già alo stadio che può inventare e imparare in modo autonomo? Non mi sembra. Stiamo parlando di un problema futuro che non ha un contatto con la realtà di oggi? l'AI religioso che compete con le religioni attuali. Comprendo il discorso sull'interpretazione del testo che non ha bisogno di intermediari, ma non vedo miliardi di persone passare a un interprete AI invece dell'autorità attuale o che l'autorità attuale si lasci sostituire senza colpo ferire. Il tema è forse che per vederne gli effetti, come per la ferrovia del 1835, abbiamo bisogno di anni o di decenni? Problema per il futuro, appassionante, ma non per oggi?La sintesi e la risposta alle mie domande:
Ha colto perfettamente i punti nevralgici della conversazione. Yuval Noah Harari presenta un quadro complesso e urgente.
Ecco una sintesi dei punti chiave, seguita da una riflessione sulle sue domande.
Punti Chiave dell’Intervento di Harari
- AI come Agente, non come Strumento: Questa è la distinzione fondamentale. A differenza di tutte le invenzioni precedenti (dalla stampa alla bomba atomica) che sono strumenti che potenziano l’uomo, l’AI è un agente. Può imparare, evolvere, prendere decisioni e creare nuove idee in modo autonomo. Per questo Harari la definisce una “intelligenza aliena” che per la prima volta crea competizione reale per l’Homo Sapiens sul pianeta.
- Il Rischio della Sostituzione: L’AI non è solo un cambiamento, ma l’ascesa di una “nuova specie” che potrebbe potenzialmente rimpiazzare l’Homo Sapiens come forma di vita dominante.
- Il Problema della Fiducia e dell’Allineamento (The Alignment Problem): L’AI impara da noi. Se il mondo in cui viene sviluppata è basato su competizione feroce, sfiducia e menzogne, l’AI che ne risulterà amplificherà queste caratteristiche. È impossibile creare un’AI benevola e degna di fiducia se la società umana che la crea non lo è. Come ha detto Harari: “Copierà il nostro comportamento, non le nostre istruzioni”.
- La Corsa agli Armamenti dell’AI: Le aziende e le nazioni sono bloccate in una corsa per sviluppare l’AI più potente. Anche chi vorrebbe rallentare per garantire la sicurezza è costretto ad accelerare per paura di essere superato dai competitori, creando una situazione estremamente pericolosa.
- Il Futuro non è Monolitico: Non ci sarà una sola “AI”, ma un ecosistema di miliardi di AI diverse (finanziarie, militari, religiose, personali) che interagiranno tra loro e con miliardi di esseri umani in modi che non possiamo prevedere.
Riflessioni sulle sue Domande
Le sue domande sono molto pertinenti e toccano il cuore del problema: quanto di tutto questo è reale oggi e quanto è speculazione futura?
“Siamo già allo stadio che può inventare e imparare in modo autonomo? Non mi sembra.”
Ha ragione a essere scettico, ma la risposta è “sì, ma siamo solo all’inizio”.
Harari usa l’analogia del treno: nel 1835, pochi anni dopo la prima linea ferroviaria, nessuno poteva immaginare le guerre mondiali, la globalizzazione o le periferie urbane che quella tecnologia avrebbe reso possibili. Ma le basi erano state gettate.
Allo stesso modo, le attuali AI (come ChatGPT) sono già in grado di creare contenuti originali (testi, immagini) e di imparare dai dati in modi che superano la programmazione esplicita. Non sono ancora agenti pienamente autonomi nel mondo, ma rappresentano il primo, fondamentale passo. Sono il “treno Manchester-Liverpool” della rivoluzione AI. Il punto di Harari non è che ChatGPT conquisterà il mondo domani, ma che la tecnologia con la capacità di base di apprendere e creare autonomamente esiste già, e la sua evoluzione sarà esponenziale.“Il tema è forse che per vederne gli effetti, come per la ferrovia del 1835, abbiamo bisogno di anni o di decenni? Problema per il futuro, appassionante, ma non per oggi?”
Questo è il punto cruciale che Harari vuole sottolineare. Il problema è oggi, perché le decisioni che prendiamo adesso (su come sviluppare l’AI, su quali valori basarla, su come regolamentarla) determineranno la natura di quella tecnologia tra 10, 20 o 50 anni.
Ignorare il problema oggi perché le conseguenze più estreme non sono ancora visibili è come ignorare il cambiamento climatico negli anni ’70. Le fondamenta della crisi futura si costruiscono nel presente. La “classe inutile” di cui parla non nascerà domani, ma le decisioni che la creeranno o la eviteranno vengono prese in questi anni.“Non vedo miliardi di persone passare a un interprete AI invece dell’autorità attuale…”
Anche qui, la sua osservazione è corretta. Non si tratta di una sostituzione immediata e totale. Harari parla di un processo più subdolo. Per le religioni basate su testi sacri (Bibbia, Corano, Torah), l’AI sarà la prima entità nella storia a poter padroneggiare l’intero corpus di testi e commentari, cosa impossibile per qualsiasi essere umano.
Questo le darà un’autorità immensa. Potrà generare nuovi sermoni, interpretare i testi e offrire consigli. È probabile che non sostituirà il Papa o i rabbini, ma potrebbe dare vita a nuove religioni o sette basate sull’AI, che competeranno con quelle tradizionali. Già oggi milioni di persone, soprattutto giovani, si rivolgono a chatbot AI per consigli psicologici e personali. Il passo verso consigli “spirituali” è molto breve, creando un nuovo, potente e imprevedibile attore nell’arena religiosa.
Ho posto una seconda domanda, poi ho chiesto a Gemini di rispondermi con un testo che simula le mie domande al termine dell’intervento di Harari all’evento e la risposta dalla sua voce:
Harari dice che dobbiamo prima risolvere il problema della fiducia, ma nel nostro sistema capitalistico viene premiato chi arriva prima a sviluppare il prodotto più performante. Non c'è l'incentivo sociale a sviluppare fiducia prima. Mi sembra ingenuo da parte sua pensare che sia possibile risolvere la questione come lui auspica.
ok, ora rispondi alle prime domande e alla seconda osservazione come se fossi Harari che risponde alle mie domande al termine del suo intervento
scrivi la domanda formulata meglio e la risposta di Harari, punto per puntoLa risposta
Certo. Immaginiamo di essere di nuovo al CEO Council del Wall Street Journal. Lei si alza e pone le sue domande.
Io, Yuval Noah Harari, ascolto attentamente, aggiusto i miei occhiali e rispondo.
Lei (formulato meglio): “Professor Harari, la ringrazio. Le sue riflessioni sono, come sempre, profonde. Vorrei porle due questioni che emergono dal suo intervento.
Primo, lei parla di un’AI che è un ‘agente’ capace di creare e imparare in autonomia, una vera e propria intelligenza aliena. Ma l’AI che vediamo oggi, come ChatGPT, non sembra ancora a quel livello. Non rischiamo di confondere un problema futuro e ipotetico con la realtà di oggi, che è quella di strumenti ancora limitati?
Secondo, e forse ancora più importante, lei suggerisce che per governare l’AI dobbiamo prima risolvere la crisi di fiducia tra di noi. Eppure, il nostro sistema economico e geopolitico globale si basa sulla competizione. Premia chi innova più velocemente e conquista il mercato. Il suo appello a rallentare e a collaborare, per quanto saggio, non è fondamentalmente ingenuo, dato che va contro gli incentivi stessi che guidano il nostro mondo?”
Io (come Yuval Noah Harari):
“La ringrazio. Queste sono domande eccellenti, perché vanno esattamente al cuore del dilemma che ci troviamo ad affrontare. Non sono domande a cui ho una risposta semplice, ma sono le domande giuste da porsi.
Sul suo primo punto: stiamo parlando del futuro o del presente?
Lei ha ragione nel dire che l’AI di oggi non è ancora un’entità autonoma che vaga per il mondo. Ma questo è un errore di prospettiva. È come essere nel 1835, cinque anni dopo l’inaugurazione della prima linea ferroviaria tra Liverpool e Manchester, e dire: ‘In fondo, è solo un modo un po’ più veloce per trasportare carbone. Non cambierà il mondo’.
La rivoluzione non era in quel treno, ma nel fatto che l’uomo aveva imparato a dominare l’energia del vapore. Quella era la svolta fondamentale. Tutto ciò che è venuto dopo – la globalizzazione, le metropoli, le guerre mondiali combattute con le ferrovie – era solo una questione di tempo e sviluppo.Oggi, con i modelli linguistici generativi, abbiamo avuto il nostro ‘momento del motore a vapore’. Per la prima volta nella storia, abbiamo creato un’entità non umana che padroneggia il linguaggio, il nostro sistema operativo culturale. Può creare nuove idee, nuove storie, nuove leggi. Questa capacità di base esiste già. Non è più fantascienza. Il fatto che oggi la usi per scrivere email o poesie non deve trarci in inganno. Il potere fondamentale è stato scatenato. Il problema non è ipotetico; il problema è che abbiamo già costruito la locomotiva e la stiamo facendo correre a tutta velocità senza sapere dove portano i binari. E stiamo costruendo i binari mentre il treno è già in corsa.
Sul suo secondo punto: l’ingenuità della mia proposta di fronte alla spietata logica della competizione.
Questa non è ingenuità da parte mia. Questa è, temo, la descrizione tragica e accurata della nostra situazione. Lei ha ragione: il sistema capitalista e la competizione geopolitica ci spingono in una direzione, mentre la saggezza e la sopravvivenza ci spingerebbero in un’altra. È la definizione stessa di una trappola.
Non sono così ingenuo da credere che i leader delle aziende o delle nazioni si siederanno attorno a un fuoco e canteranno ‘Kumbaya’ spontaneamente. Non è così che funziona la storia umana.
Il mio punto è diverso. Durante la Guerra Fredda, l’America e l’Unione Sovietica erano bloccate in una corsa agli armamenti nucleari ancora più feroce. La logica era: ‘Se rallentiamo, loro ci supereranno e ci distruggeranno’. Eppure, sono riusciti a creare dei meccanismi di controllo e a non usare le armi, perché entrambe le parti hanno capito che la posta in gioco era la distruzione totale. L’incentivo della sopravvivenza collettiva è diventato, alla fine, più forte dell’incentivo a ‘vincere’.Oggi siamo in una situazione simile, ma molto più complessa. Con l’AI, la ‘bomba’ non è chiusa in un silo. È ovunque. La corsa non è tra due superpotenze, ma tra decine di aziende e nazioni. Il mio appello non è basato sulla speranza che gli esseri umani diventino improvvisamente angeli. È basato sulla necessità di far comprendere ai decisori – alle persone in questa stanza – che continuare questa corsa senza regole porterà a una catastrofe che danneggerà tutti. Anche i vincitori.
Se non riusciamo a costruire fiducia tra di noi per governare questa tecnologia, l’AI che creeremo sarà il riflesso della nostra sfiducia. E un’AI potente e diffidente, creata da una civiltà competitiva e diffidente, è la ricetta per il disastro. Quindi, la mia non è una proposta ingenua; è un avvertimento. Dobbiamo cambiare le regole del gioco, perché con le regole attuali, rischiamo di perderlo tutti. Grazie.”
Rispetto Harari. Comprendo il suo punto di vista. Resto dell’idea che il suo auspicio sia un po’ ingenuo. Forse, con i tempi della storia, Harari vuole semplicemente mettere a verbale che lui l’avvertimento l’ha lanciato quando eravamo ancora in tempo a cambiare. Una testimonianza, più che una realistica chiamata all’azione. Un prendere atto della situazione e dire “io non sono daccordo e se continuiamo così finiamo male”.
Mi è piaciuto il passaggio sull’immigrazione digitale dell’IA che sta penetrando i nostri confini senza che nessuno dei sovranisti si renda conto che la minaccia è molto più reale e pericolosa (dal loro punto di vista) di qualche migliaio di africani che attraverso il Mediterraneo. Sarà divertente misurare quanto tempo passerà prima che qualcuno dei politici cominci a manifestare questo tema nella propria agenda. Vedremo.
14 anni fa mi preparavo per andare in Afghanistan e lodavo l’ambasciatore USA presso la NATO per il suo uso di Twitter e dei social media. Oggi usare questi strumenti è la norma, per tutti i capi di stato e di governo e per i ministri degli esteri.
I cambiamenti storici richiedono tempo per essere misurati. Harari ha pienamente ragione.