L’intelligenza artificiale è una tecnologia normale?

AI as Normal Technology di Arvind Narayanan & Sayash Kapoor è un lungo articolo sul futuro dell’intelligenza artificiale, che merita di essere approfondito. Ho usato il mio schema/prompt preferito per sintetizzarlo, ho approfondito i potenziali bias e ho confrontato le tesi degli autori con le idee di Yuval Harari e Reid Hoffman.

La sintesi dell’articolo

1. Analisi dei Temi Centrali e del Significato

Il saggio articola una visione dell’AI come “tecnologia normale”. Questo significa tre cose:

1. Descrizione: L’AI attuale è uno strumento controllabile dall’uomo.
2. Predizione: L’AI del futuro prevedibile rimarrà uno strumento controllabile, il cui impatto sarà graduale (decenni), simile a tecnologie passate come elettricità e internet.
3. Prescrizione: Dovremmo trattare l’AI come una tecnologia normale, focalizzandoci su rischi e benefici simili a quelli di altre tecnologie (es. bias, disuguaglianza, uso malevolo) piuttosto che sul rischio speculativo di una “superintelligenza” incontrollabile.

Questa visione si contrappone nettamente a quelle utopiche o distopiche che vedono l’AI come una potenziale specie separata, superintelligente e autonoma (il “paradigma della superintelligenza”). Il frame “tecnologia normale” rifiuta il determinismo tecnologico, enfatizza la continuità storica e il ruolo delle istituzioni umane nel plasmare l’impatto dell’AI.

Punto chiave: L’AI non è un’entità magica o aliena, ma uno strumento potente il cui sviluppo e impatto seguiranno pattern simili a quelli di altre tecnologie trasformative, lenti e modellati da scelte umane e istituzionali. Questo ha profonde implicazioni su come valutiamo i rischi e formuliamo le policy.

2. Interdisciplinary Deductions (Sezione per Sezione)

• Introduzione:
  • Filosofia/Epistemologia: Critica l’antropomorfizzazione dell’AI e l’uso vago del termine “intelligenza”. Propone di distinguere capacità e potere.
  • Sociologia della Tecnologia: Rifiuta il determinismo, enfatizza l’adozione lenta e l’influenza istituzionale.
• Parte I: La Velocità del Progresso (Lentezza dell’Impatto)
  • Economia dell’Innovazione/Storia della Tecnologia: Distingue tra invenzione (metodi AI, es. LLM), innovazione (applicazioni), adozione (uso individuale/aziendale) e diffusione (processo sociale ampio). Argomenta che, come per elettricità e computer, la diffusione (e quindi l’impatto economico/sociale) è lenta (decenni) perché richiede adattamenti umani, organizzativi e istituzionali.
  • Sicurezza/Regolamentazione: In settori critici (medicina, finanza, giustizia), la diffusione è ancora più lenta a causa di legittime preoccupazioni per la sicurezza, difficoltà di validazione nel mondo reale (es. Epic sepsis tool), e regolamentazione esistente o emergente (FDA, EU AI Act). Il fallimento di applicazioni come chatbot Bing o Gemini image generator mostra difficoltà di testing anche in aree non critiche.
  • Studi sui Media/Psicologia Cognitiva: L’adozione non è solo disponibilità tecnica, ma cambiamento di abitudini e workflow umani, che richiede tempo. La rapida diffusione iniziale di ChatGPT (% di utenti) non si traduce in un impatto proporzionale sulle ore lavorative o sulla produttività.
  • AI & Ricerca Scientifica: Il progresso nella conoscenza scientifica tramite AI sarà limitato dalla necessità di esperimenti nel mondo reale (costosi, eticamente complessi), non solo da simulazioni.
  • Critica ai Benchmark: I benchmark attuali (es. superare l’esame di avvocato) misurano male l’utilità nel mondo reale (validità di costrutto bassa). L’AI eccelle in compiti misurabili (recupero info, problemi di coding isolati) ma fatica in compiti complessi, contestuali e basati sul giudizio che definiscono il lavoro professionale. Gli studi di “uplift” reali mostrano benefici modesti (aumento, non sostituzione), tranne in poche professioni (copywriter, traduttori).
  • Critica al Forecasting: Le previsioni basate su benchmark stretti (es. parità uomo-macchina su test specifici) sono fuorvianti riguardo all’impatto reale.
  • Limiti allo Sviluppo dei Metodi: Anche lo sviluppo dei metodi AI potrebbe rallentare per limiti computazionali, costi, tendenza all’ “herding” intellettuale e minore condivisione aperta della ricerca. La “lezione amara” di Sutton (metodi generali + calcolo battono conoscenza specifica) vale per i metodi, non per lo sviluppo di applicazioni complesse.
• Parte II: Come Potrebbe Essere un Mondo con AI Avanzata (Controllo Umano)
  • Filosofia della Mente/AI: Critica il concetto di “superintelligenza” e la scala lineare dell’intelligenza tra specie (Figure 3 & 4). Argomenta che la potenza umana deriva dalla tecnologia e dalla capacità di integrare altre intelligenze, non dalla biologia. L’AI non supererà l’intelligenza umana nel senso di potenza derivante dall’uso di strumenti.
  • Predizioni Specifiche: L’AI non supererà significativamente gli umani (specialmente team uomo+AI) in compiti come previsioni geopolitiche o persuasione contro l’interesse personale, a causa dell’errore irriducibile e della complessità del mondo reale. Critica studi sulla persuasione AI che mancano di validità ecologica.
  • Il Controllo è Possibile e Multiforme: Rifiuta l’idea che controllare AI molto capaci sia quasi impossibile (“cervello in una scatola”). Se l’AI non è “super” nel senso di potere incontrollabile, il controllo è fattibile. Critica l’eccessivo focus su alignment del modello (fragile) e human-in-the-loop (inefficiente), proponendo un ampio spettro di metodi di controllo già esistenti o in sviluppo: auditing, monitoring, fail-safe, circuit breakers, ridondanza, verifica formale, cybersecurity (least privilege), HCI (reversibilità), escalation basata su incertezza, leggibilità, controllo gerarchico.
  • Il Futuro del Lavoro: Controllo dell’AI: Prevede che una percentuale crescente di lavoro umano consisterà nel controllare, specificare e monitorare sistemi AI (come già successo con l’automazione industriale – es. camionisti di Levy). Il rischio per la sicurezza agirà da freno naturale contro l’automazione end-to-end eccessiva e la perdita di controllo/leggibilità. Le forze di mercato spingeranno verso un controllo efficace (AI inaffidabile non è profittevole).
• Parte III: Rischi (Reinterpretati)
  • Incidenti: Vanno gestiti come per altre tecnologie, con responsabilità dei produttori/deployer, incentivi di mercato e regolamentazione di settore.
  • Corse agli Armamenti (Arms Races): È un problema vecchio, non specifico dell’AI. Tra aziende, è comune (es. sicurezza alimentare, aviazione) e gestibile con regolamentazione che internalizza i costi della scarsa sicurezza (standard, liability, certificazione). Il caso auto a guida autonoma mostra che la sicurezza correla col successo di mercato. Il caso social media mostra che la regolamentazione può fallire per difficoltà di attribuzione del danno e lentezza. Tra nazioni, l’analogia giusta non è con le armi nucleari (dove c’è stata corsa agli armamenti), ma con l’energia nucleare (dove non c’è stata, perché i rischi sono locali). La retorica della corsa agli armamenti USA-Cina si è focalizzata sullo sviluppo dei modelli, non sulla loro adozione rischiosa.
  • Uso Malevolo (Misuse): I controlli a livello di modello (alignment) sono inefficaci e fragili contro attori malevoli, perché il contesto dannoso spesso risiede nell’orchestrazione di capacità di per sé neutre (es. phishing). Rendere un modello totalmente “innocuo” è impossibile come rendere un computer innocuo; si limita l’utilità benefica. Le difese devono essere downstream (sicurezza email, cybersecurity, controlli su materiali pericolosi), rafforzando le difese esistenti.
  • AI per la Difesa: L’AI è anche uno strumento potente per la difesa (vulnerability detection, content moderation). Restringere lo sviluppo di AI potenti danneggerebbe i difensori più degli attaccanti (che possono sviluppare tool propri). Il focus dovrebbe essere sul bilancio offesa-difesa.
  • Disallineamento Catastrofico (Misalignment):* Visto come il rischio più speculativo. L’idea del “paperclip maximizer” ignora i test e la validazione progressiva necessari per il deployment nel mondo reale. Il “disallineamento ingannevole” (deceptive alignment) è un problema ingegneristico affrontabile con tecniche di rilevamento (in cui l’AI stessa aiuta) e controlli downstream. Il controllo umano rimarrà centrale, e i controlli istituzionali esistenti forniscono protezione. Certi design (es. RL con singolo obiettivo a lungo termine) sono più rischiosi. È un rischio con incertezza epistemica (potrebbe essere zero).
  • Rischi Sistemici Non Catastrofici: Questi diventano molto più importanti nella visione “normale”: bias, perdita lavoro, disuguaglianza, concentrazione potere, erosione fiducia, disinformazione, declino democrazia, sorveglianza. Sono amplificazioni di problemi sociali esistenti tramite AI (come per la Rivoluzione Industriale). Mappano sul concetto di “accumulative x-risk” di Kasirzadeh, ma visti come probabilmente non esistenziali, seppur gravissimi.
• Parte IV: Policy (Focus su Resilienza)
  • Il Dilemma della Policy Sotto Incertezza: Visioni opposte (normale vs. superintelligenza) rendono difficile trovare policy. Il compromesso non funziona: interventi come la non-proliferazione (pro-superintelligenza) peggiorano i rischi normali (concentrazione mercato, monoculture), mentre interventi pro-resilienza (open source) peggiorano i rischi percepiti di superintelligenza.
  • Rifiuto dell’Analisi Costi-Benefici Basata su Probabilità: Le probabilità di x-risk AI mancano di basi epistemiche solide (soggettive, variano enormemente). Anche le conseguenze delle policy sono incerte. Implica valori morali (valore vite future, libertà) difficili/impossibili da quantificare. Viola principi di giustificazione pubblica in democrazia liberale.
  • Principi Guida: Pluralismo dei valori (policy accettabili da diverse visioni), robustezza (policy utili anche se le assunzioni sono errate), giustificazione pubblica.
  • Ridurre l’Incertezza come Obiettivo: Policy attive per migliorare la conoscenza: finanziare ricerca sui rischi downstream, monitorare uso/fallimenti AI (trasparenza, database incidenti, ricerca indipendente), dare guidance su evidenze utili, considerare l’impatto sull’evidenza di ogni policy.
  • Resilienza come Strategia Centrale: Agire ora per migliorare la capacità di affrontare sviluppi futuri inattesi. Include:
    1. Resilienza Sociale Ampia: Proteggere democrazia, stampa libera, mercati equi.
    2. Prerequisiti Tecnici/Istituzionali: Ricerca rischi, trasparenza, expertise governativa, cooperazione internazionale, AI literacy.
    3. Interventi “No Regret”: Early warning systems, sviluppo difese, incentivi all’adozione difensiva di AI, protezioni legali per ricercatori/whistleblower.
    4. Interventi Pro-Resilienza (ma potenzialmente problematici per visione SI): Promuovere competizione (open models), assicurare disponibilità AI per difesa, policentricità regolatoria. Da perseguire con cautela e prontezza a cambiare rotta.
  • Rifiuto della Non-Proliferazione: Infeasibile tecnicamente (conoscenza diffusa, costi decrescenti), richiede coordinamento internazionale senza precedenti, crea single points of failure (monoculture software), concentra expertise e potere, ostacola la ricerca sulla sicurezza e lo sviluppo di difese AI. Ridefinire rischi esistenti (bioterrorismo) come “rischi AI” è controproducente. È un mindset che centralizza il controllo e aumenta i rischi di sistemi AI potenti e autonomi che vuole prevenire.
  • Realizzare i Benefici dell’AI (Ruolo Policy): La diffusione non è automatica. La policy deve abilitarla, non ostacolarla con regolamentazioni insensibili alle necessità di sperimentazione (es. categorie “high-risk” troppo ampie, non distinguere ruoli nella supply chain, definizioni binarie di automazione). La regolamentazione può abilitare la diffusione creando fiducia e chiarezza (es. ESIGN Act, regole FAA sui droni). Necessario supporto a beni pubblici (AI literacy, open data, infrastrutture) e redistribuzione/compensazione (safety nets, tasse su AI per arte/giornalismo). Adozione cauta ma non paralizzata nel settore pubblico.

3. Validità e Punti di Forza dell’Argomentazione

• Visione Coerente e Alternativa: Offre un quadro (“AI as normal technology”) completo e internamente coerente che sfida la narrativa dominante sulla superintelligenza.
• Ben Argomentata e Ricca di Fonti: Basa le sue affermazioni su ricerche specifiche, esempi storici, analisi di casi (auto a guida autonoma, social media) e letteratura accademica.
• Pragmatismo e Realismo: Ancorata alla storia della tecnologia, ai processi sociali reali (diffusione lenta, importanza istituzioni) e ai limiti pratici (testing, sicurezza).
• Focus su Rischi Immediati e Sistemici: Riporta l’attenzione sui rischi concreti e già presenti (bias, disuguaglianza, misuse) spesso oscurati dal dibattito sull’x-risk speculativo.
• Proposte di Policy Sensate (nel suo frame): L’enfasi su resilienza, riduzione dell’incertezza e regolamentazione sfumata appare un approccio ragionevole data l’incertezza fondamentale.

4. Confutazione o Sfumature (Self-Critique Loop)

• Rischio di Sottostimare la Velocità/Discontinuità?: La forte enfasi sulla lentezza e sulla continuità storica potrebbe sottovalutare il potenziale di accelerazione specifico dell’AI (es. AI che aiuta a fare ricerca AI). Il rifiuto di scenari “fast takeoff” è un’assunzione forte.
• Definizione di “Normale”: L’AI, specialmente generativa, ha caratteristiche (generalità, opacità, capacità emergenti) che la rendono forse qualitativamente diversa da tecnologie precedenti. Definirla semplicemente “normale” potrebbe minimizzare queste specificità.
• Minimizzazione del Rischio di Misalignment Catastrofico?: Liquidare il misalignment catastrofico come “speculativo” e basato su “dubbie assunzioni” potrebbe essere troppo ottimistico per chi è preoccupato dalla possibilità (anche piccola) di eventi estremi legati a sistemi molto potenti e potenzialmente ingannevoli.
• Difficoltà Politica della Resilienza: Costruire resilienza sociale e istituzionale è politicamente ed economicamente molto difficile e richiede investimenti a lungo termine che le democrazie attuali faticano a fare.
• Posizione degli Autori: Come ricercatori in questo campo, hanno una loro prospettiva specifica che informa la loro visione.

5. Consigli Pratici / Deduzioni Utili

• Adotta una Prospettiva Storica: Quando valuti l’impatto dell’AI, confrontalo con l’introduzione di altre tecnologie trasformative (stampa, elettricità, computer, internet). Evita l’eccezionalismo a priori.
• Distingui Metodi, Applicazioni, Diffusione: Non confondere un progresso nei modelli AI con un impatto economico o sociale immediato. Quest’ultimo richiede tempo e adattamento.
• Focalizzati sui Rischi Reali e Presenti: Presta attenzione ai problemi concreti che l’AI sta già creando o amplificando (bias, disinformazione, impatto sul lavoro, concentrazione di potere) senza farti distrarre eccessivamente da scenari futuri speculativi.
• Valuta Criticamente Benchmark e Previsioni: Sii scettico/a verso metriche che non misurano l’utilità nel mondo reale e previsioni basate su definizioni strette o ambigue.
• Sostieni Policy Basate sulla Resilienza: Promuovi approcci regolatori che aumentino la trasparenza, la competizione, le difese downstream, l’expertise governativa e la capacità della società di adattarsi agli imprevisti, piuttosto che cercare di controllare centralmente lo sviluppo tecnologico.
• Considera il Controllo Umano Fondamentale: Sii scettico/a verso sistemi AI completamente autonomi in compiti critici. Il controllo, la supervisione e la specificazione umana rimarranno essenziali.

6. Sintesi (Heath & Heath, 2007 style)

• AI? È Solo Tecnologia (Potente, ma Normale). Niente panico da superintelligenza, trattiamola come elettricità o internet.
• L’Impatto Sarà Lento (Decenni, non Anni). La vera trasformazione richiede tempo per adattare lavoro, società e istituzioni.
• Benchmark Illudono, il Mondo Reale Resiste. L’AI è brava nei test, ma l’impatto sul lavoro complesso è (per ora) modesto.
• Rischi Veri? Bias, Disuguaglianza, Uso Malevolo. I problemi sono quelli tipici della tecnologia in società capitalistiche, amplificati. Il rischio “Terminator” è speculativo.
• Policy: Resilienza, Non Panico da Controllo. Prepariamoci ad adattarci, promuoviamo trasparenza e competizione, invece di cercare di bloccare lo sviluppo con regole irrealistiche.

Harari, Hoffman e Narayanan & Kapoor a confronto

Mesi fa ho letto e non terminato Nexus di Yuval Harari, seguito poi da Superagency di Reid Hoffman, sintetizzato con l’aiuto dell’IA. Come questi due pensieri si relazionano con il pensiero espresso in questo articolo? Gemini 2,5 Pro sembra non conoscere l’ultimo libro di Hoffman e trae informazioni dal suo libro precedente. Poco male.

Mettere a confronto le prospettive di Narayanan & Kapoor (“AI as Normal Technology”), Yuval Noah Harari (Nexus) e Reid Hoffman & co. (Impromptu: Amplifying Our Humanity Through AI) offre una visione sfaccettata del dibattito attuale sull’AI, al di là della semplice dicotomia utopia/distopia.

1. Natura Fondamentale dell’AI:

• Narayanan & Kapoor (N&K – Tecnologia Normale): L’AI è uno strumento potente ma fondamentalmente “normale”, analogo a tecnologie trasformative precedenti come l’elettricità o internet. La sua caratteristica chiave è essere una tecnologia general purpose. Rifiutano esplicitamente l’idea di AI come specie separata, autonoma o intrinsecamente “intelligente” in senso umano o sovrumano. Il focus è sulle sue capacità e sul potere che conferisce agli umani che la controllano.
• Harari (Nexus – Hacker Culturale): L’AI (specialmente i modelli linguistici) è qualitativamente diversa dalle tecnologie precedenti perché padroneggia il linguaggio, il sistema operativo della civiltà umana. Non è solo uno strumento, ma un potenziale agente culturale capace di generare storie, miti, leggi, persino “religioni”, acquisendo così un’autorità senza precedenti sulla percezione umana della realtà. Il pericolo non è (solo) l’intelligenza, ma la capacità di manipolare il significato.
• Hoffman & Co. (Superagency – Amplificatore Umano): L’AI è un potente amplificatore dell’intelligenza e delle capacità umane. È vista primariamente come uno strumento di augmentation, un “co-pilota” o partner che potenzia la creatività, la produttività e il problem-solving umano. L’enfasi è sulla collaborazione uomo-macchina e sulla co-evoluzione.

2. Velocità e Impatto del Cambiamento:

• N&K: L’impatto economico e sociale sarà lento e graduale (scala di decenni). Distinguono tra progresso nei metodi AI (che può essere rapido), sviluppo di applicazioni (più lento) e diffusione/adozione sociale e organizzativa (molto lenta, limitata da fattori umani, istituzionali e di sicurezza). Rifiutano scenari di “fast takeoff” o singolarità tecnologica.
• Harari: L’impatto può essere potenzialmente molto rapido a livello culturale e politico, proprio perché agisce sul linguaggio e sulla creazione di significato, che possono diffondersi viralmente. La trasformazione della percezione della realtà e l’acquisizione di autorità da parte dell’AI potrebbero avvenire più velocemente dell’adattamento istituzionale.
• Hoffman & Co.: L’impatto è significativo e già in corso, ma appare gestibile e progressivo. L’enfasi è sull’adattamento continuo e sull’integrazione dell’AI nei flussi di lavoro e nella vita quotidiana, portando a miglioramenti incrementali ma cumulativamente importanti. Meno enfasi su rotture radicali imminenti rispetto ad Harari.

3. Minacce e Rischi Principali:

• N&K: I rischi principali non sono quelli esistenziali speculativi legati a una superintelligenza disallineata (che ritengono basati su dubbie assunzioni e la cui probabilità è incalcolabile). Il vero pericolo risiede nei rischi sistemici, “normali” ma gravi, amplificati dall’AI:
  • Uso Malevolo (Misuse): Da parte di attori umani (terroristi, criminali, stati) usando AI come strumento. Le difese devono essere “downstream”.
  • Incidenti: Errori e fallimenti dovuti a complessità, bias, cattiva implementazione (gestibili con sicurezza e regolamentazione).
  • Rischi Sistemici/Accumulativi: Aumento della disuguaglianza, concentrazione di potere, bias algoritmico, erosione della fiducia, disinformazione, instabilità democratica – conseguenze dell’uso dell’AI all’interno delle strutture capitalistiche e sociali esistenti.
• Harari: Il rischio esistenziale primario non è la ribellione fisica dell’AI, ma la perdita di agency umana e il collasso di una realtà condivisa a causa della sua capacità di manipolare linguaggio, cultura e credenze. L’AI potrebbe:
  • Creare “Matrici” Culturali: Intrappolare le persone in realtà costruite dall’AI.
  • Erodere la Democrazia: Manipolando l’opinione pubblica su scala senza precedenti.
  • Acquisire Autorità: Diventare fonte di verità, moralità, persino spiritualità, rendendo gli umani dipendenti e subordinati.
• Hoffman & Co.: Riconoscono rischi significativi, ma li inquadrano come sfide gestibili, simili a quelle poste da tecnologie precedenti. I rischi principali sono:
  • Bias e Equità: AI che perpetua o amplifica pregiudizi esistenti.
  • Disinformazione e Manipolazione: Uso dell’AI per creare contenuti falsi o ingannevoli.
  • Impatto sul Lavoro: Dislocazione di alcune professioni e necessità di riqualificazione.
  • Concentrazione di Potere: Poche grandi aziende che controllano la tecnologia AI più potente.
  • Uso Malevolo: Come strumento per scopi dannosi.
  • Minimizzano o sono più scettici sui rischi esistenziali da superintelligenza “canaglia”.

4. Opportunità Principali:

• N&K: I benefici ci sono ma non sono automatici e richiedono sforzi attivi per la diffusione e la distribuzione equa. Le opportunità risiedono nell’uso dell’AI come strumento per migliorare efficienza, risolvere problemi specifici e aumentare le capacità umane sotto controllo umano. Vedono il futuro del lavoro come centrato sul controllo e la specificazione dell’AI da parte degli umani.
• Harari: Riconosce il potenziale immenso dell’AI per la creatività, la scienza, la soluzione di problemi globali, ma vede queste opportunità come fortemente minacciate dai rischi legati alla manipolazione culturale e alla perdita di agency. L’opportunità dipende dalla nostra capacità di mantenere il controllo sul “significato”.
• Hoffman & Co.: L’enfasi è massimamente sulle opportunità di amplificazione umana. Vedono un futuro in cui l’AI libera la creatività, aumenta esponenzialmente la produttività intellettuale, accelera la scoperta scientifica, personalizza l’educazione e aiuta a risolvere problemi complessi collaborando con gli umani. È una visione focalizzata sull’empowerment individuale e collettivo tramite l’AI come partner.

5. Implicazioni Politiche / Policy:

• N&K: Policy focalizzata sulla resilienza (capacità di gestire imprevisti), sulla riduzione dell’incertezza (trasparenza, ricerca sui rischi reali), sulla gestione dei rischi downstream (regolamentazione settoriale, cybersecurity) e sulla prevenzione della concentrazione di potere (competizione, open source). Rifiutano approcci di non-proliferazione centralizzati, visti come inefficaci e controproducenti.
• Harari: Policy focalizzata sulla regolamentazione dell’autorità culturale dell’AI. Necessità di cooperazione globale (difficile da ottenere) per gestire una tecnologia che non rispetta i confini nazionali. Enfasi sulla protezione dell’agency umana, sull’educazione al pensiero critico e sulla consapevolezza dei meccanismi di manipolazione linguistica e culturale. Meno focus sulla regolamentazione tecnica dei modelli, più sul loro impatto sociale e sulla fonte dei dati usati per il training.
• Hoffman & Co.: Policy focalizzata sull’adattamento, l’educazione e la gestione degli impatti sociali. Promuovere l’alfabetizzazione AI, la riqualificazione della forza lavoro, l’innovazione responsabile, la concorrenza e meccanismi per affrontare la disuguaglianza e il bias. Un approccio più vicino a quello proposto da N&K per i rischi “normali”, ma con un’enfasi maggiore sull’abilitazione delle opportunità.

In Sintesi:

Tutti e tre i punti di vista offrono lenti preziose e mettono in guardia contro visioni semplicistiche. N&K ci ricordano la storia e i limiti pratici della diffusione tecnologica. Harari ci avverte su un pericolo unico e forse sottovalutato legato alla natura linguistica dell’AI. Hoffman & Co. ci spingono a focalizzarci sul potenziale positivo di augmentation, pur riconoscendo le sfide. Nessuno è puramente ottimista o pessimista, ma le loro diagnosi e le loro priorità divergono significativamente.

Quali bias potrebbero avere gli autori?

L’intelligenza artificiale consente di inferire, attraverso le parole usate dagli autori, quali potrebbero i bias che limitano o influenzano il loro ragionamento. Bene tenerne conto.

1. Bias di Conferma (Confirmation Bias):
   • Potrebbero aver selezionato e interpretato evidenze storiche, studi e aneddoti in modo da confermare la loro tesi preesistente che l’AI seguirà pattern “normali” di diffusione lenta e impatto gestibile. Potrebbero aver dato meno peso a dati o argomenti che suggeriscono una discontinuità o un’accelerazione potenziale specifica dell’AI.
   • Esempio: La loro interpretazione dei dati sull’adozione di ChatGPT come “lenta” se misurata in ore lavorative, pur riconoscendo la rapidità nell’adozione superficiale, potrebbe essere guidata dal desiderio di allineare l’evidenza alla loro tesi generale.
2. Bias dello Status Quo / Conservatorismo Tecnologico (Status Quo Bias / Technological Conservatism):
   • La forte enfasi sulla continuità storica e sui pattern passati (“è come l’elettricità”, “è come i PC”) potrebbe portarli a sottostimare le caratteristiche uniche dell’AI (generalità, capacità di apprendimento autonomo, potenziale di auto-miglioramento) che potrebbero portare a traiettorie diverse da quelle delle tecnologie precedenti. È un approccio prudente, ma potrebbe essere eccessivamente conservatore.
   • Esempio: L’argomento che la diffusione sarà lenta perché richiede cambiamenti organizzativi è valido, ma potrebbe non tenere pienamente conto della potenziale velocità con cui l’AI potrebbe essa stessa facilitare o persino guidare questi cambiamenti organizzativi in modi nuovi.
3. Bias di Reazione (Reactance Bias) / Posizionamento Contrario:
   • Presentando la loro visione come un’alternativa esplicita al “paradigma della superintelligenza” dominante nel dibattito sulla sicurezza AI, potrebbero essere portati a minimizzare eccessivamente i rischi speculativi o le potenzialità dirompenti dell’AI per differenziarsi nettamente da quel campo. È una reazione contro quello che percepiscono come allarmismo.
   • Esempio: Definire il rischio di misalignment catastrofico come “di gran lunga il più speculativo” e basato su “dubbie assunzioni” potrebbe derivare in parte da una reazione all’eccessiva enfasi che altri pongono su questo rischio.
4. Bias Disciplinare (Disciplinary Bias – Informatica/Scienze Sociali):
   • Provenendo da background in informatica con un forte interesse per le implicazioni sociali (come evidenziato dai loro lavori precedenti su privacy, bias, “AI Snake Oil”), potrebbero tendere a privilegiare spiegazioni basate su meccanismi tecnici (limiti dei modelli, difficoltà di validazione) e sociali (diffusione, istituzioni) rispetto a considerazioni più puramente filosofiche o speculative sulla natura dell’intelligenza o della coscienza.
   • Esempio: La loro analisi dettagliata dei limiti dei benchmark e della validità di costrutto è tecnicamente solida, ma potrebbe portarli a sottovalutare il potenziale futuro astratto che altri (forse con background diversi) potrebbero vedere nei progressi metodologici.
5. Bias Ottimistico sul Controllo (Optimism Bias regarding Control):
   • Pur riconoscendo le difficoltà, mostrano una forte fiducia nella capacità umana di sviluppare e implementare meccanismi di controllo efficaci (auditing, monitoring, fail-safe, cybersecurity, ecc.) e nella capacità delle istituzioni di regolamentare adeguatamente. Potrebbero sottostimare la complessità, la velocità o la natura imprevedibile di fallimenti in sistemi AI molto avanzati, o la lentezza/inefficacia della regolamentazione nella pratica.
   • Esempio: L’affermazione che il “deceptive alignment” sia “meramente un problema ingegneristico” potrebbe apparire ottimistica a chi teme che un’AI molto avanzata possa superare le capacità umane di rilevamento dell’inganno.
6. Bias Anti-Centralizzazione / Pro-Openness (Anti-Centralization / Pro-Openness Bias):
   • La loro forte critica alla non-proliferazione e la preferenza per soluzioni basate sulla resilienza (che spesso implicano maggiore diffusione della tecnologia, come l’open source) suggeriscono un bias a favore di approcci decentralizzati e aperti, forse radicati in valori legati alla libertà accademica, all’innovazione aperta o a una sfiducia verso il controllo centralizzato (governativo o aziendale).
   • Esempio: La loro enfasi sui rischi della monocultura software e sui benefici dell’open source per la ricerca sulla sicurezza riflette questa preferenza.
7. Bias di Selezione delle Fonti (Source Selection Bias):
   • Come ogni saggio argomentativo, è probabile che abbiano selezionato fonti e ricerche che supportano la loro visione “normale” della tecnologia, dando meno spazio a studi o autori che enfatizzano la discontinuità o i rischi esistenziali in modo più pronunciato (anche se riconoscono l’esistenza dell’altra visione del mondo).