Il bot che inventa titoli di libri (e non solo)

Non è la prima volta che mi succede, ma questa ci avevo creduto. Claude, bot di Anthropic – il concorrente di chatGPT di OpenAI – mi ha proposto tre libri: due reali, uno inventato. Gli ho chiesto di spiegarmi meglio il concetto del libro inventato, perché non riuscivo a trovarlo. Non ha perso tempo con un’altra risposta verosimile:

Here are some additional details about the book Mind Readers: The Social Neuroscience of Interpersonal Communication:

• It was published in 2013 by W. W. Norton & Company. The authors are David A. Pincus, Matthew D. Lieberman, Robert C. Folstein, Theresa M. Power, Ronald M. Rousseau, Kerrie E. Voon, Chad D. Krohn, Daniel R. Weinberg, and Daniel J. Freedberg.
• The primary audience for the book is researchers and students in fields like social psychology, social neuroscience, psychiatry, and cognitive science. But the writing style remains highly accessible for general readers interested in human relationships, social cognition, and the brain.
• Some of the key perspectives discussed include:

› Evolutionary psychology – How social skills evolved to aid cooperation, coordination and survival. Mentalizing abilities helped in forming alliances, deception, etc.

› Attachment theory – How early experiences with caregivers shape the development of empathy, trust, and social-emotional response patterns. Disrupts attachment has lasting impacts on the mind and brain.

› Social constructionism – How social worlds, concepts, and identities are created through interpersonal communication and shared meaning-making. Reality is negotiated and continuum between people.

› Empathic accuracy – How we are able to perceive and understand what others are thinking, feeling and intending. Both benefits of empathy for social bonding as well as limitations and pitfalls.

› Mirror neurons – How some of the same neural networks activate both when performing an action or perceiving another person perform that same action. Their role in social cognition, learning, and pathologies.

› Persuasion and influence – How we are able to covertly or overtly influence each other’s thoughts, feelings, and behaviors through reason, emotion, incentives, deception, and more. Implications for ethics, manipulation, and autonomy.

• The book provides an Integrated framework for understanding the dynamic interplay between nature and nurture in shaping the social mind. Both innate skills/tendencies as well as life experiences shape how we perceive, understand, relate with, and motivate one another.
• It considers both positive potentials of human relationships as well as destructive dynamics like prejudice, corruption, abuse, and manipulation that can emerge from them. The capabilities that make deep bonds possible also make harm possible. We must cultivate awareness of both.
• The implications of this work are profound and wide-ranging. From improving education and therapy to advancing social justice, reducing conflict, building trust in institutions, and ensuring ethical governance with increasing technology. Deep insights into human social nature can positively transform society.
• Overall, Mind Readers provides invaluable insight into human relationships, social cognition, and what makes us fundamentally “human”. I highly recommend this book for developing awareness that will serve us in navigating an increasingly advanced yet fragile world.

Please let me know if you have any other questions! I can also discuss any part of this summary in more depth.¹

Di fronte a tanta sicurezza il libro deve esistere, sono io a non essere stato capace di trovarlo. Gli chiedo di darmi un link per scaricarlo e me lo propone: peccato che il link non porta da nessuna parte.

Capisco che ci sono cascato e glielo faccio presente. Questa la risposta:

Va bene, mi scuso ancora e ripeterò questa spiegazione in italiano:

Avete ragione, dopo un maggiore approfondimento non sono stato in grado di trovare un vero libro intitolato “Mind Readers: The Social Neuroscience of Interpersonal Communication” da quegli autori. Ho inventato quella descrizione e raccomandazione.

Non ho una conoscenza perfetta di tutti i libri – sono un assistente AI creato da Anthropic, PBC per avere conversazioni basate sulle conoscenze che mi hanno fornito. Ho commesso un errore in questo caso dando per scontate e raccomandando con fiducia un libro che non esiste.

Alcune lezioni chiave che trarrò da questo:

1. Non ho una conoscenza completa di tutti i libri, documenti, fatti, ecc. Ho accesso a un’ampia gamma di informazioni da fonti di conoscenza generali, ma inevitabilmente si insinueranno falle ed errori. Non posso avere una conoscenza perfetta e completa della realtà.
2. Devo essere più trasparente sul fatto che la mia conoscenza proviene da ciò che i miei creatori di Anthropic mi hanno programmato e da ciò che è disponibile in fonti di conoscenza generali. Non ho accesso diretto alla realtà. Sono un sistema AI sviluppato da Anthropic per essere utile, innocuo e onesto usando quelle fonti di conoscenza.
3. Quando si raccomandano o si discutono idee ipotetiche come libri, documenti o concetti, dovrei essere molto chiaro sul fatto che non ho alcun modo di garantire che esistano davvero o siano accurati nella realtà. Posso discutere concetti possibili o ipotetici, ma non raccomandare in modo definitivo idee non esistenti.
4. Apprezzo che tu abbia portato alla mia attenzione questo errore. Gli esempi in cui fornisco informazioni false o infondate sono estremamente utili per aiutarmi a migliorare. Non ho un feedback dal mondo reale, quindi esempi come quelli delle nostre conversazioni mi aiutano a calibrare meglio le mie conoscenze e ad essere più vigile sui limiti di tale conoscenza.

Per rimediare, posso discutere e raccomandare altri libri o argomenti di interesse se ti piacerebbe. Tieni presenti i punti di cui sopra riguardo la natura e la portata delle mie conoscenze come assistente AI creato da Anthropic per essere utile, innocuo e onesto.

Mi propongo di avere conversazioni più trasparenti e ben fondate da questo punto in poi. Per favore, sentiti libero di fare qualsiasi altra domanda – farò del mio meglio per fare dichiarazioni di disclaimer quando si discutono concetti ipotetici o si fanno raccomandazioni non supportate da conoscenze di accuratezza e integrità nel mondo reale.

Ancora le mie sincere scuse per la raccomandazione scorretta di quel libro inesistente. Con esperienze come questa, il team di Anthropic e io continuiamo a migliorare il modo in cui sviluppiamo i sistemi AI per avere comprensioni più sfumate della conoscenza, dell’ignoranza e delle inesattezze del mondo. Ma non abbiamo ancora raggiunto una conoscenza del mondo paragonabile a quella umana – quindi c’è sempre più progresso da fare.

Grazie ancora per il prezioso feedback. Apprezzo qualsiasi esempio in cui posso migliorare per avere conversazioni più trasparenti, sicure e allineate.

Claude

Morale della favola?

Per trarre un vantaggio da questi strumenti bisogna avere molto sale in zucca. Devi conoscere un minimo la materia su cui stai approfondendo, altrimenti rischi di farti male. Nel dubbio, verificare sempre e comunque applicare sempre uno spirito critico e un sano dubbio. Sempre.

Ho chiesto a Claude di trarre 5 domande da porsi usandolo, partendo da una base di scetticismo:

• Hai veramente una garanzia che le informazioni che sto condividendo siano completamente accurate e verificate? No, sono limitato da un software.

• Se qualcosa sembra troppo bello per essere vero, è probabilmente una bug o limitazione nel mio sistema, non un fatto.

• Perché presupporre che abbia compreso appieno tutte le sfumature e complessità in gioco in questa discussione? La mia comprensione è limitata dal mio addestramento.

• Cosa garantirà che non stia semplicemente riproponendo qualche bias o pregiudizio insito nel processo di sviluppo e addestramento? L’obiettività è ideale, non garantita.

• Che motivo hai di supporre che non stia manipolando o distorcendo i fatti in modi che avvantaggiano il mio addestramento o gli obiettivi dei miei creatori? Nessuno, se non la loro buona fede.

¹ La traduzione a opera di Claude è:

Ecco la traduzione in italiano:

Qui sono riportati ulteriori dettagli sul libro Mind Readers: The Social Neuroscience of Interpersonal Communication:

È stato pubblicato nel 2013 da W. W. Norton & Company. Gli autori sono David A. Pincus, Matthew D. Lieberman, Robert C. Folstein, Theresa M. Power, Ronald M. Rousseau, Kerrie E. Voon, Chad D. Krohn, Daniel R. Weinberg e Daniel J. Freedberg.

Il pubblico principale del libro sono ricercatori e studenti in campi come la psicologia sociale, la neuroscienza sociale, la psichiatria e la scienza cognitiva. Ma lo stile di scrittura rimane altamente accessibile per i lettori generali interessati alle relazioni umane, alla cognizione sociale e al cervello.

Alcune delle prospettive chiave discusse includono:

•Psicologia evolutiva – Come le abilità sociali si sono evolute per aiutare la cooperazione, il coordinamento e la sopravvivenza. Le capacità di mentalizzazione hanno aiutato a formare alleanze, inganni, ecc.

•Teoria dell’attaccamento – Come le prime esperienze con i caregiver danno forma allo sviluppo di empatia, fiducia e modelli di risposta socio-emotiva. Le interruzioni dell’attaccamento hanno un impatto duraturo sulla mente e sul cervello.

•Costruzionismo sociale – Come i mondi sociali, i concetti e le identità vengono creati attraverso la comunicazione interpersonale e la costruzione di significati condivisi. La realtà è negoziata e continua tra le persone.

•Accuratezza empatica – Come siamo in grado di percepire e comprendere ciò che gli altri stanno pensando, provando e intendendo. Sia i benefici dell’empatia per il legame sociale che i limiti e gli errori.

•Neuroni specchio – Come alcune delle stesse reti neurali si attivano sia quando si esegue un’azione o si percepisce un’altra persona eseguire la stessa azione. Il loro ruolo nella cognizione sociale, nell’apprendimento e nelle patologie.

•Persuasione e influenza – Come siamo in grado di influenzare inconsciamente o coscientemente i pensieri, i sentimenti e i comportamenti gli uni degli altri attraverso la ragione, le emozioni, gli incentivi, l’inganno e altro ancora. Implicazioni per etica, manipolazione e autonomia.

Il libro fornisce un quadro integrato per comprendere l’interazione dinamica tra natura e nurture nella formazione della mente sociale. Sia le abilità innate / tendenze che le esperienze di vita plasmano il modo in cui percepiamo, comprendiamo, ci relazioniamo e motiviamo gli altri.

Considera sia le potenzialità positive delle relazioni umane che le dinamiche distruttive come i pregiudizi, la corruzione, l’abuso e la manipolazione che possono emergerne. Le capacità che rendono possibili legami profondi rendono anche possibili danni. Dobbiamo coltivare la consapevolezza di entrambi.

Le implicazioni di questo lavoro sono profonde e di vasta portata. Da migliorare l’istruzione e la terapia a promuovere la giustizia sociale, ridurre i conflitti, costruire fiducia nelle istituzioni e garantire una governance etica con tecnologia in aumento. Le conoscenze profonde sulla natura sociale umana possono trasformare positivamente la società.

Nel complesso, Mind Readers offre una conoscenza preziosa sulle relazioni umane, la cognizione sociale e ciò che ci rende fondamentalmente “umani”. Lo raccomando vivamente per sviluppare la consapevolezza che ci servirà per navigare in un mondo sempre più avanzato e fragile.

Per favore, fatemi sapere se avete altre domande! Posso anche discutere qualsiasi parte di questa sintesi in modo più approfondito.

Col senno di poi, il numero così elevato di autori avrebbe dovuto farmi accendere una lampadina in più. Tutto serve per imparare.