La Trappola
Sicuri, Fluidi e Sbagliati
Ogni giorno incontri fonti che sembrano completamente sicure di sé: un sito web curato, un video popolare, un amico che non fa mai riserve, un'app di shopping, uno strumento di supporto allo studio, un tracciante della salute. Forniscono risposte rapidamente, in frasi pulite, con zero dubbio visibile.
Ecco la verità scomoda su cui si fonda questa lezione: la sicurezza non è una prova. Una fonte può affermare qualcosa con totale certezza e tuttavia essere completamente sbagliata. La rifinitura di una risposta non ti dice nulla su se sia vera o meno.
Allora come si sa davvero qualcosa? Non sentendosi sicuri, e non fidandosi di chi sembra più sicuro. Si sa ragionando con attenzione e verificando le affermazioni rispetto a prove indipendenti. Questa abilità ha quattro parti, e ne costruirai ciascuna oggi:
1. Tassi di base : perché un test molto accurato per un evento raro produce comunque principalmente falsi allarmi.
2. Correlazione vs causalità : perché il fatto che due cose si muovano insieme non significa che una causi l'altra.
3. Bias di conferma : perché confidiamo eccessivamente nelle risposte che corrispondono a ciò che già crediamo.
4. Verifica : come triangolare un'affermazione rispetto a fonti indipendenti prima di agire in base ad essa.
Riscaldamento
Prima di iniziare, una breve riflessione. Essere sbagliati sentendosi certi non è raro : è la condizione umana normale. Indicare un momento in cui è successo a te fa sì che il resto di questa lezione resti impresso.
Il test per la malattia rara
Perché i test accurati ci ingannano ancora
Un tasso di base è quanto è comune qualcosa prima di eseguire qualsiasi test. Ignorarlo è uno degli errori di ragionamento più costosi in assoluto: e quasi tutti lo commettono.
Ecco lo scenario. Leggilo con attenzione; calcolerai la risposta nella schermata successiva.
- Una malattia colpisce 1 persona su 1000 (questa è la frequenza di base).
- Esiste un test che è accurato al 99%: se sei malato, dà esito positivo nel 99% dei casi, e se sei sano, dà esito negativo nel 99% dei casi (quindi sbaglia nel 1% delle persone sane).
- Effettui il test. L'esito è positivo.
L'istinto di quasi tutti dice: accurato al 99%, quindi c'è circa il 99% di probabilità che io sia malato. Tieni a mente questo pensiero. Verificheremo questa intuizione confrontandola con la frequenza di base, invece di fidarci dell'istinto.
Il metodo: immagina 1000 persone e conta.
- Su 1000 persone, circa 1 è effettivamente malata. Il test individua quella persona: chiamiamolo 1 positivo vero.
- Le altre 999 sono sane. Il test sbaglia nel 1% di esse: 999 x 0,01 è circa 10 falsi positivi.
Quindi, tra tutti coloro che hanno un esito positivo, ci sono circa 1 positivo vero e circa 10 falsi positivi.
Fai il conteggio
Il tuo calcolo
Usa i conteggi dall'albero: circa 1 positivo vero, circa 10 falsi positivi.
Ciò che il numero insegna
La conclusione
L'abitudine più importante di questa sezione: quando qualcosa è raro, anche un test molto accurato produce principalmente falsi positivi. La frequenza di base può sovrastare l'accuratezza.
Non si tratta solo di test medici. Riguarda gli allarmi antifrode, i filtri antispam, gli scanner di sicurezza e qualsiasi sistema affidabile che segnala un evento raro. Un "positivo" da parte di un tale sistema è un motivo per esaminare più da vicino, non una sentenza. Più la cosa è rara, più un singolo allarme dovrebbe attivare la verifica anziché la credulità.
Quando due cose si muovono insieme
Correlazione vs Causalità
Due elementi sono in correlazione quando si muovono insieme: quando uno sale, l'altro tende a fare lo stesso. È allettante concludere che uno causa l'altro. Di solito, questa conclusione non è giustificata. Esistono almeno tre spiegazioni innocenti per qualsiasi correlazione:
1. Confondente (una terza causa nascosta). Le vendite di gelato e i decessi per annegamento aumentano insieme. Il gelato non causa l'annegamento; il caldo è ciò che guida entrambi. Il confondente è il vero motore.
2. Causalità inversa. Le persone che usano un'app di fitness sono più in salute, quindi l'app deve causare la salute? Forse sono le persone già in salute a scegliere l'app. La freccia potrebbe puntare nella direzione opposta.
3. Coincidenza. Con un numero sufficiente di variabili misurate, alcune si allineeranno per pura sorte, senza alcun collegamento reale.
Il gesto del professionista: prima di accettare "X causa Y", chiedi cosa altro potrebbe spiegare questo? Una fonte che si presenta con sicurezza ma salta quella domanda ti sta vendendo una storia, non un risultato.
Trova la Causa Nascosta
Il tuo turno
Uno studio riporta: "Gli studenti che possiedono più libri ottengono punteggi più alti nei test di lettura. Pertanto, acquistare più libri aumenta i punteggi nei test." Un'app di shopping la cita persino per vendere pacchetti di libri ai genitori, con grande sicurezza.
Credere a ciò che ci convince
Il pregiudizio che nutre le tue convinzioni
Il pregiudizio di conferma è la tendenza a notare, credere e ricordare le prove che sono in linea con ciò che già pensiamo, ignorando o spiegando via le prove che non lo sono. Opera silenziosamente in sottofondo in quasi ogni giudizio.
La situazione peggiora con gli strumenti moderni. I risultati di ricerca, i feed e i sistemi di raccomandazione imparano cosa ti piace e ti offrono sempre più di quello. Fai una domanda orientata e spesso ottieni una risposta sicura, modellata per essere d'accordo con te. Il risultato sembra una conferma indipendente, ma è un'eco: la stessa convinzione rimbalzata indietro, travestita da prova.
L'antidoto è deliberato: cercare le prove più forti del fatto che hai torto. Se non riesci a trovarne, o le scarti troppo in fretta, è il pregiudizio a parlare.
Riconosci il pregiudizio
Il tuo turno
Maya è certa che un certo integratore le abbia curato il raffreddore. Ricorda i momenti in cui lo ha preso e si è ripresa, ritrae quelle storie e dimentica i momenti in cui non ha fatto nulla. Quando un amico menziona uno studio che mostra che non funziona, dice che lo studio "deve essere parziale" e passa oltre. Chiede anche a un'app di salute sicura "questo integratore è buono per il raffreddore?" e l'app risponde allegramente di sì.
Verifica Indipendente
L'abitudine che lega tutto insieme
Ogni strumento finora presentato punta a una singola abilità: non fidarti di un'affermazione fatta con sicurezza; verificala. Il metodo più affidabile è la triangolazione: verifica un'affermazione confrontandola con due o più fonti indipendenti prima di agire in base ad essa.
La parola indipendente fa tutto il lavoro pesante. Tre siti che hanno tutti copiato lo stesso comunicato stampa non sono tre fonti: sono una sola fonte, ripetuta tre volte. Una vera triangolazione richiede fonti che potrebbero dissentire, ma non lo fanno.
Un elenco di controllo pratico prima di agire in base a qualsiasi affermazione ad alto rischio:
- Indipendenza: Le mie fonti risalgono alla stessa origine o sono state raccolte separatamente?
- Tasso di base: Quanto è comune questo in realtà? È possibile che un allarme fatto con sicurezza sia in gran parte un falso positivo?
- Causa: Ti viene venduta una storia causale basata su ciò che è solo una correlazione?
- Il mio stesso pregiudizio: Ci credo in parte perché volevo già che fosse vero?
- In gioco: Più grande è la decisione (salute, denaro, sicurezza), più conferma indipendente merita.
Verifica un'affermazione reale
Il tuo turno
Un'app per lo studio ti dice, con grande sicurezza e in un prosa fluente, che una data storica è il 1847 e che una formula funziona in un certo modo. Hai un esame domani e la risposta è importante.
Cosa stai portando con te
Un'ultima riflessione
Ora disponi di quattro strumenti contro l'errore sicuro: verifica la frequenza di base prima di fidarti di un allarme su un evento raro, separa la correlazione dalla causalità, osserva il bias di conferma in te stesso e nei tuoi strumenti, e triangola rispetto a fonti indipendenti prima di agire.
Nessuno di questi richiede che tu sia un genio. Richiedono un'abitudine: trattare la confidenza : la tua o quella di una fonte brillante : come una domanda da testare, non come una risposta da accettare.
Le persone che si fanno ingannare meno non sono quelle che si sentono più sicure. Sono quelle che verificano.