Si dice che i genitori fanno tutte le cose che dicono ai figli di non fare, ed è così che sanno che non devono essere fatte.
Tanto tempo fa, in un passato impensabilmente lontano, ero un devoto Razionalista Tradizionale e mi consideravo abile in questo campo, eppure non conoscevo la Via di Bayes. Quando il giovane Eliezer si confrontava con una domanda apparentemente misteriosa, i precetti della Razionalità Tradizionale non gli impedivano di immaginare una Risposta Misteriosa. Questo è, ampiamente, l’errore più imbarazzante che ho fatto nella mia vita, e rabbrividisco ancora al pensiero.
Qual era la mia risposta misteriosa a una domanda misteriosa? Questo non lo racconterò, perché sarebbe una storia lunga e complicata. Ero giovane, un semplice Razionalista Tradizionale che non conosceva gli insegnamenti di Tversky e Kahneman. Conoscevo il Rasoio di Occam, ma non la conjunction fallacy. Pensavo di potermela cavare pensando cose complicate io stesso, nello stile letterario dei pensieri complicati che leggevo nei libri di scienza, senza capire che la complessità corretta è possibile solo se ogni singolo passaggio è rigorosamente definito. Oggi, uno dei consigli principali che do agli aspiranti razionalisti è: “non avventuratevi in lunghe catene di ragionamento o in piani complicati”.
Non c’è altro da dire: anche dopo che avevo inventato la mia “risposta”, il fenomeno era ancora misterioso per me, e aveva ancora la stessa qualità di sorprendente impenetrabilità che aveva all’inizio.
Ma attenzione, quel giovane Eliezer non era uno stupido. Tutti gli errori di cui il giovane Eliezer era colpevole sono ancora fatti oggi da rispettati scienziati in rispettabili pubblicazioni. Sarebbe stato necessario un talento più sottile per proteggerlo, di quanto gli fosse stato mai insegnato come Razionalista Tradizionale.
In effetti il giovane Eliezer seguiva diligentemente e scrupolosamente le ingiunzioni della Razionalità Tradizionale nel suo finire fuori strada.
Come Razionalista Tradizionale, il giovane Eliezer era attento ad assicurarsi che la sua Misteriosa Risposta facesse una coraggiosa predizione di una futura esperienza. Nello specifico, mi aspettavo che in futuro i neurologi scoprissero che i neuroni sfruttano la gravità quantistica, alla maniera di Sir Roger Penrose. Questo richiede che i neuroni mantengano un certo livello di coerenza quantistica, che è qualcosa che puoi cercare e trovare o non trovare. O la osservi, oppure no. Giusto?
Ma la mia ipotesi non faceva nessuna predizione retrospettiva. Secondo la Scienza Tradizionale, le predizioni retrospettive non contano – quindi perché preoccuparsi a farle? Per un bayesiano, d’altra parte, se un’ipotesi non ha oggi una plausibilità migliore di “non lo so”, si pone il problema del perché dovresti credere oggi a qualcosa di più complicato di “non lo so”. Ma io non conoscevo la Via di Bayes, e quindi non mi preoccupavo di plausibilità o di focalizzare la densità di probabilità. Avevo fatto una Previsione Falsificabile; non è questa la regola?
Come Razionalista Tradizionale, il giovane Eliezer era molto attento a non credere nella magia, nel misticismo, nello sciovinismo del carbonio, o cose gi questo genere. Professavo orgogliosamente della mia Risposta Misteriosa: “È semplicemente fisica, come tutto il resto della fisica!”. Come se si potesse evitare che la magia sia cognitivamente isomorfa alla magia, chiamandola gravità quantistica. Ma io non conoscevo la Via di Bayes, e non vedevo il livello al quale la mia idea era isomorfa alla magia. Ero stato fedele alla fisica, ma questo non mi aveva salvato; cosa ne sa la teoria della probabilità di fedeltà? Avevo evitato tutto ciò che la Razionalità Tradizionale mi aveva detto che è proibito, ma quello che era rimasto era ancora magia.
Senza alcun dubbio, la mia fedeltà alla Razionalità Tradizionale mi ha aiutato a uscire dalla fossa che mi ero scavato da solo. Se non fossi stato un Razionalista Tradizionale, sarei stato completamente incasinato. Ma la Razionalità Tradizionale non era comunque sufficiente per fare le cose correttamente. Mi aveva semplicemente portato a fare errori diversi da quelli che aveva esplicitamente proibito.
Pensare a come il mio più giovane io aveva seguito accuratamente le regole della Razionalità Tradizionale per ottenere la risposta sbagliata, getta luce sulla domanda del perché le persone che chiamano se stesse “razionalisti” non governano il mondo. Hai bisogno di un enorme quantità di razionalità prima che faccia qualcosa di meglio che portarti a fare errori nuovi e interessanti.
La Razionalità Tradizionale è insegnata come un’arte, piuttosto che una scienza; leggi le biografie di famosi fisici che descrivono le lezioni che la vita ha insegnato loro, e cerchi di fare quello che ti dicono di fare. Ma tu non hai vissuto le loro vite, e metà di quello che cercano di descrivere è un istinto che è stato addestrato dentro di loro.
Nel modo in cui è progettata la Razionalità Tradizionale, sarebbe stato accettabile per me passare 30 anni sulla mia stupida idea, purché arrivassi alla fine a falsificarla, fossi onesto con me stesso su cosa prevede la teoria, accettassi l’eventuale confutazione, e così via. Questo è sufficiente perché l’ingranaggio della scienza faccia un passo avanti, ma è un po’ duro nei confronti delle persone che sprecano così 30 anni delle loro vite. La Razionalità Tradizionale è una camminata, non una danza. È progettata per portarti prima o poi alla verità, e ti lascia fin troppo tempo per annusare i fiori lungo la strada.
I Razionalisti Tradizionali possono concordare di essere in disaccordo. La Razionalità Tradizionale non ha l’ideale che pensare è un’arte esatta in cui c’è una sola stima corretta di probabilità, data l’evidenza. Nella Razionalità Tradizionale sei autorizzato a tirare a indovinare. Ma l’esperienza mi ha insegnato che se tu non sai, e tiri a indovinare, finirai con l’avere torto.
La Via di Bayes è anch’essa un’arte imprecisa, almeno nel modo in cui la sto portando avanti. Questi articoli sono ancora un tentativo confuso di tradurre in parole lezioni che sarebbero imparate meglio dall’esperienza. Ma almeno ha una base matematica, oltre all’evidenza sperimentale dalla psicologia cognitiva su come gli esseri umani pensano effettivamente. Forse questo potrà essere sufficiente a superare la soglia stratosfericamente alta richiesta a una disciplina che permetta di fare le cose in modo corretto, invece di spingerti solo in nuovi errori interessanti.