Judo Bayesiano

Articolo originale
Eliezer Yudkowsky
31 Luglio 2007

Ci si può divertire con le persone che hanno aspettative desincronizzate rispetto a quello che credono di credere.

Mi trovavo una volta a un party, cercando di spiegare a un tale cosa faccio di mestiere, e lui se ne uscì con: “Non credo che l’Intelligenza Artificiale sia possibile perché solo Dio può creare un’anima.”

A questo punto devo essere stato divinamente ispirato, perché gli risposi immediatamente: “Vuol dire che se io posso fare un’Intelligenza Artificiale, questo prova che la sua religione è falsa?”

E lui: “Cosa?”

“Beh, se la sua religione prevede che io non abbia la possibilità di fare un’Intelligenza Artificiale, allora se io ci riesco significa che la sua religione è falsa. O la sua religione permette che sia possibile che io possa realizzare una IA oppure, se io costruisco una IA, questo smentisce la sua religione.”

Ci fu una pausa, mentre il tipo si rendeva conto del fatto che avevo appena reso potenzialmente falsificabile la sua ipotesi, e quindi disse: “Non intendevo dire che non si può fare un’intelligenza, solo che non può avere emozioni nello stesso modo in cui le abbiamo noi.”

“Quindi, se faccio un’Intelligenza Artificiale che, senza essere stata deliberatamente programmata con qualche tipo di copione, si mette a parlare di un’attività emotiva che suona simile alla nostra, questo significa che la sua religione è sbagliata.”

“Umm… immagino che dovremo ammettere che siamo in disaccordo su questo punto.”

“No, in effetti non possiamo. C’è un teorema della razionalità chiamato Teorema di Aumann sull’Accordo che mostra che due razionalisti non possono essere d’accordo sull’essere in disaccordo. Se due persone sono in disaccordo su un argomento, almeno una delle due deve aver sbagliato qualcosa.”

Andammo avanti ancora un po’ su questo tono. Alla fine lui concluse: “Direi che quello che veramente intendevo dire è che non credo che lei possa fare qualcosa di eterno.”

“Beh, neanche io lo credo! Sono contento che abbiamo raggiunto un accordo su questo, come richiesto dal teorema di Aumann”. Allungai la mano, lui la strinse e si allontanò.

Una donna che era rimasta lì a fianco, ascoltando la conversazione, mi disse seriamente: “È stato bellissimo”.

Le risposi: “Grazie mille”.

Lascia un commento

Il tuo indirizzo email non sarà pubblicato. I campi obbligatori sono contrassegnati *

Chaos Legion wants you!