Al Singularity Summit del 2007, uno degli interventi proponeva un sviluppo democratico e multinazionale dell’Intelligenza Artificiale. Così presi il microfono e chiesi:
Supponiamo che un gruppo di repubbliche democratiche costituisca un consorzio per lo sviluppo dell’IA, e durante il processo ci siano un sacco di intrallazzi – alcuni gruppi di interesse hanno un’influenza eccessiva, altri vengono fregati – in altre parole, un risultato analogo ai prodotti delle moderne democrazie. In alternativa, supponiamo un gruppo di nerd ribelli che sviluppa un’IA in cantina, e programma l’IA per chiedere a ciascuna persona al mondo – consegnando telefoni cellulari a quelli che non ce l’hanno – e fare qualunque cosa la maggioranza richieda. Quale di questi due scenari pensi che sia più “democratico”, e ti sentiresti al sicuro con almeno uno dei due?
Volevo capire se credeva nell’adeguatezza pragmatica del processo politico democratico, o se credeva nella correttezza morale del diritto di voto. Ma l’oratore rispose:
Il primo scenario sembra un editoriale su Reason, mentre il secondo sembra la trama di un film di Hollywood.
Confuso, gli chiesi:
Quindi quale tipo di processo democratico avevi in mente?
E lui rispose:
Qualcosa come il Progetto Genoma Umano – quello è stato un progetto di ricerca finanziato a livello internazionale.
Io chiesi:
E come risolverebbero i loro contrasti i differenti gruppi di interesse in una struttura come quella del Progetto Genoma Umano?
E l’oratore rispose:
Non lo so.
Questo scambio mi ricorda una citazione di un qualche dittatore, a cui era stato chiesto se aveva intenzione di guidare il suo stato verso la democrazia:
Noi riteniamo di avere già un sistema democratico. Mancano ancora alcuni fattori, come l’espressione della volontà popolare.
La sostanza di una democrazia è il meccanismo specifico che risolve i conflitti politici. Se tutti i gruppi avessero le stesse preferenze politiche, non ci sarebbe bisogno di democrazia – coopererebbero automaticamente. Il metodo di risoluzione potrebbe essere un voto diretto di maggioranza, o una legislatura eletta, o addirittura un’IA che tenga conto del desiderio dei votanti, ma deve essere qualcosa. Cosa significa chiedere una soluzione “democratica” se non hai in mente un meccanismo di risoluzione dei contrasti?
Penso che significhi che hai detto la parola “democrazia”, perché ottenere un applauso dal pubblico. Non si tratta tanto di un’affermazione propositiva, quanto l’equivalente della luce “Applausi” che dice al pubblico in studio quando applaudire.
Questo caso è notevole solo in quanto io ho scambiato la luce degli applausi per un suggerimento politico, con conseguente imbarazzo per tutti. La maggior parte delle luci di applauso sono più evidenti e possono essere riconosciute mediante un semplice test di rovesciamento. Per esempio, supponiamo che qualcuno dica:
Dobbiamo bilanciare rischi e opportunità dell’IA.
Se ribalti l’affermazione, ottieni:
Non dovremmo bilanciare rischi e opportunità dell’IA.
Dato che l’inverso suona anormale, l’affermazione originale è probabilmente normale, cioè non porta nuova informazione. Ci possono essere un sacco di motivi legittimi per pronunciare un’affermazione che sarebbe non informativa presa a sé stante. “Dobbiamo bilanciare rischi e opportunità dell’IA” può introdurre un argomento di discussione; può enfatizzare l’importanza di una specifica proposta per il bilanciamento; può criticare una proposta sbilanciata. Ma se non è seguita da altro, la frase è probabilmente una luce da applausi.
Sono tentato di tenere prima o poi una conferenza che consista di nient’altro che luci da applauso, e vedere quanto ci mette il pubblico a cominciare a ridere:
Sono qui oggi per proporvi che dobbiamo bilanciare i rischi e le opportunità di una Intelligenza Artificiale avanzata. Dovremo evitare i rischi e, per quanto possibile svilupparne le opportunità. Non dovremmo inutilmente affrontare rischi completamente non necessari. Per ottenere questi risultati, dobbiamo progettare in modo saggio e razionale. Non dovremmo agire in base alla paura o farci prendere dal panico o dalla tecnofobia; ma non dovremmo neanche abbandonarci a un cieco entusiasmo. Dovremmo rispettare gli interessi di tutte le parti con un interesse in gioco nella Singolarità. Dobbiamo cercare di garantire i benefici delle tecnologie avanzate al maggior numero di individui possibile, piuttosto che restringerli a pochi. Dobbiamo cercare di evitare, nei limiti del possibile, l’uso di queste tecnologie in conflitti violenti; e dobbiamo impedire che la possibilità di distruzione massiccia cada nelle mani di singoli individui. Dovremmo pensare a queste cose prima, non dopo che sia troppo tardi per fare qualcosa al riguardo…