Paolo Barnard nella stanza cinese

Seguo il giornalista antisistema Paolo Barnard da quando è nato. Prima a Report, poi, con maggior attenzione, sul web. Ho fatto mia la sua battaglia per la moderna teoria monetaria e condivido il 99 per cento vigola 99 periodico di ciò che dice sul complesso universo femminile, sull’Islam, sul Vero Potere  ecc. ecc. Da diversi mesi Barnard dal suo fortino-blog lancia strali contro le nuove tecnologie, affermando in sostanza che saranno causa di una feroce disoccupazione. Fa finta di averlo detto per primo, quando i libri dello storico Yuval Noah Harari (Sapiens e Homo Deus) ne parlavano invece da tempo raccontando sull’Intelligenza Artificiale cose molto simili a quelle che si trovano ora nei funerei pezzi di Barnard dedicati alla Tech-Gleba.

In altri tempi, questo atteggiamento sarebbe stato tacciato di luddismo.

Ned Ludd è una figura leggendaria, assurto a simbolo delle proteste operaie contro le macchine nell’Inghilterra di fine Settecento. I luddisti divennero un movimento vero e proprio che si proponeva di distruggere i telai meccanici, rei di causare disoccupazione e di abbassare i salari. La bile che Barnard rovescia nei suoi articoli contro la A.I.  non aiutano a capire quale sarebbe la ricetta per uscirne, posto che è vero che le tecnologie, evolvendosi non in modo lineare, ma esponenziale, spazzeranno via milioni di posti di lavoro.

Ma questo, quante volte lo abbiamo visto accadere nella storia?

Che direbbero, se fossero ancora vivi, i figli dei cocchieri o di quelli che salivano sui lampioni la sera per accenderli? Non è forse vero che le rivoluzioni industriali hanno annichilito alcune occupazioni tradizionali, ma che le hanno poi sostitutite con altre?

Alcuni (Barnard non è il solo) vanno però ben oltre questo discorso, raffigurando scenari apocalittici in stile Matrix o Terminator.

il fatto è che la A.I., una volta partita, pensa mille gilioni di volte più veloce di chi l’ha fatta partire, e rischia di fottere tutta l’umanità distruggendoci.

Ed è questa la parte dell’analisi più interessante.

E’ anche quella che mi trova più critico, posto che  probabilmente tra non molto mancherà il lavoro per autisti e commessi, ad esempio.

Il nuovo luddismo fatica a metabolizzare le reali differenze tra uomo e macchina, pensando che solo l’aspetto tecnico faccia la differenza.

La cosiddetta filosofia della coscienza, ad esempio, cerca di capire se noi abbiamo una coscienza, se essa è vera o illusoria, se abbiamo forza di volontà o no. Non possiamo infatti distinguere in modo netto medicina, fisica, informatica, intelligenza artificiale e filosofia.

Tipico della cultura anglosassone, infatti (cultura della quale Barnard è suo malgrado allievo), è l’ostentata ricerca di separare ciò che si trova naturalmente unito, nel lodevole tentativo di comprendere meglio un fenomeno. Si chiama analisi, ma non si può applicarla in via definitiva sempre ed a tutto.

Non sto dicendo che chi opera sempre in modo analitico è un idiota.

Non sto dicendo che chi lo fa sempre è pericoloso.

Sto dicendo che chi opera sempre in modo analitico è idiota e pericoloso … “assieme”. Searle viene dalla cultura analitica, ma ci porta verso strade nuove e inesplorate.

Se voi – NOW – state capendo ciò che sto dicendo è perchè ne capite il significato. Comprendere il significato di una o più frasi enunicate ci fa entrare nel campo della SEMANTICA.

Non solo. La semantica ci fa anche capire simboli astratti e complessi, i modi di dire, ecc. Dunque: evviva la semantica.

La SINTASSI, invece, è lo studio delle regole formali di una frase (e se non lo capiste … non sapessi che farci…)

Dunque, è appurato che SEMANTICA e SINTASSI siano parenti stretti stretti, ma anche che non siano la stessa identica cosa.

I computer operano la sintassi poichè non capiscono il significato di ciò che gli viene richiesto, ma essendo in grado di operare attraverso regole, percorsi algoritmici forniti dall’esterno, essi “ragionano” in modo sintattico.

La semantica (noi organismi viventi) opera sui simboli, nel senso che consente di comprendere appieno il significato di una determinata cosa; la sintassi (organismi e computer), invece, opera solo sui segni.

Invece di leggere le verità asssiomatiche infuse che scrivono uomini di spettacolo come Fabio Volo e Roberto Burioni, consiglio caldamente la lettura di John Searle (il mistero della coscienza).

In questo testo, tra le altre cose, Searle ci propone di immaginare di trovarci in una stanza cinese, senza conoscere nulla di quella lingua.

Dall’esterno ci vengono ad un certo punto forniti alcuni simboli, gli ideogrammi cinesi (in campo informatico si parlerebbe di “database”). A questo punto ci vengono rivolte delle domande e ci riforniscono anche di regole (in informatica si parlerebbe di algoritmi).

Molto diligentemente, allora, noi ci mettiamo li bel belli e operiamo sui simboli grazie alle regole che ci hanno appena fornito.

Ad un certo punto, usciremo dalla stanza che avremo risposto bene a tutte le domande fatte in cinese, ma… continueremo imperterriti a non capire e a non sapere una mazza di cinese!

Noi avremo diligentemente risposto alle domande perchè avremo applicato le regole agli ideogrammi, ma il cinese ancora non lo capiremo perchè non c’è stato alcun passaggio “proprio” o “personale”, senza il quale è impossibile parlare e capire una lingua sconosciuta.

L’intelligenza artificiale, in pratica, non esiste (nel senso attribuitole dai neoluddisti), perchè in verità essa opera sulla base di input esterni.

Il computer non opera sulla semantica, ma opera sulla sintassi. La mente umana, per contro, ha una semantica che l’informatica non possiede.

Per una volta, seguiamo un estratto di wikipedia, sorprendentemente esaustivo:

L’essere umano nella Stanza cinese segue istruzioni per manipolare simboli cinesi, mentre un computer esegue un programma scritto in un linguaggio di programmazione. L’uomo crea l’apparenza della comprensione del cinese seguendo le istruzioni di manipolazione dei simboli, ma non giunge per questo a capire il cinese. Poiché un computer non fa altro che ciò che fa l’uomo – manipolare simboli in base alla loro sola sintassi – nessun computer, semplicemente eseguendo un programma, giunge a comprendere realmente il cinese.

Affinchè vi sia una sostituzione dell’essere umano, occorre che le macchine abbiano pensiero e volontà, ma i calcoli formali che le macchine riescono ad eseguire – come dimostrato nell’esperimento della stanza cinese – non possono generarli.

Dunque, a distruggere l’umanità sarà solo la Natura, o l’umanità stessa e non l’Intelligenza Artificiale, come dimostrato priva di coscienza e di volontà.

1 Commento

  1. Ciao, molto interessante e, mi sembra, condivisibile quanto affermi.
    Io credo che il vero problema sia in effetti la quantità di automatismo che daremo alla A.I., fin dove le permetteremo di arrivare.
    Un automatismo è appunto automatico…potrebbe essere non “desiderabile” in certi frangenti non previsti.
    Si potrebbero implementare le leggi asimoviane anche per l’A.I….o no?

Leave a Reply

L'indirizzo email non sarà pubblicato.


*