mercoledì 20 ottobre 2010

"5 balzi + 1" o "della Singolarità Tecnologica"

Per comprendere efficacemente il presente e tentare di prevedere il futuro occorre prima di tutto imparare dal passato. Per chi si interessa al tema della Singolarità Tecnologica, è fondamentale capire a che punto siamo con l'accumulo della conoscenza e quanto velocemente crescerà in futuro. A tal proposito, la storia della capacità di creare ed accumulare conoscenza da parte del genere umano può essere, in estrema sintesi, condensata in cinque distinte fasi evolutive.

1)      In una prima, lunghissima fase il genere umano è passato dal modello ‘cacciatore-raccoglitore’ al modello ‘agricoltori e specialisti’ (artigiani, sacerdoti, artisti, funzionari, guerrieri ecc…) tramite l'innovazioni legate all'introduzione dell'agricoltura. In questa fase, durata molti millenni, l’aumento faticosissimo ed estremamente lento delle conoscenze ha infine prodotto un sensibile aumento sia nella lunghezza della vita media sia nel numero stesso degli esseri umani. Questa fase ha espanso la massa celebrale complessiva. Ha consentito inoltre un processo di specializzazione ed inurbamento che hanno reso statisticamente molto più probabile sia la generazione di nuove scoperte sia la conservazione di quelle già possedute. Questo fenomeno, fertilizzato dall’aumento di complessità sociale, è progredito lentamente, ma inarrestabilmente, nel corso dei millenni, fino ad innescare una seconda ed ancor più drastica rivoluzione culturale.

2)      Dopo l’agricoltura, la scrittura, è stata il secondo passo nell’evoluzione intellettuale dell’umanità. La scrittura, infatti, ha permesso di tramandare e quindi accumulare conoscenze ben oltre i limiti della vita umana (limiti intrinseci in una cultura puramente orale). La scrittura, inoltre, ha permesso la nascita di una matematica sempre più complessa e sofisticata. La matematica, a sua volta, ha permesso l’accumulo di conoscenze astratte con applicazioni ad ampio spettro. Per diversi millenni l’umanità ha progredito lungo questo sentiero scontrandosi ripetutamente con gli altissimi costi legati alla formazione elitaria della classe intellettuale nonché con le tempistiche ed i costi proibitivi di scrittura, ricopiatura, rilegatura e conservazione dei testi scritti. In questa fase si sono comunque perfezionati i sistemi di scrittura e si è accentuato il livello di inurbamento. La scrittura ha permesso anche la gestione di grandi imperi consentendo la diffusione di nuove idee su vasta scala. Già in questa fase si sono raggiunti elevatissimi livelli culturali (si veda ad esempio la cultura alessandrina o l’impero romano), ma in forma ancora instabile. La perdita di un solo uomo (ad esempio Archimede) o di un solo volume o una sola biblioteca (ad es. quella d’Alessandria) ha significato in quei tempi vere e proprie catastrofi irreparabili.

3)      La terza fase dell’evoluzione culturale può simbolicamente essere associata ad una data precisa: il 23 febbraio 1455. Si tratta della prima pubblicazione della “Bibbia a 42 linee” di Johann Gutenberg. La carta stampata a caratteri mobili è stata la miccia che ha fatto letteralmente deflagrare le potenzialità intellettuali. Nonostante piaghe devastanti quali epidemie micidiali, carestie, guerre infinite ed il pesante retaggio di una cultura millenaria tenacemente conservatrice, i caratteri mobili hanno innescato un processo di fecondità intellettuale di cui continuiamo tutt’oggi a sentire gli effetti pesanti. Nonostante i nuovi media, la carta stampata continua ad avere ancora un peso rilevantissimo. Il crollo dei prezzi dei libri e l’enorme, smisurato aumento della loro riproducibilità, ha fatto sì che, nel giro di pochi secoli, l’umanità passasse dal rinascimento all’epoca post-industriale. Non va poi sottovalutato che, tale accumulo di conoscenza, ha comportato anche un inarrestabile boom demografico (tuttora in corso) con conseguente ulteriore aumento della massa celebrale. La nascita dell’era industriale (figlia della carta stampata) ha poi letteralmente imposto al sistema politico ottocentesco l’adozione della scolarizzazione ed alfabetizzazione di massa. Ciò ha significato la trasformazione (in tempi relativamente rapidi) di milioni e milioni di persone in quello che per millenni, di fatto, sarebbe stato considerato un intellettuale. In poco più di un secolo e mezzo si è passato da masse di contadini analfabeti isolati nelle proprie microrealtà agricole ad imponenti masse di personale altamente specializzato ed istruito. Questo, unito all’affermarsi vorticoso dei nuovi media quali telegrafo, telefono, radio, televisione da un lato e dei mezzi di trasporto meccanizzati dall’altro, ha generato un progresso fenomenale e mai visto prima. Nell’arco di tempo di un’unica vita si sono potute vedere emergere e tramontare più d’una tecnologia rivoluzionaria permettendo ad alcuni di nascere nell’era dei calessi e morire in quella dell’aviazione di linea.

4)      L’epoca industriale, generata dalla carta stampata, finisce col generare a sua volta una quarta era dell’evoluzione culturale umana: quella del computer. Il progresso tumultuoso dei computer e successivamente dei personal computer hanno letteralmente stravolto ogni aspetto produttivo, contraendo i costi ed i tempi di progettazione come mai era stato possibile. Contemporaneamente l’infiltrazione dei computer nel ciclo produttivo ha alzato pesantemente l’efficienza di ogni singola fase lavorativa (dalla progettazione, alla lavorazione, alla logistica e distribuzione) contribuendo a spostare ancor più persone da lavori manuali ad incarichi di tipo intellettuale. Questo ulteriore boom cognitivo, basato sia sulla pura ‘potenza di calcolo’ sia sull’ulteriore intensificazione scolastica/accademica, ha accelerato a tal punto lo sviluppo da contrastare (almeno temporaneamente) gli evidenti limiti dello sviluppo economico imposti dalla scarsità di risorse di un pianeta limitato e ormai irrimediabilmente sovrappopolato com’è il nostro. L’intera fase è stata così rapida da aver coinvolto non più secoli o millenni, ma pochi decenni.  

5)      La diffusione di massa dei PC si è tramutata rapidamente nella quinta ed ultima fase culturale, quella in cui oggi ci troviamo, ossia l’epoca di Internet. Il boom di conoscenza stavolta è stato rapidissimo. Il fenomeno ha meno di 20 anni se si considera per Internet il World Wide Web. La rapidità è stata tale da creare una sorta di scollamento culturale. La maggior parte della popolazione non ha gli strumenti culturali adatti a permetterle anche solo di intuire la vera portata della rivoluzione in atto. Internet, ancor oggi, è considerata da molti ancora poco più di una curiosità tecnologica, un passatempo e roba da “smanettoni”. I mezzi d’informazione tradizionali stanno sulla difensiva dando ai loro utilizzatori un’immagine stereotipata e di parte di ciò che è Internet. Lo spiazzamento culturale questa volta non riguarda solo la ‘gente comune’, ma perfino la classe intellettuale. Non si tratta di un problema di intelligenza o sensibilità, ovviamente, ma principalmente di anagrafe: l’attuale classe accademica ed intellettuale si è formata quasi interamente prima che il fenomeno Internet si imponesse. Nessun esponente di spicco di tale mondo, data la relativa novità del fenomeno, è potuto nascere e formarsi all’ombra di Internet. Internet è giovane e creato/compreso dai giovani. Le analisi condotte sul web dall’attuale classe accademica faticano a cogliere la natura di un fenomeno a cui la classe accademica stessa stenta ad adeguarsi/accostarsi e che, per di più, evolve continuamente sia in aspetti quantitativi sia in aspetti qualitativi. Le analisi intraprese per tentare di decifrare l’essenza stessa del web inoltre sono destinate al fallimento anche per un altro motivo, ancor più radicale del primo: il grado di complessità e varietà del web ha già ampiamente superato i limiti cognitivi umani. Non è un fenomeno puramente quantitativo (n° di connessioni, di siti, di nodi ecc…), ma anche qualitativo. Internet è, infatti, uno strumento di socializzazione nonché un diffusore di idee, conoscenze, informazioni e servizi senza precedenti né confronto. Di fatto oggi chiunque abbia la possibilità di accedere alla rete ha anche la possibilità di trasformarsi (a costo zero o molto vicini a zero) in un giornalista, un editore, un imprenditore, uno studente, un divulgatore, un pubblicitario ecc… Questa possibilità è concessa a sempre più persone: a breve saranno 2 miliardi.


A seguito di quanto detto, mi pare che non vedere un’accelerazione della conoscenza umana nel corso della storia sia, un atto di malafede o ignoranza. Che poi l’accelerazione segua una curva esponenziale, quasi esponenziale o altro mi pare rischi di trasformarsi in un contenzioso sterile. Non credo che i complessi fenomeni culturali siano facilmente inscrivibili in analisi matematiche pure (non ancor per lo meno). L’analisi storica e l’archeologia fanno pensare piuttosto che la curva di conoscenza in un particolare ambito sia caratterizzata da scoperte e perdite di conoscenza seguite nuovamente da ri-scoperte e nuove perdite fino ad arrivare ad una sedimentazione stabile di quelle specifiche nozioni. L’archeologia in particolare lascia intendere che spesso un’invenzione appaia in più posti contemporaneamente oppure a più riprese in luoghi e tempi differenti. La curva di apprendimento dell’umanità non è così lineare e progressiva come l’epoca moderna farebbe credere. Il processo, nel suo complesso, è abbastanza caotico e discontinuo. Il rogo della biblioteca di Alessandria oppure al crollo dell’impero romano sono solo due tra i più famosi crolli di conoscenza del genere umano. La concezione del progresso culturale come in costante miglioramento deriva dall’esperienza degli ultimi secoli. La peculiarità dell’epoca moderna è stata così forte e netta che ormai è diventato difficile per noi concepire un futuro culturale peggiore del presente o del passato. Ormai diamo l’accumulo della conoscenza per scontato e già questo è un sintomo interessante per capire quanto, certe particolari scoperte, si siano rivelate cruciali ed influenti nella cultura attuale. In ogni caso quest’alternanza tra nuove scoperte ed oblio è piuttosto evidente che non è rimasto stabile nel corso dei millenni. Man mano che il tasso di nuove scoperte aumentava, le perdite accidentali diminuivano. Il risultato è stato un aumento netto del tasso di sedimentazione della conoscenza. Oggi la velocità di sedimentazione, grazie ai PC ed Internet, ha supera ampliamente non solo le perdite accidentali, ma la capacità stessa di aggiornamento degli specialisti. La specializzazione sempre più estrema nei vari ambiti del sapere ha ormai raggiunto i limiti umani. Tenere il passo con i costanti aggiornamenti è divenuto un problema in molti ambiti ed in alcuni è semplicemente impossibile. Al contrario la capacità di produrre nuovi contenuti, non solo non accenna a rallentare, ma è in aumento vertiginoso.

Il processo creativo a livello di sistema culturale mondiale può realisticamente essere interpretato come una successione gruppi di numerosissimi piccoli miglioramenti intervallati da poche grandi scoperte. L’accumulo dei piccoli miglioramenti e il manifestarsi di quelli a carattere rivoluzionario, non fanno altro che variare il tasso con cui nuovi miglioramenti emergono ossia nascono. I memi (o se si preferisce le idee), analogamente ai geni, hanno bisogno di un ecosistema in cui prosperare: tanto più l’ecosistema è vasto, variegato e florido tanto più la popolazione di memi sarà numerosa, il tasso di natalità sostenuto e quello di mortalità ridotto. L’ecosistema dei geni lo conosciamo o per lo meno sappiamo identificarlo, ma l’ecosistema dei memi forse non ci appare altrettanto chiaro e definito. I libri, la radio, il telefono, i giornali, la tv, i pc e Internet qualcuno potrebbe considerarli come i substrati su cui prosperano i memi. Per altri il substrato di su cui vivono i memi è invece unico ed è la mente degli esseri umani. La realtà delle cose tuttavia mostra che entrambe le posizioni sono giuste. I memi (almeno per ora) possono vivere solo all’interno di una scatola cranica, tuttavia la loro generazione e diffusione è pesantemente influenzata da una miriade di aspetti tecnico-materiali (mass-media, strumenti scientifici, calcolatori, mezzi di comunicazioni, grado culturale medio, longevità degli individui ecc…). L’idea più realistica quindi è che la memetica debba riguardare tanto l’essere umano quanto le sue scoperte come un tutt’uno. Tra le scoperte andrebbero poi ascritte anche le strutture sociali ed economiche che garantiscono, incrementano oppure limitano la libertà dei memi. Una consistente base teorica sulla memetica dovrebbe essere considerata la condizione cardine per poter ambire alla creazione di una Singolarità Tecnologica e più precisamente per la creazione di una Singolarità di tipo benigno (ossia non distruttiva del genere umano).

Tutto questo discorso conduce a porsi una domanda fondamentale: e adesso?
Quale sarà la prossima rivoluzione? L’intelligenza artificiale?
Io penso di no, o per meglio dire non ancora. L’intelligenza generale è semplicemente troppo complessa per poter essere compresa, manipolata e controllata a questo stadio dell’evoluzione culturale. La cosa non deve né rattristare né entusiasmare perché le conoscenze informatiche, elettroniche e neuronali stanno facendo passi da gigante. Il loro connubio potrebbe portarci prima di quel che non si crede al punto di poter creare una prima vera macchina pensante. Forse nel giro di qualche anno o decennio saremo in grado di produrre un’intelligenza artificiale simile a quella umana, ma se nel frattempo non avremo imparato a gestirla, rischiamo di fermarci lì a causa di due contrapposte possibilità:

1)      Una prima possibilità potrebbe essere che non riusciremo ad andare oltre ad un’IA con facoltà simili a quelle umane poiché i costi e la disponibilità di menti biologiche renderanno quelle artificiali economicamente inadatte al mercato. Mi riferisco a qualcosa di analogo a ciò che accadde alla mancata industrializzazione della civiltà alessandrina a causa della predominanza economica del sistema schiavista. Creare super-intelligenze completamente artificiali potrebbe sembrare antieconomico e finanziariamente troppo rischioso per chi avesse le risorse necessarie. Ciò forse non bloccherebbe il processo che conduce alla creazione di una superintelligenza, ma ritarderebbe la sua nascita oltre la capacità di sopravvivenza del genere umano (almeno culturalmente parlando) rispetto a quegli stessi problemi creati ed accumulati proprio dal genere umano.

2)      L’altro possibile ostacolo, assai più drastico del primo, è che non riusciremo ad ottenere il livello di intelligenza umana e a superarlo non perché falliremo nel tentativo di costruirne una, ma per l’opposto. Il problema in questo tipo di scenario è una sorta di fallimento dovuto all’incapacità di gestire il successo. Mi riferisco al rischio di perdere completamente il controllo del processo. In questo scenario il genere umano sarebbe letteralmente scalzato via dalle intelligenze artificiali che finirebbero presto per soppiantarci (in modo pacifico o meno lo scopriremo solo allora) prima economicamente e poi su tutti gli altri piani. L’adozione prematura nel ciclo produttivo e/o nel settore militare di intelligenze artificiali spingerebbe presto a creare versioni sempre più perfezionate delle stesse per battere la “concorrenza”. Tale processo, una volta innestato, sarebbe assai difficile da disinnescare, controllare o limitare. Incamminarsi per questa strada senza l’adeguata preparazione teorica/accademica è molto rischioso. Approdare alla costruzione di una superintelligenza senza l’adeguata preparazione teorica e senza le precauzioni e gli strumenti di controllo necessari, ossia tramite lo sviluppo o l’auto-sviluppo di intelligenze artificiali sempre più sofisticate può rivelarsi fatale.

Personalmente credo che lo scenario più probabile sia il secondo perché vi sono forze esterne al mero mondo accademico che potrebbero avere un forte interesse a sviluppare intelligenze sovraumane. Mi riferisco in primis proprio al mondo dell’intelligence ed ai militari, già oggi ampiamente impegnati in ricerche di questo tipo. Questi ambienti sono già ora smaniosi di vedere l’intelligenza artificiale sui campi di battaglia, nell’analisi dati ad ampio spettro e nella guerra informatica. Militari ed intelligence sono affiancati e sostenuti dall’ala più guerrafondaia del mondo politico, desiderosa di intraprendere nuovi conflitti senza però la “scocciatura” di un’opposizione interna ravvivata da immagini e dai resoconti su reduci, mutilati e ‘caduti per la patria’.
Secondariamente, di fronte ad una credibile possibilità di successo, alcune grandi lobby industriali potrebbero investire massicciamente nella ricerca di una Super-Intelligenza per scalzare la concorrenza e, più in generale, per fare un sacco di soldi. Anche in quest’ambito alcuni timidi segnali si sono già manifestati. Anche il mondo accademico stesso inoltre potrebbe essere spinto a sviluppare una sorta di superintelligenza non accuratamente pianificata per venire in contro alle esigenze di finanziatori esterni oppure per tentare di scavalcare i limiti umani che impediscono già ora di accedere completamente a quanto scoperto nei vari ambiti del sapere scientifico e non.

Se dovesse realmente concretizzarsi uno scenario in cui siano presenti le capacità tecniche per creare una superintelligenza e la sovrintendenza a tali capacità fosse in mano a militari o lobbisti l’estinzione di massa (anche a carattere repentino) diverrebbe improvvisamente un esito assai probabile per l’umanità e forse per l’intera biosfera.

Per questo motivo si impone fin da oggi un impegno diretto dell’intera comunità umana alla creazione di più alti livelli di conoscenza ed intelligenza in modo da apprestarsi ad una Singolarità Tecnologica in modo benevolo. Sarebbe meglio bruciare sul tempo singole lobby per abbattere i rischi sopraccitati. Se la società si dovesse limitare ad aspettare che qualche tecnico sviluppi le capacità tecniche per creare intelligenze puramente artificiale prima di occuparsi del problema, rischia di essere semplicemente troppo tardi. È come per gli artificieri, sbagliare coi tempi vuol dire esporsi a rischi totalmente inaccettabili. A tutto ciò si deve aggiungere che più passa il tempo e più aumentano anche le probabilità che una Super-Intelligenza puramente artificiale e prematura (quindi incontrollabile) sia creata involontariamente. Per quanto questo possa apparire il meno probabile tra gli scenari, sarebbe anche il peggiore perché coglierebbe l’umanità totalmente di sorpresa.
Chi infine pensa di poter limitare o bloccare la ricerca tramite regolamentazioni o trattati è bene che pensi a come sono andate le cose con situazioni analoghe, ad esempio per gli armamenti di distruzione di massa. La palese inefficacia di tali strumenti, oltre che sul piano politico-diplomatico, dipende dall’impossibilità o quasi di fare controlli (prima) e assegnare efficaci sanzioni (poi). Dati i numerosi e grandi interessi coinvolti nello sviluppo dell’intelligenza artificiale è improbabile che si riesca a giungere ad un accordo soddisfacente in merito. Se si tiene conto della rapidità con cui una super-intelligenza potrebbe innescare una Singolarità Tecnologica e quindi scavalcare le nostre capacità di comprensione e previsione, si deve infine concludere che eventuali soluzioni politico-diplomatiche potrebbero rivelarsi totalmente inefficaci anche sul piano delle tempistiche di esecuzione oltre che su quello della loro applicabilità concreta.
Per ultimo (e qui concludo) la sesta fase della conoscenza, ovvero la Singolarità Tecnologica, non può essere affrontata dal punto di vista etico solo in termini di rischi da minimizzare, perché ci sono anche infiniti benefici da massimizzare in vista di una superintelligenza benevola verso il genere umano.

Un saluto a tutti dal Panda

Nessun commento:

Posta un commento