giovedì 30 giugno 2011

Singolarità Tecnologica, superintelligenze e stanze cinesi (per tacer del resto)

Ancora una volta, il vostro affezionato Panda parlerà di Singolarità Tecnologica. Per chi non lo sapesse, la Singolarità Tecnologica è una teoria che ritiene che lo sviluppo tecnologico proceda ad un ritmo via via crescente (esponenziale) e che quindi finirà per condurci ad un punto (la Singolarità Tecnologica per l’appunto) in cui gli sviluppi tecnologici supereranno di molto le capacità di comprensione e previsione dell’intera razza umana. La Singolarità Tecnologica, in altre parole, sarebbe un’epoca in cui la tecnologia diverrebbe tanto levata da apparire ai nostri deboli intelletti umani come quanto di più simile possa esistere alla magia. Si tratterebbe di un’epoca in cui, se ben gestita, tutti i nostri principali problemi, compreso forse la morte, diverrebbero solo un ricordo del passato. Al di là delle varie sfumature, interpretazioni e variazioni sul tema, alla teoria della Singolarità Tecnologica, si può dire che sia quasi sempre accostato il concetto di super-intelligenza. La maggior parte dei sostenitori della teoria della Singolarità Tecnologica ritengono infatti che essa sarà resa possibile dall’apparizione di un’intelligenza artificiale generale in grado di auto-migliorarsi ricorsivamente, ossia di un’intelligenza artificiale in grado di tramutarsi in una super-intelligenza. Sì, ma cos’è esattamente una super-intelligenza? Per dirla alla Nick Bostrom, “una super-intelligenza è un qualsiasi intelletto che superi di gran lunga il miglior cervello umano praticamente in ogni campo”. Ora, prima di poter giungere ad una Singolarità Tecnologica benevola, bisogna che si giunga ad una super-intelligenza di un qualche tipo e prima di giungere ad una super-intelligenza occorre giungere ad un’intelligenza artificiale generale con facoltà intellettuali simili all’uomo. Chi ritiene che tutto ciò sia plausibile pensa di solito che si possa giungere alla costruzione di una mente artificiale simile all’uomo entro 20 o 30 anni circa. Ovviamente non tutti pensano che ciò sia possibile oppure che se anche lo fosse i tempi sarebbero enormemente maggiori (in termini di secoli). Questi tecno-scettici, sostengono che ciò non sia possibile (per motivi fisici, filosofici o tecnici) e che sono 30 anni che sentono qualcuno dire che “fra 20 o 30 anni avremo un computer senziente”, ma di computer senzienti per ora non se ne vede nemmeno l’ombra. Anche di fronte al caso Watson (il super-computer dell’IBM che ha battuto agguerriti avversari umani nel telequiz statunitense Jeopardy dimostrando abilità linguistiche nel campo del linguaggio umano senza precedenti per una macchina), i tecno-scettici ritengono che si tratti al più di un sofisticato strumento che simula parzialmente la comprensione linguistica tramite la potenza di calcolo brutale e non riproducendo una “genuina comprensione” di quanto viene elaborato. Famosi futurologi, in primis Ray Kurzweil, hanno salutato il successo di Watson come un indizio che ci stiamo sempre più avvicinando alla Singolarità, ma hanno ottenuto solo di infiammare gli animi risentiti dei tecno-scettici. Questi ultimi, lontani dall’essere una ristretta minoranza, sono un insieme numeroso e variegato. Per dimostrare l’impossibilità di creare una mente senziente artificiale pseudo-umana le posizioni dei tecno-scettici spaziano infatti da chi scomoda la fisica quantistica, fino a chi si limita ad ironizzare od insultare chi pensa sia una sfida alla nostra portata. Una versione intermedia e molto diffusa, invece, frappone argomentazioni filosofiche come quella della stanza cinese ideato da John Searle.

Il Panda, che sulla Singolarità Tecnologica si definirebbe cautamente possibilista, vuole qui però stroncare l’impostazione filosofeggiante di chi ritiene sia impossibile creare un’intelligenza artificiale adducendo argomentazioni quali appunto quelli della stanza cinese. Cos’è la stanza cinese? Vediamo...

Quella della stanza cinese è un artifizio retorico che, partendo dal presupposto che la grammatica non equivale alla semantica, vorrebbe dimostrare che non è possibile costruire un’intelligenza artificiale di tipo generale. Se, in un futuro, vi fosse la possibilità di creare un programma in grado di dare l’impressione di comprendere il cinese (al punto di passare il test di Turing in quella lingua), sostengono questi tecno-scettici, allora, ignorando il fattore tempo e gli eventuali rallentamenti, si potrebbe anche sostituire il computer con una persona munita di un manuale che riproduca quel che farebbe il programma. La persona in questione, ad esempio un italiano, non saprebbe nulla del cinese e il manuale fornitogli ovviamente sarebbe scritto in lingua italiana. Si potrebbe chiudere quella persona in una stanza (la stanza cinese appunto) in cui entrerebbero solo i dati scritti in cinese da un interlocutore esterno e da cui uscirebbero solo le risposte in cinese scritto dopo che i dati in ingresso siano stati manipolati dall’italiano seguendo le istruzioni contenute nel suo manuale. I dati in uscita possono anche sembrare il risultato di un essere senziente che ha compreso i caratteri cinesi, ma l’italiano chiuso nella stanza in realtà non ha capito un bel niente del “dialogo” che sembra essere avvenuto tra chi ha inserito i dati scritti in cinese e le risposte (sempre in cinese) che esso stesso ha contribuito a produrre grazie alle procedure del manuale. Questo, sostengono i tecno-scettici, dimostra che nemmeno il computer potrebbe realmente comprendere il cinese, ma solo dare l’impressione a chi sta fuori dalla stanza cinese di esserne in grado.

Il vostro affezionato Panda, tecno-possibilista, detesta questo tipo di argomentazioni e proverà a spiegare perché l’esempio della stanza cinese sia una falsa dimostrazione. Innanzitutto i presupposti da cui parte sono che il programma esegua solo operazioni grammaticali e nessuna operazione semantica. Questo presupposto pare tendenzioso, comunque il vero problema è che si dice che dal momento che l’italiano chiuso nella stanza non ha capito realmente il dialogo in cinese pur essendone stato coinvolto, allora nemmeno il computer potrebbe fare altrettanto. E’ come dire che dato che un pistone non è una ruota, non si potrà mai costruire un’automobile. E’ ovvio che l’italiano non può capire il cinese, perché egli non è altro che il supporto tramite il quale le regole del manuale trovano attuazione, così come il pistone è funzionale al motore che farà girare la ruota dell’auto. Può funzionare un’auto senza i pistoni o senza le ruote? L’intelligenza artificiale della stanza cinese è ovvio che non sarebbe nel manuale o nell’operatore italiano, ma proprio nel loro connubio. A ben vedere è esattamente quel che avviene nel nostro cervello, dove le regole dell’elettrochimica preimpostate dal nel nostro codice genetico (il nostro manuale) trovano applicazione tramite la rete neurale che si trova all’interno delle nostre scatole craniche. I nostri neuroni privi di elettrochimica capirebbero alcunché? E viceversa?

La scatola cinese non è altro che una rappresentazione “teatrale” che rende facile immaginare quanto raccontato per renderlo più credibile, ossia un trucco retorico che sfrutta la tendenza umana a ritenere qualcosa tanto più probabile quanto più facile risulta per noi immaginarselo. Argomentazioni come quella della scatola cinese trasudano disonestà intellettuale e puzzano. Puzzano della solita vecchia paura ancestrale ed antropocentrica in stile “la terra è piatta e al centro dell’Universo”.

Si possano muovere critiche e alzare perplessità sensate sulla possibilità o meno di giungere alla costruzione di una mente artificiale e quindi anche ad una seguente super-intelligenza che ci porti tutti nell’età dell’oro della Singolarità Tecnologica. Sarebbe bene però che le argomentazioni a favore o contro fossero ponderate ed oneste perché, dati i problemi che ci toccherà affrontare in un futuro vicinissimo (surriscaldamento globale, desertificazione, sovrappopolazione, picco del petrolio, inquinamento, acidificazione degli oceani, ecc… ) e date le gravissime conseguenze che potrebbe provocare una Singolarità Tecnologica imprevista e mal gestita, l’argomento stesso non dovrebbe essere preso tanto alla leggera. Per quanto improbabile possa essere, la Singolarità comporta la possibilità, d’un sol colpo, di liberarci di problemi esistenziali a noi molto vicini, ossia di problemi globali evidentemente fuori dal nostro controllo e che potrebbero finire col condurci rapidamente ad un’estinzione di massa in cui l’essere umano farebbe parte delle razze estinte al pari dei dinosauri. Una tale ghiotta opportunità non può essere sottovalutata. D’altra parte se, anziché una super-intelligenza amichevole, si manifestasse (senza che noi fossimo preparati) una super-intelligenza malevola o anche solo insensibile al nostro destino, la Singolarità Tecnologica si trasformerebbe da età dell’oro a causa di estinzione anticipata ed improvvisa perché non avremmo modo di fronteggiare un nemico molto più intelligente di noi e che man mano che il tempo passa lo diviene sempre di più.

Se si giungesse effettivamente alla costruzione di una intelligenza artificiale paragonabile a quella umana, i costanti miglioramenti di software ed hardware e la possibilità di auto-evolvere oppure di riprogettarsi scientemente in versioni migliorate di sé stesse, spingerebbero ben presto quelle prime intelligenze artificiali ad oltrepassare di molto l’intelligenza umana. L’accrescimento delle facoltà intellettive di queste entità diverrebbe presto rapidissimo, perché entità sempre più intelligenti si presume che riuscirebbero ad apportare miglioramenti sempre più sofisticati e rapidi a sé stesse, velocizzando sempre più questo processo di accumulo intellettivo. La plasticità evolutiva ultrarapida del mondo sintetico (distante anni luce dai lunghi tempi dell’evoluzione biologica), unita alla possibilità di integrare le facoltà logiche simil-umane e quelle computazionali e mnemoniche dei computer, sommate alla possibilità di sfruttare pienamente Internet come un’immensa banca dati da cui attingere, renderebbe la Singolarità Tecnologica quantomeno plausibile sul piano puramente tecnico. Plausibile, tuttavia, a patto che si creda possibile creare delle intelligenze artificiali di tipo generale, ossia non limitate ad un unico e ristretto ambito (come accaduto fin ora). Non solo, la plausibilità tecnica dipende anche dal fatto che si creda oppure no che i problemi derivanti dalla presumibile iper-complessità di queste ipotetiche macchine pensanti non generi, ad un certo punto, degli effetti negativi superiori ai possibili miglioramenti. Già gli esseri umani, con la loro “modesta” intelligenza, come noto soffrono di una discretamente vasta varietà di patologie e disturbi psicologici e psichiatrici. Un’intelligenza un miliardo di volte superiore alla nostra è presumibile pensare che avrebbe una complessità proporzionale e quindi anche molti più modi possibili di guastarsi. Sarebbe tremendamente rischioso per noi vivere accanto a super-intelligenze paranoiche o gravemente depresse.

Lasciando stare l’intelligenza artificiale, si può dire che la “tecnologia” che supporta la nostra di intelligenza è , in ultima analisi, quella del DNA. La natura ha avuto a disposizione miliardi di anni per mettere appunto dei sistemi di correzione ed autoriparazione tali da garantire una certa stabilità al proprio “codice sorgente”. L’enorme varietà del mondo naturale (la tanto famigerata biodiversità), fa supporre che, almeno a livello biologico, vi sia un limite alla complessità interna degli esseri viventi. Sorpassato quel limite, probabilmente i rischi d’errore superano i possibili vantaggi evolutivi. La natura, quindi, ha reso sé stessa più resistente ai mutamenti non generando esseri ultra-adattabili a qualsiasi situazione, ma in altro modo. Far ciò, infatti, avrebbe richiesto DNA ultra-estesi ed ultra-complessi e, di conseguenza, anche ultra-sensibili ad eventuali “errori di compilazione”. Sembra che la selezione naturale abbia sorpassato l’ostacolo inventando il sesso (nel senso generico di riproduzione), ossia lasciando che le capacità adattative del sistema nel suo complesso fossero, per così dire, “sparpagliate” su un’infinità di mutevoli esseri viventi assai più semplici. Avendo come esempio solo il pianeta Terra e non potendo sapere se ciò che eventualmente vale per la biologia sia altrettanto valido per il mondo tecnologico, è impossibile stabilire con certezza se sia possibile oppure no quell’infinita corsa verso un’intelligenza sempre maggiore che sta alla base del concetto di Singolarità Tecnologica. D’altra parte è persino impossibile stabilire ora se, una volta raggiunta un’intelligenza di poco inferiore o superiore a quella umana, tali entità artificiali effettivamente trovino vantaggioso/interessante destinare gran parte delle proprie risorse ad automigliorarsi e ad evolvere, anziché seguire propri personali progetti. Un’intelligenza generale, infatti, è probabile che comporti intrinsecamente una certa autonomia ed autodeterminazione nel fissarsi obbiettivi e priorità. Non è detto che quelle “ambizioni sintetiche” combacino con quelle che noi “esseri biologici” potremmo attenderci od augurarci, perché quegli esseri non sarebbero stati forgiati dalle pressioni della selezione naturale che ha reso noi quel che siamo (anche intellettivamente parlando).

Il fatto è che nessuno ha mai avuto nulla a che fare con un’intelligenza artificiale generale per il semplice e banale fatto che non ne esiste ancora una. Tutto quel che si può dire al riguardo, compreso la sua effettiva realizzabilità o meno, ricade nell’ambito delle pure congetture. Questo approccio alla Singolarità Tecnologica tuttavia è viziata da un’idea di fondo per nulla scontata, ossia che la Singolarità debba giungere per forza da intelligenze completamente artificiali. Nulla vieta che si possa giungere alla Singolarità espandendo le nostre “umanissime” capacità intellettive. Non si deve necessariamente pensare ad innesti celebrali o modificazioni genetiche. L’organizzazione del lavoro, la scrittura, i PC ed ora Internet sono in effetti dei modi con cui gli esseri umani hanno potenziato le proprie capacità collettive. La super-intelligenza potrebbe manifestarsi come un ecosistema intellettivo che, similmente a quello biologico, affronti la complessità del mondo tramite tantissime e variegate unità relativamente semplici(noi), anziché un unico individuo iper-sofisticato (intelligenza artificiale evoluta). L’interazione tra l’evoluzione ed espansione di Internet, possibili nuove interfacce uomo-computer e l’affinamento e diffusione sempre più capillare dell’intelligenza artificiale specializzata (come quella di Watson ad esempio) potrebbero, in un futuro non troppo lontano, spingere quel processo d’accumulo d’intelletto molto al di là delle nostre attuali aspettative. Forse esiste già un embrione di super-intelligenza e noi ne siamo le componenti costitutive, ma del tutto ignare (come l’italiano della scatola cinese). L’inventore stesso della carta stampata, probabilmente, non avrebbe mai immaginato cosa essa avrebbe comportato in termini di aumento delle conoscenze nel giro di appena 2 o 3 secoli.

La possibilità di parcellizzare il lavoro intellettuale a bassissimi costi (come dimostrato egregiamente da Wikipedia), la possibilità di approdare a intelligenze artificiali specializzate di grandissimo valore come nel caso di Google o Watson, l’alfabetizzazione e scolarizzazione di intere popolazioni nel terzo mondo, la possibilità d’accesso ad Internet sempre più esteso, il progressivo miglioramento di traduttori automatici, la propagazione di infiniti applicativi informatici, la capacità di calcolo di computer in espansione costante, ecc… ecc… ecc…

Stiamo già oggi vivendo un drastico potenziamento della capacità intellettiva planetaria. Certo, siamo ancora distanti dal trasformarci in una super-intelligenza a tutti gli effetti. La direzione è giusta, ma non basta. Se si vuole arrivare per questa via ad una Singolarità Tecnologica benevola, occorre organizzarsi. La produzione culturale è ancora legata a modalità ormai superate derivate dalla tradizione cartacea e dalla protezione rigida del diritto d’autore. Non ci sono organizzazioni “ufficiali” che tentino di sfruttare le potenzialità della rete in modo organizzato e sistemico al fine di aumentare il “Q.I. planetario”. Il mondo accademico, ad esempio, è scarsamente coinvolto o stenta a prendere una posizione chiara e programmatica nei confronti del web. L’enorme potenziale culturale insito in Internet è brutalmente ignorato da chi, nella nostra società, dovrebbe per primo riconoscerlo. Gli intellettuali stentano a fornire una visione d’insieme che possa fornire degli spunti pratici. E’ persino possibile che la classe docente, in media, percepisca il web, più o meno consapevolmente, come ostile e pericoloso, solo perché i propri studenti lo conoscono meglio di loro oppure perché i docenti (per motivi anagrafici) si sentono disgustati da una forma di fruizione della cultura (Internet) di cui riescono a vedere chiaramente i difetti (reali o meno che siano), ma non i pregi. I libri stampati non hanno ucciso la cultura come credevano molti amanuensi, il cinema non ha ucciso i libri, la televisione non ha ucciso il cinema, il pc non ha ucciso la tv, Internet non ha ucciso i pc né tutto quel che è venuto prima. Basta con la paura serve intraprendenza. E’ ora di guardare oltre i singoli progetti web e tentare di creare e promuovere con ogni mezzo aggregatoti di strumenti culturali on-line di provata qualità. Se riusciremo in questa impresa innescheremo una Singolarità Tecnologica molto probabilmente benevola (dato che gli attori saremo noi e prodotti da laboratorio) che potrebbe quindi rivelarsi il miglior “acquisto” che l’umanità abbia mai fatto in tutta la sua storia biologica.


Buon futuro a tuti dal Panda

Nessun commento:

Posta un commento