martedì 18 dicembre 2012

Costruiremo un Singolarità Tecnologica Benevola – Parte 2

Nella “Parte 1” di questo nuovo ciclo di post di Pandemica-mente abbiamo sostenuto che la situazione globale è grave (se non disperata) e occorre quindi agire.

Ma come?

Senza tempo né risorse sufficienti cosa si può fare? Una risposta razionale e costruttiva, mi pare, sia: evolvere per oltrepassare i nostri attuali limiti cognitivi e/o fisici. Ovviamente l’evoluzione a cui mi riferisco non può essere quella darwiniana: ha tempi d’azione troppo lunghi e sistemi oltremodo brutali. L’evoluzione di cui necessitiamo è di tipo non-biologico. In altre parole ci occorre un balzo tecnologico, scientifico e cognitivo tale da garantirci sufficienti capacità di gestione planetaria (capacità che includano anche l’abilità di auto-moderarsi ed d’organizzarsi in modo consono e vantaggioso). Abbiamo quindi bisogno di sviluppare una seed-AI, ossia un’intelligenza in grado di auto miglioramenti ricorsivi che la possano condurla ad divenire anche massicciamente superiore a quella umana. Una seed-AI è il germe da cui può trarre origine una Singolarità Tecnologica (intesa come un balzo nello sviluppo talmente brusco da oltrepassare di molto le capacità di comprensione e previsione dell’attuale genere umano). La Singolarità Tecnologica, in quanto tale, eliminerà i limiti di tempo e risorse (sia tecnologiche sia cognitive) di cui si parlava prima e che rischiano di trasformarsi nella nostra fine (come civiltà, se non come razza o persino come pianeta vivente).

L’approccio con cui il Panda intende affrontare il tema della Singolarità Tecnologica non è divulgativo, né filosofico, ma, come il titolo di questo post lascia chiaramente intendere, ambisce ad essere un approccio progettuale e “costruttivo”.

A questo punto quindi si pongono due enormi problematiche:


1 – Come creare una super-intelligenza (la seed-AI) dato che l’attuale livello tecnologico e le conoscenze di Intelligenza Artificiale parrebbero insufficienti?

2 – Posto di riuscir a risolvere il punto 1, come controllare un’eventuale super-intelligenza con le nostre limitate intelligenze umane in modo che quella super-intelligenza non diventi ostile?


Parrebbero due problemi gravi ed insormontabili.

Ebbene sono gravi, ma non insormontabili.

Il punto cruciale, come spesso accade, non è tecnico (come sembrerebbe ad una prima impressione), quanto piuttosto il punto di vista che si adotta. Il punto di vista adottato dal Panda, non è quindi strettamente tecnico-scientifico, poiché per quel verso parlare di seed-Ai e Singolarità Tecnologica equivale a parlare di fantascienza o di filosofia o di futurologia, ma non certo di progetti realizzabili in tempi ragionevoli. Allo stato attuale non sappiamo cosa sia la coscienza e non siamo in grado di creare una intelligenza artificiale generale (cioè un’intelligenza in grado di affrontare vari problematiche e non una specifica mansione per cui è stata esplicitamente progettata, come ad esempio il giocare a scacchi). Super-computer ed algoritmi hanno fatto passi da gigante, ma sono ancora molto distanti dal raggiungere un tale traguardo. Il pensare a software ed hardware, quando si parla di intelligenza artificiale, è però un’inaccettabile limitazione mentale derivante più da una sorta di infatuazione creata dall’immaginario fantascientifico anziché da un’effettiva necessità operativa.

Quello che distrae è la parola “artificiale”. Considerare “artificiale” (di intelligenza artificiale) con il significato di “totalmente non naturale” è ancora una volta limitativa. Una automobile non è certo un organismo vivente. La maggior parte delle persone definirebbe un’automobile come qualcosa di decisamente “artificiale” eppure il guidatore non lo è e, senza di lui, il veicolo è decisamente inutile ed inerte. Internet, allo stesso modo, viene concepito dai più come una rete di computer, eppure dietro a quei computer sono seduti milioni di persone in carne ed ossa (senza le quali la rete di cavi e calcolatori sarebbe assolutamente priva di senso e scopo). Quel che intendo dire è che molto di ciò che consideriamo “artificiale” (nel senso di assolutistico del termine), in realtà è una sorta di simbiosi tra artificiale e naturale. Questo ci aiuta a considerare che anche un’intelligenza artificiale, potrebbe essere concepita come simbiosi, anziché come “macchina autonoma” completamente sintetica. Questa intuizione filosofica, può sembrare astratta, ma ha importanti ripercussioni pratiche al fine che il Panda si è proposto: costruire una Singolarità Tecnologica Benevola.

L’intelligenza umana e quella dei pc sono meravigliosamente complementari: plastica e versatile la prima, potente e precisa la seconda. Una accoppiata fantastica per una simbiosi! Sì, sì, vabbè, si dirà, ma anche i cyborg sono fantascienza e non realtà! Ed infatti il Panda non sta parlando di cyborg, ma più banalmente di Internet! Internet o se preferite il web, ha tutte le carte in tavola per consentire una tale simbiosi d’intelletti. L’idea di fondo non è neppure originale. La si trova, ad esempio, magistralmente espressa in un bel articolo di Ugo Spezza intitolato “La Net-Sfera”. Il concetto di fondo è che nel web, la somma di tanti cogni-duo (ossia di elementi fondati da un essere umano ed un pc) rappresenta un moltiplicatore di intelligenza incredibilmente potente. Come è stato detto in tanti ambiti, anche per la Net-Sfera vale il concetto secondo il quale il totale supera la somma delle parti. Wikipedia, Google, Wolfram Alpha, la cultura open source, TED, i servizi di social network, ecc… il web sforna colossi dell’ingegno umano con un ritmo mai visto prima. Trova soluzioni che nessun essere umano aveva concepito. Di fatto si può dire che il web è già una super-mente, ma è in fase embrionale: si sta sviluppando in modo casuale, incoerente, dispersivo. In una parola si sta sviluppando senza autocontrollo né consapevolezza.


Buon futuro a tutti dal Panda.

7 commenti:

  1. Caro Panda, ho letto ambedue le parti di questo tuo post e tutto sommato l'argomentazione mi e sembrata molto chiara ed anche "abbastanza logica". L'elenco dei problemi nella prima parte -in seguito alla tua frase: ..."le questioni climatiche si sommano e si incastrano (ed aggiungerei anche...e si intrecciano) in modo tremendamente intricato con altre gravi questioni come: (e poi viene la tua lista) mi e' sembrato del tutto giusto e vero. (e non mi e sembrato manacasse nulla di essenziale dall' elenco di gravissime ed anche urgentissime questioni)

    Meno convincente (almeno per me) e' stata invece la tua seconda parte. A me non sembra...(ma ammetto di non esserne sicuro) che risolvere in qualche modo tutte quelle gravissime questioni "incastrate ed intrecciate in modo tremendamente intricato" sia una questione di qualita' o di quantita di intelligenza. (ammettendo che l'intelligenza si possa davvero definire)

    ...Ed intelligenza naturale od artificiale che sia, o per le due in combinazione. Quando una decina di variabili ognuna di esse gia complicatissima e dovuta a decine di altre variabili. le quali " si incastrano tutte in modo intricato" non credo si possa mai snodare l'insieme del gomitolo arrovigliato (collocato all'interno di un'altro gomitolo arrovigliato, all'interno di un terzo) od arrivare a capire come funzioni o come si possa modellare la traiettoria dell'intero sistema, e capire bene come si comporta .....(e come poi snodare l'insieme) semplicemente avendo piu intelligenza a propria disposizione.

    Fondamentalmente tutti quei problemi o questioni risalgono ad una sola causa. La presenza di una societa di umani sulla terra e probabilmente anche al fatto che e' ormai troppo numerosa e troppo vorace. Correggi quei due aspetti ed hai risolto molto probabilmente l'intero problema (almeno se cio' fosse stato fatto un mezzo secolo fa') senza bisogno di un'ultra intelligenza superiore di un qualsiasi tipo. E non farlo ed anche cinque milioni di super computer tutti collegati a sette miliardi di esseri umani in un'enorme singolarita benevola, e credo non ci riuscirai.

    Almeno cosi la pensa un solo essere umano ovviamente con solo la sua propria intelligenza naturale (o la sua stupidaggine ed ignoranza) a disposizione ! Ma mi farebbe comunque piacere ricevere una tua risposta al mio argomento.

    RispondiElimina
    Risposte
    1. Complimenti Max, sei andato al nocciolo della questione al primo colpo! Hai enunciato egregiamente quel che è stato a lungo anche il mio principale dubbio in merito alla Singolarità: più intelligenza non vuol dire automaticamente possibilità di cambiare il mondo. Vi è però un errore di fondo (almeno credo, visto che, ignorante e limitato, io lo sono di certo). L'errore non è qualitativo, è quantitativo (o uno strano mix tra i due se si preferisce). La Singolarità non sarebbe qualcosa di più intelligente di noi, ma qualcosa di radicalmente, massicciamente, alienamente più intelligente di noi. Una super-intelligenza non è, in altri termini, una versione più brillante di noi presi singolarmente o in gruppo. La differenza intellettuale tra noi e lei potrebbe essere maggiore di quella che distingue noi da un criceto o magari da una singola formica o da un'ameba. Sono solo esempi, ma servono a dare l'idea della radicalità del salto che avverrebbe in termini di intelletto. Qualcuno ha giustamente detto che la Singolarità (o per meglio dire la seed-AI che la precederebbe) non sarebbe un'invenzione (per quanto importante), ma un salto evolutivo, in cui un grado di consapevolezza abbastanza evoluto riesce a mettere le mani all'interno della suo stesso sistema evolutivo, ottimizzandolo, dal momento che si sostituirebbe al caso nella sua gestione.

      Un intelletto ricorsivo di quel tipo potrebbe risolvere il "problemuccio" da noi innescato sfruttando il contesto in modi per noi incomprensibilmente efficaci. Fingendo che il garbuglio di problemi da noi innescato sia un tumore maligno, una super-intelligenza benevola potrebbe "guarirci" dal tumore non come lo faremmo noi (tentando cioè di eliminare il tumore combattendolo), ma piuttosto modificando sapientemente (ed elusivamente dal nostro punto di vista) il contesto in cui opera il tumore stesso, in modo da farlo ritornare un gruppo di cellule sano come un pesce.

      L'esempio è un po' contorto, lo so, ma non è casuale. In laboratorio (e per ora solo lì purtroppo) qualcuno è veramente riuscito a trasformare cellule cancerogene in cellule sane. Il procedimento non ha ucciso le cellule tumurali ma le ha riportate allo stadio naturale manipolandone appunto il contesto (vedi qui se ti interessa: http://pandemica-mente.blogspot.it/2012/10/tumori-che-insegnano.html).

      Se ci siamo riuscti persino noi a fare una cosa del genere, cosa potrebbe fare una super-intelligenza?

      Se vedi il sistema in cui viviamo non tanto come un malato di tumore, ma piuttosto come un paziente affetto dal tumore che, per una sorta di follia, si oppone attivamente a qualsiasi tentativo di cura, la super-intelligenza riuscirebbe comunque a curarlo, poichè riuscirebbe ad operare senza che il paziente stesso possa intuire che qualcuno o qualcosa ha iniziato a curarlo.

      So che questi sono solo esempi, ma non c'è modo di immaginare come opererebbe un'intelligenza tanto superiore alla nostra da essere per definizione insondabile. Un'intelligenza superiore a noi non in un singolo settore o in un certo ambito (come potrebbe essere quello scientifico), ma in tutti i possibili ambiti compresi quelli artistici, empatici, morali, etici e persino altri di cui noi non sappiamo neppure l'esistenza.

      Spero di essere riuscito a comunicarti il genere di differenza che passa tra l'intelligenza superiore di cui parli tu e quella a cui alludo io parlando di Singolarità.

      Comunque sia grazie di cuore per il tuo splendido intervento.

      Un saluto a Max e a voi tutti dal Panda

      Elimina
  2. Segue il mio commento diviso in quattro parti perche purtroppo troppo lungo per essere “postato” in una sola, e molto probabilmente cio’ perche’ “impostato” malissimo !

    Grazie Alessandro-Panda (o Panda-Alessandro) per questa tua risposta al mio commento. E sono anche contento che il mio commento ti sia piaciuto.... e grazie per il complimento. Secondo me, e' di nuovo tutto chiaro ed "abbastanza logico". Ho seguito senza difficolta’ - e credo aver capito benissimo- tutto cio’ che mi hai risposto e spiegato.

    E concludo che si puo' solo sperare che fra un bel po' di tempo (e secondo me ben dopo che la presente societa' di umani sulla terra si sara’ gia' completamente auto-distrutta) l'evoluzione biologica (non quella sociale) riuscira' a produrre degli esseri intelligentissimi, o almeno un po meno cretini di noi ed anche "migliori" sotto vari altri aspetti e profili non necessariamente solo "razionali" e cioe’ nei suoi valori, norme di comportamento, costumi, "caratteristiche di civilta", tipiche emozioni, -tali gelosia, invidia, rabbia- (cioe piu amore, meno rabbia, e meno impulsi violenti e distruttivi, ed ecc. ecc.) O forse sara' una combinazione di evoluzione biologica e sociale e tecnologica (o "multi-dimensionale) a produrla? (ed Inshallah, come dicono i Mussulmani)

    Ma nel frattempo mi e’ piaciuto piu’ di tutti gli altri, il tuo esempio seguente e quindi fammi cercare di dirvi su qualche cosa di a meta’ intelligente.... su quell'idea ....e su quel particolare "paziente testa-tosta”:

    "Se vedi il sistema in cui viviamo non tanto come un malato di tumore, ma piuttosto come un paziente affetto dal tumore che, per una sorta di follia, si oppone attivamente a qualsiasi tentativo di cura, la super-intelligenza riuscirebbe comunque a curarlo, poichè riuscirebbe ad operare senza che il paziente stesso possa intuire che qualcuno o qualcosa ha iniziato a curarlo.

    Quel paziente mi fa pensare subito anche al "povero Chavez" il quale sembra che per molto tempo si sia rifiutato di farsi curare dal cancro (o di farsi fare una buona e completa diagnosi di tutti i suoi piccoli sintomi che mano mano si stavano sviluppando ed accumulando nel suo corpo.) E quindi e' poi dovuto andarsene a Cuba (probabilmente per non farsi far fuori da un dottore Venezolano di "ceto alto" che aveva studiato

    RispondiElimina
  3. medicina a Harvard e si era fatto vari amici nella CIA)....non so quante volte per varie chemoterapie ed interventi chirurgici... ed e’ tuttora non ancora sicuro se ce la fara' o meno.

    Ed "il povero Chavez" e' ovviamente "un' entita’ biologica". E poi anche psicologica e politica ed. ecc…. le quali sono "proprieta emergenti" di molte entita’ biologiche. Ma cosi' come Chavez anche l'intera societa' umana (un'entita’ sociale) (ma composta da moltissime entita’ biologiche e da vari sistemi che piu’ o meno le integrano in chiave sociale) sulla terra. E malgrado tale entita’ sociale non sia affatto tutta "Chavista", e per bene o per male che cio’ possa essere poi considerato.
    Ma anche le entita’ sociali producono poi altre entita’ emergenti....come il Chavismo, o "l'ordine capitalista neoliberale", o la globalizzazione”, od il movimento ambientalista, o la “democrazia”, o varie partitocrazie del cavolo, ed ecc. ecc. (e diciamolo pure riescono anche a produrre il BerlusKonismo Berlusconiano numero uno, due, tre, quattro e forse anche cinque)

    Per semplificare un po’ questa mia chiaramente brillantissima diagnosi-analisi diciamo che il corpo umano...(e di qualsiasi altro animale) e' composto di un corpo intero (integrato da vari "sistemi infrastrutturali" come quello nervoso, osseo, e cardiaco fatto di vene e di arterie, ed ecc. ) piu di tutta una serie di organi, piu dalle cellule che compogono i vari e diversi organi , ed il resto del corpo, piu’ varie altre strutture a livello intra-cellulare.

    E quando l'animale "si becca un cancro"....(o se lo auto-induce mangiando porcherie inquinate per mezza vita) tale cancro puo' andare a finire (o ad emergere) in uno o piu' (ma tipicamente piu', almeno dopo un po’, ed una volta ache si sparge in giro) "livelli della sua integrazione biologica" e quindi qualsiasi terapia proposta o amministrata deve andare a cercarlo e rimediarlo (il cancro) li’ dove si trova.. e nei "vari livelli interconnessi"

    Ed in senso simile (o almeno leggermente analogo) per "il corpo sociale" che e' la totalita' della societa' umana sulla terra. Le cellule sono i sette miliardi di umani. Gli "organi costitutiti” sono le 196 "nazioni-stato" ....(in questo momento ovviamente una piu cretina e corrotta dell'altra...cioe' tutte malate di vari "cancri")...e i"grandi sistemi infrastrutturali" sono invece quelli della finanza....(che fa' scorrere il denaro-sangue)....quello energetico (che fa scorrere altro sangue- petrolio o altre forme di energia)....ed il grande sistema composto da tutte le supply e value chains di estrazione di risorrse/ produzione e di distribuzione e "vendita" di vari "prodotti e servizi" (la maggior parte dei quali completamente inutili) ... al mondo di consumatori...(tutti rimbecilliti da un'altro _sub-sistema, cioe’ quello dei media, della

    RispondiElimina
  4. pubblicita’, ed anche di molte istituzioni accademiche) ....e con le production e supply chains agevolate o permesse dal sistema di trasporti composto da vari sub-settori...(marittimo, terrestre, piu’ aviazione commerciale e di “turismo”) ed ecc. ecc.
    Quando finalmente appare sul palcoscenico terrestre Super Malsano il nostro Super Dottore Intelligentissimo….(arrivato da poco da un’altra galassia dove vivono solo esseri appartenenti alla Singolarita Benevola)….cerca di esaminare e di fare del suo meglio per aiutare sia Chavez che l’intera societa umana sulla terra. E vediamo un po’ cosa potrebbe succedere (e molto probabilmente davvero accadrebbe)
    Chavez probabilmente gli sorride, lo ringrazia per essere venuto fin sulla terra per cercare di curarlo, gli fara’ magari anche una o due battute divertenti in Spagnolo (lingua che il Dottor Suuper Intelligentissimo conosce gia da prima che partisse e quindi capirebbe immediatamente) e poi felice e contento (dopo aver appurato che il simpatico Dottore non e’ un agente della CIA) gli concederebbe il suo permesso per intervenire sul suo corpo.
    Cosa farebbe invece la Societa Umana Intera (cioe la SUI…e si potrebbe anche magari aggiungere GENERIS per quel che riguarda la galassia) in particolare se rappresentata dai suoi “massimi vertici”? Direbbe sicuramente al nostro caro Super Dottore…. “Ne’ Dotto’ ma lei che vuole e chi l’ha mandato qui per venire a rompere? E fra l’altro chi cavolo si crede di essere? Lei piu’ intelligente di noi? Ma se ne vada a “quel paese” !
    Al che il povero dottore non conoscendo quell’ espressione italiana perche’ non inclusa nel suo triplo super computer mentale o perche’ il suo super computer mentale e’ temporaneamente off line con tutti gli altri super computer nella sua galassia di origine, chiederebbe ….”vi ringrazio molto per la vostra gentilissima accoglienza ma allora da quale paese precismente vorreste che io incominciassi le mie cure? E prima sul sistema finanziario o prima su quello energetico? Quale dei due sembra a voi il piu malato nelle sue politiche? Dopodiche i “massimi vertici” chiamerebbero subito vari agenti di sicurezza ….per togliere dai piedi “sto buffone”.
    Ma il bravissimo Dottore essendo super intelligente ed anche molto scaltro capirebbe subito che i suoi interlocutori sono sicuramente fra gli esseri piu malati sulla terra e quindi procederebbe nonostante le loro sgarbatezze alla sue cure. (naturalmente solo se I massimi vertici non l’avrebbero gia mandato a Guantanamo per schiarirsi un po’ le idee e capire un po’ meglio chi comanda su Pianeta Terra).
    Ma dato che il Super Dottore intelligentissimo capirebbe sicuramente ANCHE quale sarebbe la sua sorte (disgraziata) se rimanesse troppo a lungo su pianeta terra….deciderebbe di tornarsene subito alla sua propria galassia e manderebbe tutti gli umani davvero a quel paese…il quale non sarebbe sicuramente quello di Alice nel paese delle Meraviglie.. (malgrado I vari conigli bianchi ed altri esseri mezzi matti, ma piuttosto nel paese di Mad Max Numero III….un mio simpatico antenato che credo molti gia conoscano….

    RispondiElimina
  5. E cosi almeno ci siamo forse fatti almeno un paio di risate…..(ma tutte le tue idee Pandesche o Pandestine, o Clandestine…. sono tuttte buone e molto interessanti e quindi –e di nuovo come direbbe Chavez – “Muchisimas Gracias y Hasta Pronto de Nuevo Entonces” !
    Ed anche Saluti cordiali) ….da Max I. (non ancora del tutto “mad as the mad hatter” ..ma quasi, e sempre disposto a fare amicizia con Alice od altri simili personaggi veri od inventati , ed in particolare con Super Dottori Intelligentissimi ….e che abbiano dei dottorati o meno) ( e se non ne hanno magari ancor meglio)

    RispondiElimina
    Risposte
    1. Grande Max. PEr quel che mi rigurda le risate sono sempre ben accette. Comunque sei un vulcano!

      Ciao

      Elimina