#benjamin labatut | Explore Tumblr Posts and Blogs

ilquadernodelgiallo · 3 months

Text

Ma forse le cose non stanno davvero così, aveva suggerito Nelly al suo pubblico: la natura potrebbe anche essere estremamente caotica, priva di leggi capaci di dar conto della sua evidente eterogeneità , di concetti in grado di dominare la sua complessità crescente. E se la natura non potesse essere colta nel suo insieme? La nostra civiltà doveva ancora fare i conti con questa eventualità terrificante e lei dubitava molto che ci sarebbe mai riuscita, perché per la scienza, la filosofia e la razionalità sarebbe stato un colpo letale. Invece, aveva detto Nelly, gli artisti avevano già accolto pienamente quell'ipotesi: lei riteneva che la riscoperta dell'irrazionale fosse la forza motrice dietro tutti i movimenti d'avanguardia, movimenti che, anche agli occhi dei profani, apparivano pervasi da un'inesauribile energia faustiana, un'urgenza, una tragica caduta libera in cui tutto era permesso. _______________

Perdere la fede è peggio che non averla mai avuta, perché ciò che resta è un'enorme voragine, un po' come il vuoto lasciato dallo Spirito quando ha abbandonato questo mondo maledetto. Ma per loro natura queste cavità a forma di dio chiedono di essere riempite da qualcosa di altrettanto prezioso di ciò che si è perso. Ed è la scelta di quel qualcosa - sempre che sia una scelta - a determinare il destino degli uomini. _______________

Johnny adorava l'America quasi quanto io la disprezzavo. Quel paese gli fece qualcosa. Tutto quell'esasperante, sconsiderato ottimismo, tutto quel gioviale candore sotto cui la gente nasconde la crudeltà tirarono fuori il peggio da lui. _______________

Ma non si fermò qui. Continuò a lavorarci su concependo quella che oggi chiamiamo «sonda di von Neumann»: una navicella spaziale in grado di costruirsi da sola, ripararsi da sola e migliorarsi da sola, che potremmo mandare a colonizzare i pianeti esterni del nostro sistema solare, e da lì verso i più oscuri recessi dello spazio. Queste sue macchine potrebbero raggiungere mondi remoti, avventurandosi molto più in là di dove qualunque essere umano - o, quanto a questo, qualunque entità biologica - potrebbe mai arrivare. Approderebbero in lande aliene, si procurerebbero i materiali necessari per assemblare copie di se stesse, e poi spedirebbero questa progenie perfezionata in un interminabile viaggio nel vuoto, spingendosi sempre più avanti, disseminando l'universo della loro discendenza, continuando a prosperare anche dopo l'estinzione del genere umano. Teoricamente un'unica sonda di von Neumann che viaggiasse al cinque per cento della velocità della luce potrebbe replicarsi in tutta la nostra galassia in quattro milioni di anni. Ma per quanto meraviglioso, questo suo esperimento mentale, al pari di tante altre cose nella scienza, potrebbe produrre scenari inquietanti. Che cosa accadrebbe se, come capita comunemente in tutti i processi di autoreplicazione, una delle sonde subisse una piccola mutazione? Questo minuscolo errore, questo scarto quasi impercettibile, potrebbe influire su uno dei suoi processi fondamentali, modificandone le caratteristiche e gli obiettivi, e poi diffondersi nei futuri discendenti, trasformando questi dispositivi tecnologici in modi impossibili da prevedere. [...] Quanto potrebbero allontanarsi da ciò per cui erano stati programmati? Smetterebbero di rispondere ai comandi, scegliendo di restare su un unico pianeta e svilupparsi lì in tutta tranquillità ? Diventerebbero famelici, un gigantesco sciame che consuma ogni cosa al suo passaggio perseguendo nuovi obiettivi, prefiggendosi scopi e intenti che andrebbero al di là della semplice scoperta ed esplorazione? E se decidessero di invertire la rotta e tornare indietro, di ripercorrere in senso contrario il loro itinerario di milioni di anni pretendendo da noi - i loro genitori smarriti da tempo - il perdono delle loro malefatte e una risposta alla più pressante delle domande, la stessa che assilla e tormenta anche la nostra specie: perché ? Perché li abbiamo creati e poi abbandonati? Perché li abbiamo sguinzagliati nelle tenebre? Per quanto fantasiose ed estremamente improbabili, queste prospettive future ci pongono di fronte a quesiti interessanti. Siamo responsabili delle cose che creiamo? Siamo vincolati a quelle cose dalla stessa catena che sembra legare fra loro tutte le azioni umane? [...] ...non possiamo negare che ci stiamo lentamente avvicinando a un momento nella storia in cui la nostra relazione con la tecnologia sarà fondamentalmente alterata, dato che le creature della nostra immaginazione cominciano a poco a poco a prendere forma reale, e noi dobbiamo assumerci la responsabilità non solo di crearle, ma anche di prendercene cura. [...] Nonostante il fallimento, una delle intuizioni decisive avute da Turing osservando i suoi «bambini» fu che per fare progressi in direzione della vera intelligenza le macchine avrebbero dovuto essere fallibili: era necessario che fossero capaci non solo di sbagliare e di non seguire alla lettera le istruzioni ricevute, ma anche di avere un comportamento casuale e addirittura insensato. Turing riteneva che la casualità avrebbe svolto un ruolo importante nelle macchine intelligenti, perché avrebbe permesso reazioni inedite e imprevedibili, creando un ampio spettro di possibilità fra le quali un programma di ricerca avrebbe potuto individuare l'azione più appropriata a ogni particolare circostanza. _______________

I cavernicoli hanno creato gli dèi» disse. «Non vedo perché noi non dovremmo fare lo stesso». _______________ ...«qualcosa doveva pur sopravvivere alle bombe», come amava dire quando qualcuno gli chiedeva a cosa sarebbero servite le sue macchine autoreplicanti _______________ «Gli dèi sono una necessità biologica,» mi disse in una sera particolarmente calda nella sua casa di Georgetown, durante quell'ultima estate in cui riusciva ancora ad andare in giro con le stampelle «intrinseca alla nostra specie come il linguaggio o i pollici opponibili». Secondo lui, la fede aveva garantito ai popoli primordiali una fonte di forza, potere e significato che all'uomo moderno mancava completamente; ed era a questa mancanza, a questa perdita profonda, che ora la scienza doveva dedicarsi. «Non abbiamo alcuna stella polare,» mi disse «nulla a cui guardare o aspirare, perciò stiamo regredendo, ricadendo nell'animalità , perdendo quella cosa che ci ha permesso di trascendere ciò a cui originariamente eravamo destinati». Jancsi pensava che, se intendeva sopravvivere al Novecento, la nostra specie avrebbe dovuto colmare il vuoto lasciato dalla scomparsa degli dèi, e la sola e unica candidata a riuscire in questa strana trasformazione esoterica era la tecnologia: la nostra conoscenza tecnica in continua espansione era l'unica cosa che ci distinguesse dai nostri progenitori, dato che in fatto di etica, filosofia e pensiero generale non eravamo meglio (anzi, eravamo molto, molto peggio) dei greci, delle popolazioni vediche o delle piccole tribù nomadi che ancora si aggrappavano alla natura quale unica dispensatrice di grazia e vera misura dell'esistenza. In ogni altro campo non avevamo fatto nessun passo avanti. Il nostro sviluppo si era arrestato in tutte le arti tranne una, la téchne, in cui il nostro sapere era diventato così profondo e pericoloso che avrebbe fatto tremare dalla paura i Titani che un tempo terrorizzavano la terra, e sembrare gli antichi signori delle foreste innocui come spiritelli e buffi come folletti. Il loro mondo era passato. Perciò adesso avrebbero dovuto essere la scienza e la tecnologia a fornirci una versione migliore di noi stessi, un'immagine di quel che potevamo diventare. [...] «Questi dèi sono morti viventi. Hanno perso la loro gloria. Non possono dare senso al mondo perché sono residuali, reliquie in frantumi che ancora ci portiamo dietro, anacronistici e inefficienti quanto i calessini trainati da cavalli che si vedono per le strade di New York. Il fatto che ci siano ancora non significa che siano di una qualche utilità. _______________

gli dicevo che dovevamo semplicemente accettare la nostra fragilità , imparare a convivere con l'incertezza e sopportare le conseguenze dei nostri tanti errori senza ricadere in modalità di pensiero superate e pericolose. Il connubio che lui proponeva fra la tecnologia più avanzata e i nostri più arcaici meccanismi di trascendenza poteva solo portare all'orrore e al caos, a un mondo che si sarebbe evoluto fino ad arrivare al punto in cui nessuno, per quanto ricco, intelligente o potente, sarebbe più riuscito a comprenderlo. _______________

Quando già sapevamo che la sua malattia sarebbe stata fatale, e che sarebbe peggiorata in fretta, gli chiesi a bruciapelo come poteva contemplare con assoluta compostezza l'eventualità che si uccidessero centinaia di milioni di persone in un attacco nucleare preventivo contro l'Unione Sovietica, e tuttavia non saper affrontare la propria mortalità con un minimo di calma e di decoro. «Sono due cose completamente diverse» mi rispose. _______________

mi chiese di scegliere due numeri a caso e poi domandargli di sommarli. Pensai che scherzasse. Gli era tutt'a un tratto tornato il senso dell'umorismo? Sorrisi, prima di rendermi conto che era mortalmente serio. Nel corso della mia visita precedente, appena un mese prima o giù di lì, la sua mente era ancora acuta come sempre. Ma ora il suo genio si era guastato al punto che non ricordava più neanche l'aritmetica di base. Le sue vastissime facoltà intellettuali erano scomparse. Non restava più niente del talento che era stato la sua caratteristica principale, e l'espressione di cieco panico che gli distorceva i lineamenti mentre quella consapevolezza lo sopraffaceva a poco a poco fu la cosa più straziante che mi sia mai capitata di vedere. Era uno spettacolo atroce, e non riuscii ad andare oltre un paio di numeri pronunciati con voce strozzata - Quanto fa due più nove? Quanto fa dieci più cinque? Quanto fa uno più uno? - prima di fuggire in lacrime da quella stanza. _______________

Riteneva anche che esistesse una soglia, un punto critico che una volta superato avrebbe dato il via nelle sue macchine a un processo evolutivo, portando ad automi la cui complessità sarebbe cresciuta esponenzialmente, allo stesso modo in cui gli organismi biologici prosperano e mutano attraverso la selezione naturale creando l'intricata bellezza che ci circonda. Questa progressione avrebbe permesso ai membri di ogni successiva generazione di produrre non solo copie identiche di se stessi, ma una progenie di una complessità sempre maggiore. «Ai livelli più bassi, probabilmente, la complessità è degenerativa,» scriveva «e quindi ogni automa ne potrà produrre solo altri meno complicati; ma esiste un livello oltre il quale il fenomeno potrebbe diventare esplosivo, con conseguenze inimmaginabili; [...] «Se avessero la possibilità di evolvere liberamente nella sconfinata matrice di un cosmo digitale in continua espansione,» scriveva «i miei automi potrebbero assumere forme inimmaginabili, ripercorrendo gli stadi dell'evoluzione biologica a un ritmo incomparabilmente più rapido di quello delle creature in carne e ossa. Tramite ibridazione e impollinazione, finirebbero per diventare più numerosi di noi, e forse, un giorno, arriverebbero al punto di rivaleggiare con la nostra intelligenza. All'inizio i loro progressi sarebbero lenti e impercettibili. Ma poi prolifererebbero e farebbero irruzione nelle nostre vite come uno sciame di voraci locuste, lottando per assicurarsi il loro legittimo posto nel mondo, aprendosi una strada verso il futuro _______________

Tuttavia il progresso tecnologico sempre più rapido sembra in procinto di avvicinarsi a una singolarità fondamentale, un punto di non ritorno nella storia della nostra specie oltre il quale l'esistenza umana come la conosciamo non potrà continuare. Il progresso diventerà incomprensibilmente veloce e complicato. Il potere della tecnologia in quanto tale è sempre ambivalente, e la scienza non può che essere neutrale, limitandosi a fornire mezzi di controllo applicabili a qualunque scopo, e indifferenti a tutto. Il pericolo non sta nella natura particolarmente distruttiva di una specifica invenzione. Il pericolo è intrinseco. Per il progresso non c'è cura». _______________

Prima che von Neumann diventasse indifferente a tutto e si rifiutasse di parlare anche con amici e parenti, gli chiesero cosa sarebbe stato necessario perché un calcolatore, o qualsiasi altra entità meccanica, cominciasse a pensare e comportarsi come un essere umano. Lui si prese moltissimo tempo prima di rispondere, con una voce non più forte di un sussurro. Disse che avrebbe dovuto crescere da solo, e non essere costruito. Disse che avrebbe dovuto comprendere il linguaggio, leggere, scrivere, parlare. E disse che avrebbe dovuto giocare, come un bambino. _______________

[Lee o I deliri dell'intelligenza artificiale] Tutti questi programmi giocano a scacchi in un modo molto diverso da noi. Non si affidano alla creatività o all'immaginazione, ma scelgono le mosse migliori tramite la pura potenza di calcolo; mentre il giocatore professionista medio è in grado di vedere dalle dieci alle quindici mosse avanti, questi algoritmi possono calcolare duecento milioni di posizioni al secondo, circa cinquanta miliardi di posizioni in poco più di quattro minuti. Questo approccio, in cui il computer passa in rassegna ogni singola possibilità derivante da ciascuna mossa, viene definito, giustamente, forza bruta. Mentre un giocatore umano, per compiere le proprie scelte sulla scacchiera, usa la memoria, l'esperienza, il ragionamento astratto di alto livello, il riconoscimento di schemi ricorrenti e l'intuizione, un motore scacchistico non comprende affatto il gioco, ma si limita a impiegare la sua potenza di calcolo e a prendere poi una decisione attenendosi a un complesso sistema di regole stabilite dai suoi programmatori. [...] Il gioco del go, però, è molto diverso. La sua estrema complessità rende impraticabile il metodo forza bruta. _______________

La mossa 37 non faceva parte della memoria di AlphaGo, e non era nemmeno l'esito di una regola preprogrammata o di una linea guida codificata manualmente nel suo cervello di silicio. Era stata creata dal programma stesso, senza alcun input umano, ma la cosa più impressionante era che AlphaGo sapeva - nella misura in cui un essere non senziente può «sapere» qualcosa - che si trattava di una mossa che un maestro di go non avrebbe mai preso in considerazione. [...] Il sistema, disse ai giornalisti, non era stato costruito manualmente, né aveva ricevuto una serie completa di regole da seguire, a differenza di quanto successo vent'anni prima con Deep Blue, il motore scacchistico dell'IBM. AlphaGo si basava sull'apprendimento per rinforzo attraverso partite contro se stesso, il che, in pratica, significava che si era insegnato a giocare da solo. _______________

La prima rete neurale di AlphaGo aveva analizzato quelle migliaia e migliaia di partite, imparando gradualmente a imitare, copiare e prevedere le mosse che un giocatore dilettante avrebbe effettuato in ogni particolare situazione. Questo primo insieme di dati fornito dagli esseri umani rappresentava il «buonsenso» di AlphaGo, ed equivaleva, molto approssimativamente, alle conoscenze che un principiante avrebbe potuto ricavare dai manuali o dalle lezioni ricevute da un maestro. DeepMind la definiva «rete di policy». Utilizzandola, AlphaGo era in grado di giocare partite discretamente buone, allo stesso livello di un dilettante umano, ma era ancora molto lontano dal poter competere con un vero professionista. Per arrivare a quel livello doveva sviluppare la capacità che hanno i grandi giocatori di vedere l'intera tavola e intuire come la partita evolverà da una determinata posizione, il talento tipicamente umano di «leggere la tavola» che i giovani giocatori impiegano anni a sviluppare, e che Lee Sedol aveva acquisito dopo innumerevoli ore trascorse a fissare la griglia vuota giocando nella mente ogni mossa e contromossa. AlphaGo aveva bisogno di un sistema che gli permettesse di valutare ogni posizione sulla tavola, così da poter raggiungere una più ampia comprensione del gioco, e di saper dire, momento per momento, se si stava avvicinando alla vittoria o rischiava la sconfitta. Ma per far questo doveva affrontare se stesso. Così AlphaGo aveva preso la rete di policy creata basandosi sulle partite amatoriali e aveva giocato contro se stesso, parecchi milioni di volte. [...] Nel corso di milioni di partite aveva apportato miliardi di microscopici aggiustamenti al suo modello matematico, perfezionandosi attraverso un meccanismo che nessun essere umano poteva capire fino in fondo, dato che il funzionamento interno di una rete neurale artificiale è per noi quasi del tutto incomprensibile, poiché non possiamo tracciare o registrare gli innumerevoli effetti che derivano dalle quasi infinite migliorie che l'algoritmo apporta ai suoi parametri interni a mano a mano che si avvicina all'esito desiderato. [...] Una volta completato questo secondo processo di apprendimento, la nuova, più solida versione di AlphaGo aveva giocato altri trenta milioni di partite contro il se stesso potenziato, creando un insieme di dati che gli aveva permesso di allenare una seconda rete neurale, che DeepMind definiva «rete di valore», e il cui scopo era analizzare ogni configurazione di pietre sulla tavola e prevedere l'esito della partita, valutando se il programma si trovasse in vantaggio oppure no, e di quanto. Ciò andava molto oltre le possibilità degli esseri umani, anche di quelli più intelligenti e allenati, dato che questa seconda rete neurale era in grado di assegnare un valore numerico a una cosa che noi possiamo solo cogliere attraverso sensazioni vaghe e intuizioni nebulose. Le due reti neurali permettevano ad AlphaGo di ridurre l'infinita complessità del gioco e raggiungere un livello fino allora inimmaginabile. Il programma non aveva bisogno di sprecare la sua grande potenza di calcolo per esplorare le innumerevoli possibilità che si diramavano da ogni singola pietra, dal momento che poteva usare il buonsenso della sua rete di policy per prendere in considerazione solo le mosse migliori fra tutte quelle possibili, tagliando i rami meno fruttuosi del suo albero di ricerca Monte Carlo; allo stesso tempo, grazie alla rete di valore, poteva decidere se una particolare mossa l'avrebbe avvicinato alla vittoria oppure alla sconfitta senza bisogno di giocare dentro di sé nella sua interezza ogni partita possibile. [...] E gli permetteva anche di stimare con precisione quanto ogni singola mossa sarebbe sembrata improbabile al suo avversario umano. _______________

Per AlphaGo non faceva nessuna differenza se vinceva anche di un solo punto. Questo spiegava le mosse «pigre» che faceva di tanto in tanto, mosse che a tutti sembravano sottotono e poco ispirate, finché un commentatore sudcoreano non fece notare che si basavano sul puro calcolo: ognuna di quelle pietre fiacche apportava un minuscolo, quasi impercettibile progresso verso l'obiettivo finale, e il loro vero valore lo si poteva comprendere appieno solo quando alla fine della partita si combinavano tutte insieme. ________________

Di tanto in tanto, nel caso di configurazioni sulla tavola molto particolari, AlphaGo impazziva, perdendo di colpo la capacità di cogliere il valore di una posizione, al punto che sembrava pensasse di essere vivo in aree in cui era palesemente morto, come se fosse diventato cieco, non più in grado di distinguere se stesso dall'altro, il nero dal bianco, l'amico dal nemico, la vita dalla morte. [...] Intanto, nella sala di controllo, David Silver, la principale controparte di Aja Huang in quanto capo programmatore di AlphaGo, vide che dopo la stupefacente mossa di Lee Sedol il computer si era spinto avanti con le sue previsioni di novantacinque mosse, sviluppando interminabili linee di probabilità che si diramavano da ogni possibile mossa successiva: «Mi sa che qualcosa è andato storto» disse a Hassabis, che continuava a camminare nervosamente avanti e indietro da un capo all'altro della stanza. «Non ha mai cercato così a lungo in tutta la partita. Credo abbia cercato talmente in profondità che ha finito per perdersi». _______________

Era quello il motivo per cui AlphaGo non era riuscito a fronteggiare la mossa a cuneo di Lee: era troppo lontana dall'esperienza umana, e di conseguenza fuori dalla portata di AlphaGo, per quanto illimitate potessero sembrare le sue capacità. Affrontandosi, Lee e il computer erano riusciti a spingersi oltre i limiti del go, creando una nuova e terribile bellezza, una logica più potente della ragione, le cui ripercussioni giungeranno molto lontano. _______________

AlphaGo continuò sino alla fine con quelle mosse bislacche, e alcuni esperti cominciarono a far presente che dietro le sue decisioni c'era un modo di pensare diverso. Di solito un giocatore umano valuta la propria forza in base alla quantità di territorio che controlla; secondo questa logica semplice e chiara, più territorio si possiede, maggiori sono le probabilità di vittoria. Ma AlphaGo poteva fare una cosa di cui nessun essere umano è capace: calcolare, con assoluta precisione, di cosa avesse bisogno per vincere, e limitarsi a quello. _______________

«Per me è un dio del go. Un dio in grado di annientare chiunque lo sfidi. Io non ho mai dubitato di me stesso. Ho sempre sentito di avere tutto sotto controllo. Pensavo di avere una grande consapevolezza della composizione, una conoscenza intima della tavola. Ma Master guarda tutto questo ed è come se dicesse: "Scemenze!". Lui riesce a vedere l'intero universo del go, io vedo solo la minuscola area intorno a me. Quindi, vi prego, lasciategli pure esplorare l'universo, e lasciate che io giochi in pace nel mio cortile. Pescherò nel mio piccolo stagno. Quanto ancora potrà migliorare attraverso l'autoapprendimento? I suoi limiti sono difficili da immaginare. Credo che il futuro appartenga all'IA». [...] Hassabis e la squadra di DeepMind fecero una scelta radicale: sottrassero a Master, il successore di AlphaGo, qualunque conoscenza di origine umana - i milioni e milioni di partite su cui aveva imparato a giocare e che formavano la pietra angolare del suo buonsenso, della sua eccezionale capacità di giudicare il valore di ogni singola posizione, di stimare le probabilità di vittoria, e di vedere la tavola come l'avrebbe vista un essere umano - e lo ridussero all'osso. Il loro obiettivo era creare un'intelligenza artificiale più potente e molto più generale, che non si limitasse al go nelle sue capacità di apprendimento, e che non si aggrappasse alla comprensione e alla conoscenza umane per muovere i primi passi. Presero il loro algoritmo e lo ripulirono, non lasciandogli alcun dato umano da cui imparare, privandolo della sua unica connessione diretta con l'umanità . Il risultato fu terrificante. [...] Per tutti questi giochi, l'algoritmo non aveva preso in alcuna considerazione l'esperienza umana: gli erano solo state fornite le regole, e aveva giocato contro se stesso. All'inizio faceva mosse completamente casuali, ma in pochissimo tempo si trasformava in una forza imbattibile. È diventata l'entità più forte che il mondo abbia mai conosciuto a go, scacchi e shogi. Il suo nome è AlphaZero.

Benjamin Labatut, MANIAC

#benjamin labatut #maniac

0 notes