ARGOMENTO:

ho avuto via email questa interessante (spero anche per voi) discussione con un amico che lavora come ricercatore nel "climate prediction" a lungo termine, facendo la spola dall'inghilterra al giappone dove gli fanno integrare i dati con il loro Earth Simulator
(beh, manco a dirlo volete che un ricercatore decente stia in Italia? ....)
comunque sia la metto giu' come botta e risposta le cifre devo dire che mi hanno spaventato

ciao Pier, perche' non usate anche voi BOINC invece di ammazzarvi per prenotare i Cray in giro per il mondo?

Per le scienze del clima e del "sistema Terra", la tecnologia distribuita funziona molto bene finché tutti i punti della "maglia" stanno su un unico nodo. Se ci sono comunicazioni coinvolte, non funziona. Allora va benissimo per quelli che simulano il pianeta a bassa risoluzione, perche caricano tutto il pianeta su un unico nodo, ma non per noi di alta risoluzione, perché dobbiamo rompere il problema su migliaia di nodi che devono comunicare ad altissima, una velocità quasi simile a quella che trovi dentro ogni CPU.

Per esempio su Earth Simulator, nonostante la specialissima rete ad alta velocità che collegava i nodi tra di loro noi potevamo usare solo 88 processori su 5400, perché le comunicazioni creavano un collo di bottiglia oltre gli 88. Al giorno d'oggi, con moltissimi miglioramenti in software e hardware, riusciamo ad usare dai 10'000 ai 100'000 cores per ogni modello che facciamo girare, ma praticamente la rete interna del centro di super computing diventa inservibile a qualunque altro utente.

Altro problema e la mole di dati: ogni mio modello produce circa 1-4TB al giorno usando 4800 cores. Per un anno, ogni santo giorno, abbiamo spostato 10TB/giorno dalla Germania al Regno Unito, per svuotare il centro tedesco, se no il modello si fermava subito. Non era possibile trasferire di piu, in media, anche se certi giorni eravamo fortunati e passavano più dati.

Se io dovessi usare pou di 4800 cores per modello, esauriremmo i dischi del centro di computing ogni poche ore. La mia simulazione ideale, che potrei fare girare adesso, produrrebbe 10PB al giorno. In un anno fanno 3.6 EB e ancora non esiste un centro che li possa archiviare...

Il motivo e matematico: oceano e atmosfera sono fluidi e ogni punto e legato ai suoi vicini dalle leggi della meccanica dei fluidi, fisica e chimica. Per avanzare le variabili nel tempo, con un passo di 10 minuti, dobbiamo continuamente lanciare delle comunicazioni globali per sapere lo stato del fluido (pressione, temperatura, densita, velocità, composizione chimica) a ogni passo nel tempo e a ogni punto del pianeta, da 20km sotto il mare a 85km nel cielo. Sono milioni di punti per maglie di pochi km di spaziamento e le comunicazioni di ogni punto con i suoi vicini e i vicini dei vicini etc. sono abbondantissime.

Alcuni stanno cercando di sviluppare nuove tecniche, abbiamo per esempio un progetto inglese, ma ci vorranno ancora 10 anni di lavoro.

ma allora che risoluzioni usate a spanne? e Climate Prediction? Funziona?

In modalità previsione del tempo la risoluzione dei modelli globali e 10-20km.
In modalità simulazione del clima, che deve girare circa 100anni, la risoluzione tipica e 200km, ma adesso tendono a 100km. Noi siamo pionieri e giriamo a 20km, sperimentando a 10km.
Nell'oceano le risoluzioni sono circa 10x più alte.

Quelli del climateprediction girano a 400-200km di risoluzione.
A quelle risoluzioni il clima globale e ragionevole, ma:
1) non c'è alcuna informazione utile a livello regionale
2) mancano processi fondamentali, tipo insufficiente trasporto di acqua dagli oceani ai continenti, mancanza totale di El Nino, mancanza totale dei monsoni, mancanza totale di quasi tutte le tempeste (cicloni).

Allora, senza questi processi fondamentali:
A) molto spesso si hanno risultati apparentemente buoni, ma vengono prodotti per motivi sbagliati, quindi non ci possiamo fidare quando si parla di variabilità o cambiamenti climatici, perché sono risultati senza le loro fondamenta di processo fisico;
B) non si può parlare di estremi, tipo uragani, perché a quelle risoluzioni non ci sono uragani. Gli uragani cominciano a emergere e risoluzioni di 50km, ma sono ancora debolucci. Ci vuole una risoluzione di perlomeno 1km per riprodurli in modo credibile.

PS Ho scritto un piccolo articolo per Jack Dongarra al suo evento BDEC un paio di mesi fa. Cerca "Vidale BDEC" e dovresti trovarlo. Ci ho messo una tabella dove faccio vedere cosa si può fare con che potenza di calcolo.

---

si riferisce a questo www.exascale.org/bdec/
e in particolare:
www.exascale.org/bde...hitepapers/BDEC%20workshop-PL_Vidale.pdf
spero lo troviate interessante, le cifre nel PDF sono semplicemente spaventose (per me)

(PS non sapevo se andava qua o nella categoria Blog, senno' chiedo di spostarlo al moderatore)

aggiungo (cosi' PIANGETE)

ciao Pier ho pubblicato i dati su Boinc.Italy, ti scoccia?

no no, mi fa piacere, anche se magari avrei potuto migliorare la didattica.

Io trovo che la "distributed computing" può fare molto, ma per problemi ben selezionati. Per esempio, abbiamo bisogno di capire cosa fa il clima su scale di milioni di anni, ma anche che peso hanno i parametri che su usano in certe componenti dei modelli. In questo caso si possono fare degli studi esplorativi a bassa risoluzione, che sono adeguati per BOINC.

Per le GPU il problema grosso e la memoria. Alcuni colleghi hanno portato dei modelli più piccoli su GPU, ma dopo due anni di lavoro di una grossa squadra la velocità e solo 2x e il codice comprensibile solo da pochi eletti.

Noi abbiamo invece aperto un progetto in Texas dove hanno una macchina grossa chiamata "Stampede" che usa Intel MIC. Nessuna necessità di cambiare il codice e il modello gira 2, forse 4 volte più veloce che sul CRAY che abbiamo usato in Germania.

Soldi: i nostri budget nazionali per un calcolatore sono tipicamente da £100 milioni, per esempio adesso compriamo un uovo CRAY, mentre con altri 100 milioni il Met Office compra un IBM. Il salto di potenza che faremo e un fattore 10 per ogni macchina.

2x100 milioni sembrano molto, ma solo nel 2011 l'industria assicurativa ha perso circa 100 miliardi di sterline a causa di eventi meteo-climatici e la sola Lloyds di Londra ha perso 4.6 miliardi, dei quali 1.4 miliardi per una singola tempesta, il che ha fortemente pesato sulla loro perdita annuale totale. Lloyds pagano le tasse qui e sono grossi difensori del nostro potere di calcolo.

Le stesse somme vanno a finanziare centri di archiviazione dati.

e arriva la mazzata finale modello "italy"

che ne pensi del Cineca?

Beh, il gruppo di Bologna ha un bel centro dove fanno modellistica competitiva. Hanno complementarmente creato un centro di super computing a Lecce che ha delle macchine di alto livello internazionale. Credo che il loro direttore, Antonio Navarra (uno che mi sembra ente un politico, non riesco a parlarci, però lavora) abbia catturato bene fondi Europei. Pubblicano bene e sono rispettati internazionalmente.

Le assicurazioni di qui sono molto razionali, usano tantissimo la matematica per sapere cosa fare. Hanno soprattutto un rispetto solido della scienza. Recentemente ho lavorato anche con AXA (Parigi) per assegnare fondi di ricerca e mi ha moltissimo colpito come rispettano la libertà della scienza, come continuano a aumentare i fondi che donano e come i loro capi non siano neanche entrati nella stanza per non interferire nelle nostre scelte. Abbiamo assegnato milioni di euro per ricerca che forse frutterà fra 5-10 anni. Davvero lungimirante, ha fatto cadere molti dei miei pregiudizi.

In Italia il dialogo e primitivo e bullonato su estreme fazioni. Così non si fa niente, si litiga e basta. Mi dispiace sentire dell'assicurazione, ma senza vera politica il cittadino e da solo.

Io ho già cominciato la catechesi di mio figlio: fuori dall'Italia già dopo la 3a media (se si potesse...)

Rick! ha scritto:

Io ho già cominciato la catechesi di mio figlio: fuori dall'Italia già dopo la 3a media (se si potesse...)

io ho gia' iniziato con la catechesi di mia moglie, ma non ne vuol sentire .... senno' sarei gia' in australia
ma forse a fine anno quando mi chiederanno il 200% di anticipo tasse sull'incerto cambiera' idea....