Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas...

26
Apresentação dos Serviços para Processamento de Dados de Alto Desempenho disponibilizados pela InterNuvem Francisco Ribacionka e Ettore Enrico (STI ) –USP/STI/InterNuvem–[email protected] Março -2016

Transcript of Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas...

Page 1: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Apresentação dos Serviços para Processamento

de Dados de Alto Desempenho disponibilizados

pela InterNuvem

Francisco Ribacionka e Ettore Enrico (STI ) – USP/STI/InterNuvem – [email protected]

Março - 2016

Page 2: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Competência da STI:

• Disponibilização de serviços para processamento de

dados de alto desempenho em nuvens computacionais

interconectadas

Apresentação dos Serviços para Processamento de Dados de

Alto Desempenho disponibilizados pela InterNuvem

Page 3: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Programação

1. Resumo da Computação de Alto Desempenho na USP

2. Criação de clusters e utilização multiusuária

3. Utilização de GPU para HPC

Apresentação dos Serviços para Processamento de Dados de

Alto Desempenho disponibilizados pela InterNuvem

Page 4: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Programação

1. Resumo da Computação de Alto Desempenho na USP

2. Criação de clusters e utilização multiusuária

3. Utilização de GPU para HPC

Apresentação dos Serviços para Processamento de Dados de

Alto Desempenho disponibilizados pela InterNuvem

Page 5: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Computação de alto desempenho – HPC

Antes de 1990: Evento “50 Anos de TI na USP”

http://iptv.usp.br/portal/video.action?idItem=28479

• Anos 60: IBM 1620

• 5000 operações por segundo

• Cálculo de Estruturas (Poli), Cálculo da Inflação (Fea), Folha de Pagamento

• Anos 70: Burroughs B-3500, B-6700

• Anos 80: Unisys A9, IBM 4381

Page 6: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

1990 – Convex C-220

• Dois Processadores Vetoriais

• 128 MB RAM

• S. O. Unix

• Fortran, C

Computação de alto desempenho – HPC

Page 7: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

1995 – IBM SP2

• 16 nós de processamento

• Comunicação via switch

• AIX Unix

• Parallel Operation Environment

• Fortran, C, MPI

• LoadLeveler

• Deep Blue SP2 X Casparov

Computação de alto desempenho – HPC

Page 8: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

• 6 AlphaServer

•24 processadores

•Storage com 1.4 TB

• Load Share Facility

1998 – Compaq

Computação de alto desempenho – HPC

Page 9: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

2000 – Cray J90

• 16 processadores

• 256 MB RAM

• 80 GB Disco

Computação de alto desempenho – HPC

Page 10: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Computação de alto desempenho – HPC

2004 - Cluster Alcatéia

• 32 servidores Supermicro

• S.O. Linux

• Compiladores Intel

Page 11: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

8 BladeCenter

• 112 lâminas (PowerPC 970) 2.5 GHz

• 1 switch Myrinet - 2000 com 160 portas

• 1 storage com 8 TB (6 TB em raid 5)

• 4 Tflops

• LoadLeveler

• Posição 363 www.top500.org

2007 – IBM Mamute

Computação de alto desempenho – HPC

Page 12: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

2008 - Cluster Jaguar – SGI Altix 450

• 56 CPUs Intel Itanium 2

• 112 GB de RAM

• 5 TB Storage

• 0,34 TFlops

• PBS Pro

Computação de alto desempenho – HPC

Page 13: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

2009 - Cluster Puma

• 59 servidores DeLL, cada um com:

•16 GB de memória RAM

•16 CPUs Intel Xeon 2.6 GHz

•2 discos 300 GB

• Rede Gibabit-ethernet

• 1.26 TFlops

• PBS

Este cluster é gerenciado por programas de livre

distribuição

Computação de alto desempenho – HPC

Page 14: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Computação de alto desempenho – HPC

SERVIDORES:

Cisco B230 M2

2 – CPUs Intel E7-2870

2,4 GHz / 10 Cores / 30MB cache

512 GB memória DDR3 1333MHz

2 – Interfaces 10Ge FCoE (VIC 128 int)

Page 15: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Aguia

• 64 servidores físicos, cada um com

•2 CPUs Intel E7-2870

•2,4 GHz / 10 Cores / 30MB cache

• 512 GB de RAM DDR3 1333MHz

• /scratch com 28 TB para arquivos temporários.

• PBS

Computação de alto desempenho – HPC

Page 16: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Lince

•32 servidores, cada um com:

• 2 Tesla k20m

• 16 cores Intel E7-2870 (2,4 GHz)

• 129 GB RAM

•Scratch com 55 TB

•PBS

Computação de alto desempenho – HPC

Page 17: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Blue Gene/P

� Posição 377 na lista

Top500 de junho de 2012

� 84 teraflops de

performance

� 24,576 cores

2012 - Convênio USP e Rice University: http://usp.rice.edu

Computação de alto desempenho – HPC

Page 18: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Convênio USP e Rice University: http://usp.rice.edu

Blue Gene/Q

� 209 teraflops de performance

� 16.384 cores

� 1024 nós

� 16 cores por nó

� 16 GB RAM por nó

� 32 nós (512 cores) mínimo de

recursos por job

Computação de alto desempenho – HPC

Page 19: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com
Page 20: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Para obter acesso:

1. Aguia / Lince

Um professor da USP deve enviar uma mensagem para [email protected] com

resumo do projeto, nome, e-mail e número USP dos membros do grupo

que vai utilizar os recursos

Preencher o formulário http://www.usp.br/hpc/acesso.php

2. Blue Gene

Verifique as regras em usp.rice.edu

no item How to gain access to the BG?

Page 21: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

ssh shark.lcca.usp.br

Page 22: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

ssh aguia

ssh lince

Page 23: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Comandos úteis:

• pwd

• hostname

• cd

• ls

• module avail

• qstat -q

Page 24: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Dúvidas? [email protected]

Page 25: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Programação

1. Resumo da Computação de Alto Desempenho na USP

2. Criação de clusters e utilização multiusuária

3. Utilização de GPU para HPC

Apresentação dos Serviços para Processamento de Dados de

Alto Desempenho disponibilizados pela InterNuvem

Page 26: Apresentação dos Serviços para Processamento de Dados de ... · 8 BladeCenter • 112 lâminas (PowerPC 970) 2.5 GHz • 1 switch Myrinet - 2000 com 160 portas • 1 storage com

Apresentação dos Serviços para

Processamento de Dados de Alto

Desempenho disponibilizados pela

InterNuvem

Francisco Ribacionka e Ettore Enrico (STI ) – USP/STI/InterNuvem – [email protected]

Março - 2016