Programação Paralela PVM MPI

Compara ̧

c ̃

ao do Desempenho de Bibliotecas de Troca de

Mensagem e Implementa ̧c ̃

ao para Avalia ̧c ̃

ao de Clusters

Computacionais

29 de Junho de 2011Mateus Augusto Faustino Chaib Junqueira

Renato Moutinho

Compara ̧

c ̃

ao do Desempenho de Bibliotecas de Troca de

Mensagem e Implementa ̧c ̃

ao para Avalia ̧c ̃

ao de Clusters

Computacionais

p. 10

1.1 Projeto Realizado . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 11

1.2 Objetivos . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 11

1.3 Justificativa . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 11

1.4 Estrutura da Monografia . . . . . . . . . . . . . . . . . . . . . . . p. 12

✷ ❊♠❜❛s❛♠❡♥t♦ ❚❡ór✐❝♦

2.1

M ́aquinas Paralelas . . . . . . . . . . . . . . . . . . . . . . . . . . p. 13

2.1.1

2.2

p. 13

Modelos de arquiteturas paralelas . . . . . . . . . . . . . . p. 13

Clusters . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 14

2.2.1

Cluster Beowulf . . . . . . . . . . . . . . . . . . . . . . . . p. 15

2.3 ́

Imagem Unica

do Sistema . . . . . . . . . . . . . . . . . . . . . . p. 17

2.4 PVM (Paralel Virtual Machine) . . . . . . . . . . . . . . . . . . . p. 18

2.5 MPI (Message Passing Interface) . . . . . . . . . . . . . . . . . . p. 21

2.5.1 OpenMPI . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 22

2.5.2 MPICH2 . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 24

2.6 Compara ̧c ̃ao entre PVM e MPI . . . . . . . . . . . . . . . . . . . p. 25

2.7 M ́etricas de Desempenho . . . . . . . . . . . . . . . . . . . . . . . p. 26

2.7.1 Speedup . . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 26

2.7.2 Eficiˆencia . . . . . . . . . . . . . . . . . . . . . . . . . . . p. 27

2.7.3 Latˆencia e Largura de Banda . . . . . . . . . . . . . . . . p. 27

2.7.4 Overhead de Cria ̧ca ̃o Dinˆamica de Processos . . . . . . . . p. 28

✸ ❉❡s❡♥✈♦❧✈✐♠❡♥t♦

3.1

3.2

3.3

p. 29

Constru ̧c ̃ao do Cluster . . . . . . . . . . . . . . . . . . . . . . . . p. 29

3.1.1 Especifica ̧co ̃es T ́ecnica . . . . . . . . . . . . . . . . . . . . p. 30

3.1.2 Configura ̧ca ̃o das Bibliotecas . . . . . . . . . . . . . . . . . p. 31

3.1.3 Shell Remoto sem Senha . . . . . . . . . . . . . . . . . . . p. 31

3.1.4 Servidor de Arquivos . . . . . . . . . . . . . . . . . . . . . p. 31

Uso dos Benchmarks . . . . . . . . . . . . . . . . . . . . . . . . . p. 32

3.2.1 Teste de Latˆencia . . . . . . . . . . . . . . . . . . . . . . . p. 32

3.2.2 Teste de Largura de Banda

3.2.3 Teste de Overhead de Cria ̧ca ̃o de Processos . . . . . . . . . p. 33

. . . . . . . . . . . . . . . . . p. 33

Implementa ̧co ̃es Paralelas . . . . . . . . . . . . . . . . . . . . . . p. 34

3.3.1 Soma dos Elementos de Vetor . . . . . . . . . . . . . . . . p. 34

3.3.2 Multiplica ̧ca ̃o de Matrizes . . . . . . . . . . . . . . . . . . p. 35

3.3.3 C ́alculo do N ́

umero de Fibonacci . . . . . . . . . . . . . . p. 36

3.4

O Cluster como um Grafo . . . . . . . . . . . . . . . . . . . . . . p. 37

✹ ❘❡s✉❧t❛❞♦s

4.1

4.2

4.3

p. 39

Resultados dos Benchmarks . . . . . . . . . . . . . . . . . . . . . p. 39

4.1.1 Latˆencia das bibliotecas . . . . . . . . . . . . . . . . . . . p. 39

4.1.2 Largura de Banda das Bibliotecas . . . . . . . . . . . . . . p. 43

4.1.3 Tempos para Cria ̧ca ̃o de Processos das Bibliotecas . . . . . p. 44

4.1.4 An ́alise Qualitativa dos Resultados . . . . . . . . . . . . . p. 48

Desempenho das Aplica ̧c ̃oes Paralelas . . . . . . . . . . . . . . . . p. 50

4.2.1 Soma de Elementos de Vetor . . . . . . . . . . . . . . . . . p. 50

4.2.2 Multiplica ̧ca ̃o de Matrizes . . . . . . . . . . . . . . . . . . p. 52

4.2.3 C ́alculo do N ́

umero de Fibonacci . . . . . . . . . . . . . . p. 54

Resultados da Aplica ̧c ̃ao para Obter Grafo do Cluster . . . . . . . p. 55

✺