Estratégias de Predição de Desempenho para a Consolidação de Servidores com Recursos...

Estrategias de Predicao de Desempenho para aConsolidacao de Servidores com Recursos

Virtualizados

Cassio Alexandre Paixao Silva [email protected]

Orientacao: Dr. Daniel de Angelis Cordeiro

IME – Instituto de Matematica e EstatısticaUSP – Universidade de Sao Paulo

4 de fevereiro de 2013

Introducao Fundamentos Resultados preliminares Proposta Agradecimento

Sumario

1 IntroducaoContextoObjetivos

2 FundamentosAcordos de nıvel de servicoConsolidacao de servidoresProblema de bin packingConsolidacao de servidores + bin packing

3 Resultados preliminaresAmbiente de simulacaoTraco de execucaoSimulacoesResultados

4 Proposta de pesquisaTrabalhos relacionadosCronograma

2 / 61

Introducao Fundamentos Resultados preliminares Proposta AgradecimentoContexto Objetivos

Sumario





3 / 61


Contexto

4 / 61


Contexto (cont.)

ABCDEFG

5 / 61


Contexto (cont.)

Virtualização

6 / 61


Contexto (cont.)

Consolidação

7 / 61


Contexto (cont.)

Predição Consolidação

8 / 61


Contexto (cont.)

Predição MediçãoConsolidação

9 / 61


Contexto (cont.)

Predição MediçãoConsolidação

10 / 61


Contexto (cont.)

11 / 61


Contexto (cont.)

Predição 1

Predição 2

Predição 3

12 / 61


Objetivos

Estudar como aplicar diferentes estrategias de predicao dedesempenho para realizar consolidacao de servidores.

Avaliar como as diferentes estrategias de predicao secomportam perante diferentes classes de aplicacoes.

Desenvolver novos metodos de consolidacao de servidores.

13 / 61

Introducao Fundamentos Resultados preliminares Proposta AgradecimentoSLA Consolidacao Bin packing Consolidacao + bin packing

Sumario





14 / 61


Acordos de nıvel de servico – SLA

SLA – Service Level Agreement.Define termos sobre disponibilizacao e uso do servico, que devemser cumpridos por ambas as partes: provedor e usuario.

Como exemplos de responsabilidades do provedor:

O provedor deve garantir que sera disponibilizada a aplicacaoa quantidade de memoria RAM necessaria, desde que naoexceda o limite contratado.

O provedor deve garantir que o servico estara disponıvel em99,9% do tempo em um perıodo de 30 dias.

15 / 61


Consolidacao de servidores

Problema: Alocar as maquinas virtuais na menor quantidade deservidores fısicos possıvel, sem comprometer os acordos de nıvel deservico (SLA) de cada maquina virtual.

O problema da alocacao das maquinas virtuais na menorquantidade de servidores fısicos pode ser considerado como oproblema de bin packing multidimensional com capacidadesvariadas.

16 / 61


Problema de bin packing

O problema de bin packing multidimensional com capacidadesvariadas pode ser definido da seguinte maneira:Instancia:

uma lista de n vetores d-dimensionais Vi = (vi1, vi2, . . . , vid),no intervalo (0, 1]d , onde cada vetor Vi representa um itemcom seus requerimentos em cada dimensao;

uma lista de m vetores d-dimensionais Cj = (cj1, cj2, . . . , cjd),no intervalo (0, 1]d , onde cada vetor Cj representa um cestocom suas capacidades em cada dimensao.

Pergunta: Como alocar os n itens na quantidade mınima decestos, de modo que para cada cesto j , com 1 ≤ j ≤ m, a somaSj = (sj1, sj2, . . . , sjd) dos vetores no cesto j obedeca sjk ≤ cjk ,com 1 ≤ k ≤ d?

17 / 61


Consolidacao de servidores + Bin packing

Para modelar o problema de consolidacao de servidores como oproblema de bin packing, realizamos as seguintes consideracoes:

as demandas e capacidades de recursos computacionais saonormalizadas;

cada item e uma maquina virtual, cujas dimensoes do vetorsao suas demandas de cada recurso; e

cada cesto e um servidor fısico, cujas dimensoes do vetorrepresentam os recursos computacionais disponıveis.

18 / 61


Solucao do problema de bin packing

O problema e NP-difıcil, ou seja, quando a quantidade de itens egrande, e difıcil encontrar a solucao otima em tempo “razoavel”.

Heurısticas apresentam solucoes potencialmente boas para oproblema, com tempo de execucao “razoavel” (em tempopolinomial no tamanho da instancia).

Inicialmente foram avaliadas tres heurısticas:

FFD – First-Fit Decreasing;

BFD – Best-Fit Decreasing; e

WFD – Worst-Fit Decreasing.

19 / 61


FFD – First-Fit Decreasing

Com o conjunto de itens ordenados decrescentemente, aloca-secada item ao primeiro cesto em que pode ser acomodado.

0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

1.0

0.25 0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

20 / 61


FFD – First-Fit Decreasing (cont.)


0.5

0.5

1.0

1.0

1.0

0.50.5

1.0

1.0

1.0

0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

21 / 61




0.5

0.5

1.0

1.0

1.0

0.50.5

1.0

1.0

1.0

0.5

0.5

0.5

0.50.25

0.25

22 / 61




0.5

0.5

1.0

1.0

1.0

0.50.5

1.0

1.0

1.00.5

0.50.25

0.25

23 / 61




0.5

0.5

1.0

1.0

1.0

0.50.5

1.0

1.0

1.0

0.5

0.25

24 / 61




0.5

0.5

1.0

1.0

1.0

0.50.5

1.0

1.0

1.0

25 / 61


BFD – Best-Fit Decreasing

Inicialmente, o conjunto de itens deve ser ordenado de mododecrescente. Entao aloca-se cada item ao cesto em que sobrarmenos espaco livre apos a insercao do item.

0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

1.0

0.25 0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

0.75 x 0.25 x 0.75

26 / 61


BFD – Best-Fit Decreasing (cont.)


0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

0.75 x x 0.25 0.75

27 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.5

0.5

0.5

0.50.25

0.25

0.0 x x1.0 1.0

28 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.00.5

0.50.25

0.25

1.25 x x x 1.25

29 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.5

0.25

0.5 x x x

30 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

31 / 61


WFD – Worst-Fit Decreasing

Com o conjunto de itens previamente ordenados de mododecrescente, cada item e acomodado ao cesto em que sobrar omaior espaco livre apos a insercao do item.

0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

1.0

0.25 0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

0.75 x 0.25 x 0.75

32 / 61


WFD – Worst-Fit Decreasing (cont.)


0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.75

0.5

0.5

0.5

0.5

0.50.25

0.25

x x x 0.25 0.75

33 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.5

0.5

0.5

0.50.25

0.25

x 0.0 0.5 0.5 x

34 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.00.5

0.50.25

0.25

x x 0.0

35 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

0.5

0.25

x 0.25 x 0.75 x

36 / 61




0.5

0.5

1.0

1.0

1.0

0.5

0.5

1.0

1.0

1.0

37 / 61

Introducao Fundamentos Resultados preliminares Proposta AgradecimentoAmbiente Workload Simulacoes Resultados

Sumario





38 / 61


Ambiente de simulacao

Objetivo: Analisar o impacto de predicoes de desempenho de maqualidade na utilizacao dos recursos de um datacenter, com baseem um traco de execucao de um ambiente real de Computacao emNuvem.Foi desenvolvido um simulador para analisar esse impacto, comquatro componentes principais:

MeasurementModule

ForecastingModule

VirtualizationManager

PlacementModule

39 / 61


Traco de execucao

Foi utilizado um traco de execucao (workload) disponibilizado peloGoogle, com dados de execucao de tarefas em um perıodo de 29dias, em uma celula com aproximadamente 12.500 maquinas.Sobre os dados disponibilizados, sabe-se que:

Cada subtarefa e executada em um conteiner Linux proprio;

Informacoes de utilizacao de CPU e memoria foramnormalizadas; e

Informacoes de utilizacao dos recursos foram coletados emperıodos de cinco minutos, ou intervalo menor em caso dealteracao das tarefas.

40 / 61


Simulacoes – Consideracoes

As simulacoes foram realizadas sobre as primeiras 24h dotraco de execucao;

As etapas de predicao de desempenho, consolidacao deservidores e medicao da demanda real de recursos saorealizadas a cada 300 segundos;

A cada 300 segundos, todas as maquinas virtuais saoreescalonadas;

O custo de migracao foi desconsiderado; e

Para cada servidor sobrecarregado, contabiliza-se uma violacaode SLA para cada maquina virtual em execucao nesse servidor.

41 / 61


Simulacoes – Consideracoes (cont.)

Foram analisadas duas plataformas de computacao:

uma plataforma homogenea, na qual se assume que haservidores fısicos suficientes para execucao das aplicacoesnecessarias, cada um com capacidades de CPU e de memoriaiguais a 1.0; e

42 / 61


Simulacoes – Consideracoes (cont.)

uma plataforma heterogenea, baseada nas informacoes doworkload do Google, na qual ha um numero limitado deservidores fısicos, cada um com capacidades especıficas deCPU e de memoria.

Numero de maquinas CPU Memoria6732 0.50 0.503863 0.50 0.251001 0.50 0.75

795 1.00 1.00126 0.25 0.25

52 0.50 0.125 0.50 0.035 0.50 0.973 1.00 0.501 0.50 0.06

Tabela: Configuracao inicial plataforma de computacao do Google.Adaptado de [Reiss et al.,2012]

43 / 61


Simulacoes – 1o caso

Objetivo: Avaliar o impacto de erros de predicao entre -10% e+10% na quantidade de servidores utilizados e de violacoes deSLA.

Foram realizadas simulacoes com variacao do erro de predicaoentre -10% e +10%, em intervalos de 5%.Tais simulacoes foram realizadas para as heurısticas FFD, BFD eWFD, tanto para a plataforma de computacao homogenea quantopara a plataforma heterogenea.

44 / 61


Simulacoes – 1o caso (cont.)

Impacto de erros de predicao em uma plataforma de computacaohomogenea.

Figura: Quantidade de servidores utilizados em funcao do erro napredicao do desempenho. Plataforma homogenea.

45 / 61



Impacto de erros de predicao em uma plataforma de computacaohomogenea.

Figura: Maximo de violacoes de SLA em um perıodo em funcao do errona predicao do desempenho. Plataforma homogenea.

46 / 61



Impacto de erros de predicao em uma plataforma de computacaoheterogenea.

Figura: Quantidade de servidores utilizados em funcao do erro napredicao do desempenho. Plataforma heterogenea.

47 / 61



Impacto de erros de predicao em uma plataforma de computacaoheterogenea.

Figura: Maximo de violacoes de SLA em um perıodo em funcao do errona predicao do desempenho. Plataforma heterogenea.

48 / 61


Simulacoes – 2o caso

Objetivo: Avaliar o impacto de um erro de predicao de +10% navariacao da quantidade de servidores utilizados.

Foram realizadas simulacoes sem erros de predicao e com predicoessuperestimadas em +10%.As simulacoes foram realizadas para as heurısticas FFD, BFD eWFD, tanto para a plataforma de computacao homogenea quantopara a plataforma heterogenea.

49 / 61



Variacao na quantidade de servidores necessarios ao superestimar odesempenho em 10%, em relacao a uma predicao 100% correta.

Figura: Ambiente homogeneo.

50 / 61



Variacao na quantidade de servidores necessarios ao superestimar odesempenho em 10%, em relacao a uma predicao 100% correta.

Figura: Ambiente heterogeneo.

51 / 61


Resultados

Uma predicao de desempenho eficaz (100% correta) permiteuma utilizacao otima dos recursos.

A estrategia de consolidacao em uso tem grande influencia naquantidade de recursos utilizados em ambientes heterogeneos.Nas simulacoes, foram identificadas diferencas de ate 2178servidores em uso (nesse caso especıfico, utilizar WFD aoinves de BFD levaria a uma economia de 28% de servidoresem uso).

Para predicoes corretas e/ou superestimadas, a quantidade deviolacoes de SLA e minimizada.

52 / 61

Introducao Fundamentos Resultados preliminares Proposta AgradecimentoTrabalhos relacionados Cronograma

Sumario





53 / 61


Proposta de pesquisa

A presente proposta de pesquisa busca explorar oportunidades degerenciamento eficiente de recursos, de tal modo que aborda duaslinhas de pesquisa:

Identificar que estrategias e sistemas de predicao de desempenhoexistentes podem ser utilizados em ambientes virtualizados, combase no perfil das aplicacoes e do ambiente computacional.

Avaliar tecnicas de consolidacao de servidores e heurısticas para oproblema de bin packing, a fim de desenvolver novos metodos deconsolidacao de servidores ao considerar restricoes de SLA.

54 / 61


Trabalhos relacionados

Predicao de desempenho:

Muitas estrategias buscam estimar o tempo de execucao deuma aplicacao.

[Nurmi et al., 2008] buscam prever o tempo em que umarequisicao de execucao de aplicacao ficara na fila de espera.Nesse processo, realizam clusterizacao com base eminformacoes da requisicao de execucao, utilizando dados deoutras requisicoes no cluster para aumentar eficacia dapredicao.

[Tsafrir et al., 2007] preveem o tempo de execucao de umaaplicacao com base nos tempos de execucao das duas ultimasaplicacoes executadas por um usuario.

55 / 61


Trabalhos relacionados (cont.)

Consolidacao de servidores:

[Ferreto et al., 2011] propoem uma estrategia para diminuir aquantidade de migracoes de maquinas virtuais em umdatacenter, objetivo atingido ao optar por nao realocarmaquinas virtuais cujas necessidades de recursos naoalteraram desde a ultima medicao.

[Gawron e Walkowiak, 2009] propoem uma solucao baseadaem programacao dinamica para o problema de bin packingcom capacidades variadas.

56 / 61


Atividades propostas

A fim de cumprir os objetivos definidos, propoe-se a realizacao dasseguintes atividades durante o mestrado:

1 (jan-fev) Estudo mais aprofundado de algoritmos deconsolidacao

2 (fev-mar) Estudo sobre classificacao de aplicacoes

3 (mar-abr) Implementacao dos algoritmos de predicao maisadequados para aplicacoes em Computacao em Nuvem

4 (abr-mai) Incorporacao ao simulador de um algoritmo capazde classificar aplicacoes e optar por um preditor dedesempenho

57 / 61


Atividades propostas (cont.)

5 (mar-mai) Estudo de algoritmos utilizados em gerenciadoresopen source de ambientes virtualizados

6 (mai-jun) Avaliacao experimental usando outros tracos deexecucao reais

7 (jan, jun-jul) Redacao de artigos cientıficos

8 (mai-jun) Redacao da dissertacao de mestrado

9 (jul) Defesa de mestrado

58 / 61


Cronograma

Etapa2013

Jan Fev Mar Abr Mai Jun Jul

1 • •2 • •3 • •4 • •5 • • •6 • •7 • • •8 • •9 •

Tabela: Cronograma de realizacao das atividades.

59 / 61


Obrigado.

60 / 61


Sumario





61 / 61

Estratégias de Predição de Desempenho para a Consolidação de Servidores com Recursos...

Education

Transcript of Estratégias de Predição de Desempenho para a Consolidação de Servidores com Recursos...