Dcd 2014 eficiencia energética - rev 02

26
1 DATA CENTERS: UMA VISÃO GERAL DA EFICIÊNCIA ENERGÉTICA, ASSOCIADO AO USO DE FERRAMENTAS DE GESTÃO Autor Eng. Luis Tossi Diretor Geral Luis Tossi Revisão Eng. Gustavo Ferrante

Transcript of Dcd 2014 eficiencia energética - rev 02

Page 1: Dcd 2014   eficiencia energética - rev 02

1

DATA CENTERS: UMA VISÃO GERAL DA EFICIÊNCIA ENERGÉTICA, ASSOCIADO AO USO DE FERRAMENTAS DE GESTÃO

Autor Eng. Luis Tossi Diretor Geral Luis Tossi Revisão Eng. Gustavo Ferrante

Page 2: Dcd 2014   eficiencia energética - rev 02

2

Resumo Este artigo trata do tema eficiência energética em Datacenters. Este é um mercado crescente em consumo de energia e para os datacenters comerciais, a eficiência energética é um fator decisivo na rentabilidade da operação. Este artigo mostra as mudanças e tendências de mercado na busca da diminuição do consumo de energia, dá um apanhado geral nas principais praticas adotadas atualmente e introduz ao leitor os conceitos de gestão, as principais ferramentas disponíveis para tomada e coleta de informações e cita alguns casos práticos.

Page 3: Dcd 2014   eficiencia energética - rev 02

3

I - Introdução

Este artigo tem o objetivo de fazer uma introdução à evolução tecnológica e das práticas que vêm sendo adotadas na busca do aumento da eficiência energética em datacenters (DC). Segundo um artigo publicado pelo New York times, 1,3% da energia elétrica consumida no mundo (235,5 Bilhões kWh) foram consumidos em Datacenters ao redor do mundo em 2010. Projeções indicam que este número deve chegar em 2014 a 2% do consumo de toda a energia global. Falando em consumo de energia, sempre devemos associar que esta energia mantém em operação sistemas de alta disponibilidade, os quais necessitam funcionar 7x24. Ou seja, as instalações físicas foram crescendo em componentes e em meios de se manter uma redundância total destes, a fim de garantir tempo de parada zero. Instalações de alta disponibilidade são extremamente ineficientes, pois levam a todos os componentes a funcionarem subcarregados. Esta ineficiência de operação levou o mercado e as autoridades globais a buscarem novas práticas para a redução de perdas energéticas. Em 2005, o governo federal americano criou um programa para reduzir em 2% o consumo de energia em suas instalações. O programa Energy Star criado em 1992 também tem se apresentado e se inserido nos últimos anos na busca de produtos mais eficientes para o mundo de DC. No meio dos anos 2000 (2007) foi criada uma instituição sem fins lucrativos, com fabricantes de insumos, produtos e a comunidade de datacenters, para a elaboração de métricas, boas praticam e ferramentas para a busca de eficiência energética para esta comunidade. Esta instituição é conhecida como The Green Grid e vem realizando trabalhos e referência nesta área. Também em 2007, a União Europeia através da IET (Institute for Energy and Transport) iniciou o trabalho para a criação do código de boas práticas para eficiência de datacenters. Através de todas estas iniciativas, a indústria de datacenters iniciou um movimento em busca da redução de perdas, sem abrir mão da disponibilidade. Em um datacenter, temos uma figura típica de consumo energético exposto na figura 1. Podemos verificar que apenas 36% de toda a energia consumida é realmente aplicada a equipamentos de TI, os quais, na realidade, são a essência de um datacenter. Podemos ver que quase a metade da energia consumida é gasta em refrigeração, pois na verdade um processador está convertendo 100% de sua energia consumida em calor e este calor necessita ser retirado do ambiente.

Figura 1 Consumo de energia de um DC (Fonte: Tech Research Blog)

Page 4: Dcd 2014   eficiencia energética - rev 02

4

A figura 2 do fabricante Schneider Electric / APC mostra os mesmo dados, porém mais detalhados. Vemos que praticamente as cargas de Ti, conversões de energia e outros serviços de utilidades respondem por mais de 50% do calor gerado. Figura 2 – Calor gerado em um DC (Fonte: APC WP154) Em resumo, vemos que os maiores pontos de interferência para busca de melhorias de redução de perdas em DC estão na busca de processadores e equipamentos de TI mais eficientes e nas melhorias nos sistemas de refrigeração. II – História da infraestrutura do Datacenter A infraestrutura elétrica de um DC mudou radicalmente nos anos 90, quando os serviços de um DC passaram a ser cada vez mais solicitados e com tempo de parada zero. Com o surgimento de cargas com fontes múltiplas, a arquitetura de infraestrutura passou a ser remodelada, com o surgimento de instalações cada vez mais complexas e com a busca de um sistema sem um ponto único de falha. Em 1993, um grupo de profissionais da área de DC fundou o conhecido UP Time Institute que passou a definir as práticas ideais e os modelos de classificação de infra para DC conhecidos como as classificações Tier 1 a 4. Posteriormente, a Associação de Indústrias de Telecomunicações transformou a essência do modelo criado pelo Up Time na norma TIA 942, que vem sendo aplicada como modelo de infraestrutura de TI até os dias de hoje. A figura 3 mostra o já conhecido diagrama de uma instalação padrão classificada como Tier3/4 que vem sendo utilizada até os dias de hoje.

13/04/13 18:52Data Center Best Practices - Energy Efficiency Best Practices

Página 4 de 4http://www.42u.com/efficiency/data-center-best-practices.htm

4. Rasmussen, N., "Implementing Energy Efficient Data Centers," APC, 2006 - Bottom of page three uses the $0.12/kWh data point and estimates the annual electrical cost per

kW of IT load to be $1,000 and posits a "10 year life of a typical data center" to extend the "lifetime" cost to $10,000/kW of IT load. Dividing 0.12kWh into $1,000 yields 8,333hours, translating to slightly more than 95% uptime.

Source: APC, Electrical Efficiency Measurement for Data Centers, WP #154

5. "EPA Report to Congress on Server and Data Center Energy Efficiency," EPA August 2007 - The graphic below summarizes some of the findings of the report that havesubsequently become the basis for the PUE calculation comprehended by The Green Grid. Using these percentages, the relationship between the IT load and other energyconsumers in the data center can be estimated.

6. "EPA Report to Congress on Server and Data Center Energy Efficiency," EPA August 2007 - Table ES-1 on page 6 summarizes the estimated efficiency gains that clients canexpect to realize for various levels of efficiency programs and technologies. It ranges from 30-80%.

7. Rasmussen, N., "Implementing Energy Efficient Data Centers," APC, 2006 - Pages 13-14 provide range estimates for various improvements. It also provides insights intolimitations of each approach and considers additional strategies.

8. "Guidelines For Energy-Efficient Datacenters," The Green Grid, February, 2007

About 42USince 1995, 42U has been a leader in providing data center efficiency solutions for data center and facilities managers. Our vendor and technology agnostic approach leverages ourbest-practice expertise in monitoring, airflow analysis, power, measurement, cooling, and best-of-breed efficiency technologies to help data center managers improve energyefficiency, reducing power consumption and subsequently lowering energy costs.

This work is licensed under a Creative Commons Attribution-No Derivative Works 3.0 Unported License.

About 42UAbout 42U Contact Us Contact Us CareersCareers CopyrightCopyright Privacy PolicyPrivacy Policy Site MapSite Map VendorsVendorsFollow us on:

Copyright © 2013 42U. All Rights Reserved42U | Phone: 1-800-638-2638 | http://www.42u.com/

Data Center Energy Efficiency Best Practices

Page 5: Dcd 2014   eficiencia energética - rev 02

5

Figura 3 DC típico (Fonte: Up Time Institute) Podemos ver que a complexa estrutura é baseada na redundância múltipla de todos os componentes da infraestrutura de suporte para as cargas de TI. A norma diz que em uma estrutura acima de padrão Tier 3, a carga a ser alimentada não pode ultrapassar a uma potência instalada de infra estrutura de 90% N. Ou seja, em um DC de 1MW de infra estrutura, só podemos alimentar uma carga de 90%, ou seja, 900KW. Assim podemos ver que para uma infraestrutura deste porte, os equipamentos tendem todos a trabalhar abaixo de 50% de carregamento em situações normais. Em um sistema Tier4, ainda é exigido que todos os equipamentos críticos utilizem redundância, ou seja, tem de ser N+1. Neste caso o carregamento fica ainda mais baixo, muitas vezes ficando entre 25 a 35% de sua potência nominal. Em um sistema legado, ou seja, com equipamentos elétricos de 7 a 10 anos atrás, temos uma situação bastante crítica, pois, no passado, os equipamentos sempre foram projetados para trabalhar com seu melhor rendimento, a 100% de carregamento. Saindo do âmbito de infraestrutura e entrando no processamento de dados em si, vemos também uma significativa mudança na qualidade e consumo dos ativos de TI com uma grande evolução das fontes, dos processadores, etc. Ou seja, a indústria de DC vem se movendo para buscar alternativas para a redução de consumo. III – As principais ações na redução do consumo de energia de um Datacenter É muito comum que os gestores de DC foquem sua atenção na infra estrutura e nas utilidades do DC em busca da redução do consumo de energia, mas um estudo (1) da Energy Star mostra que as principais ações para a redução de consumo de energia devem começar nos ativos de TI e passar posteriormente as utilidades do sistema. Este estudo lista 12 das principais ações que reduzem de forma significativa as perdas energéticas e concordamos que estas ações são as principais a levarem um DC a ser um DC de alta eficiência e por esta razão as listaremos e comentaremos uma a uma. 1-) Uma das mais importantes ferramentas surgida na busca da diminuição do consumo de energia foi a virtualização de servidores.

Page 6: Dcd 2014   eficiencia energética - rev 02

6

Virtualização é um processo que compartilha o Hardware e permite que este execute inúmeros sistemas operacionais ao mesmo tempo e em um único equipamento. Cada maquina virtual é um ambiente operacional completo como se fosse um servidor independente. Com a virtualização um único servidor passa a operar com nível de utilização elevado, aumenta sua eficiência e por consequência a eficiência do DC. Segundo estudos do Energy Star (USA) o processo de virtualização pode reduzir o consumo de energia elétrica de um DC entre 10 e 40%. Na virtualização acaba a filosofia de um servidor (físico) para cada aplicativo. Um estudo do jornal New York Times (2) aponta que os servidores usualmente trabalham com uma taxa de Utilização entre 6 e 12 % de sua capacidade apenas. Apesar de nos grandes DC a virtualização já ser lugar comum, ainda é uma pratica pouco adotada nos pequenos e médios DC.

A figura 4 ilustra o processo de virtualização. Figura 4 (Energy Star web Site) Uma extensa lista de benefícios e reduções de custos podem ser ainda associadas a virtualização além do consumo de energia tais como, redução de custos de administração, redução de custos de implementação, desativação de servidores antigos ineficientes, etc. Entretanto, o processo de virtualização de servidores requer algumas premissas básicas tais como: a-) Ter um bom inventário de servidores e aplicativos da corporação; b-) Nem todo aplicativo deve ser virtualizado em função de sua criticidade ou segurança da informação; c-) Certificar-se de ter um sistema de storage compatível com servidores virtualizados; d-) Ter certeza que a máquina física comporta (processador e memória) o número de máquinas virtuais instaladas; e-) Conhecer o perfil de utilização x tempo de todos os aplicativos pois os mesmos consomem mais ou menos capacidade de processamento em períodos diferentes do dia, da semana ou do mês. f-) Virtualização usualmente demandam servidores mais potentes, que podem causar hot spots no DC e daí a necessidade de um novo arranjo ou sistema de refrigeração. 2-) Desativar servidores sem uso. Parece estranho falar o óbvio, mas alguns estudos mostram que a quantidade de servidores sem uso, mas ainda energizados e consumindo energia em DC, é enorme.

13/04/13 20:53Server Virtualization : ENERGY STAR

Página 1 de 3http://www.energystar.gov/index.cfm?c=power_mgt.datacenter_efficiency_virtualization

DescriptionA "virtual server" is a software implementation of a server that executes programs like a real server. Virtualization is a method of runningmultiple independent servers on a single physical server. Instead of operating many servers at low utilization, virtualization combines theprocessing power onto fewer servers that operate at higher utilization. (See Figure 1 below.)

Figure 1: Virtualization

Virtualization can drastically reduce the number of servers in a data center, thus decreasing electricity consumption and waste heat, andconsequently the size of the necessary cooling equipment. Some investment in software and hardware may be required to implementvirtualization, but it is usually modest compared to the savings achieved.With today's servers, consolidation ratios in the 10:1 to 15:1 range can be achieved without placing stress on server resources.

Savings and Costs

Savings:Virtualization can reduce data center energy expenses by 10%–40%.1

Generally speaking, virtualization allows you to retire servers and/or defer purchases of new servers. Decreasing the number of physical serversdoes more than reduce the overall energy consumption of the servers; it also has a positive ripple effect through the entire data center. Serverconsolidation can result in reduced cooling load (the energy used to remove heat from the data center) and longer uptime when the data center isrunning on uninterruptable power supply (UPS) or generator power. In addition, having fewer servers requires fewer interconnects, whichreduces IT configuration and maintenance costs. The result is improved service levels and greater energy efficiency across the data center.2

Virtualization also improves scalability, reduces downtime, and enables faster deployments. In addition, it speeds up disaster recovery effortsbecause virtual servers can restart applications much more rapidly than physical servers. With virtualization, you can move entire systems in justa few seconds. You can also move a system from one physical server to another to optimize workloads, or you can move servers around formaintenance without causing downtime. Some virtualization solutions also have built-in resiliency features, such as high availability, loadbalancing and failover capabilities.

BC Hydro estimated a payback of roughly 2 years based purely on IT energy savings.3

VM Ware's return-on-investment calculator lists a default payback of 2 years on IT energy savings.4

Costs:Labor costs for:

conducting a thorough inventory and consulting all potentially interested parties,migrating applications, andremoving old servers and deploying new servers (if necessary).

New servers (if necessary). While virtualization can work with your existing hardware, you often achieve optimum results by implementing itwith new, energy-efficient servers.Virtualization software. Note: some utility companies offer rebates for reduced power consumption, which could help offset the costs ofvirtualization projects. Talk to your utility representative during the planning phase to understand what financial incentives are available to you.End-of-life disposal costs for systems that are not repurposed.

Server VirtualizationABOUT ENERGY STAR

PARTNERRESOURCES

Page 7: Dcd 2014   eficiencia energética - rev 02

7

Diversos estudos tem mostrado que uma taxa entre 10 a 15% de todos os servidores em Datacenters de diversos tamanhos e usos não são utilizados. São os chamados servidores em coma, ou seja, estão consumindo energia, espaço e refrigeração e não produzem trabalho. É muito comum em corporações de diversos tamanhos e ramos de atividade que os gestores de TI deixem servidores sem uso, após o processo de virtualização, ou mesmo de substituição por novos servidores ou novos aplicativos, ligados para uso em caso de contingência. Acontece que estes servidores são usualmente esquecidos e ficam vegetando e consumindo recursos do DC. Um estudo do Green Grid (3) mostra que 1/3 dos gestores de TI nunca tentou identificar os servidores sem uso em seus DC e 2/3 mesmo o consideram desativados pelas razões abaixo; a-) Não recebem nenhuma reclamação de usuário após uma falha neste serviço (1%); b-) Não recebem nenhuma reclamação de usuário após desligarem o servidor (9%); c-) Utilização muito baixa reportada por sistemas de gestão (22%); d-) Os proprietários do aplicativo indicam seu não uso (35%); Este mesmo estudo aponta como as principais razões dos servidores sem uso permanecerem no DC são: a-) Os gestores de TI estão mais preocupados e ocupados implementando os servidores e aplicativos e os mantendo operando, que não tem tempo de pensar nos sistemas desativados; b-) Preocupados em atender SLAs complexos, os gestores temem desativar os servidores sem uso; c-) Servidores virtualizados também ficam em estado comatoso, consumindo recursos de processamento e energia e são difíceis de seguir e comprovar o não uso. Além dos gestores terem sempre receio de desativá-los. Desativar servidores requer o total conhecimento e inventário de uso de aplicativos e ativos do DC e ferramentas como DCIM podem ser de grande auxílio nesta tarefa. Além do consumo de energia, um servidor comatoso ainda onera o DC em custos de licenças de softwares e de aplicativos que estão lá instalados. Segundo um estudo do UpTime Institute (4), um servidor de 1 U, consome por ano U$ 500 de energia, U$ 500 de licença de SW e U$ 1500 de custos de manutenção e operação de HW. 3-) Consolidação de Servidores A filosofia de um servidor (físico) por aplicativo por gestores de TI, pode levar a existência de 3 a 5 máquinas físicas para este mesmo aplicativo, levando-se em conta HW para desenvolvimento, testes, implementação e contingência. Este approach de um aplicativo por servidor leva a consumos entre 6 a 10% do processamento disponível em um datacenter convencional e uma grande quantidade de máquinas ocupando espaço e custos de manutenção e operação elevados. Um mesmo servidor pode vir a rodar (sem virtualização) alguns aplicativos sem estourar sua capacidade de processamento eliminando-se algumas máquinas físicas. Uso de servidores em Cluster podem oferecer muitas vantagens, uma vez que este uso permite que os servidores back up sejam reduzidos a N+1, ao invés de termos um servidor back up para cada servidor ativo. Reduzir e otimizar o número de aplicativos buscando similaridade entre os diversos aplicativos rodando em uma organização. Muitas vezes, um bom inventário de aplicativos e suas funcionalidades pode levar a um downsize de aplicativos com redução de HW, SW e demais custos envolvidos. A Virtualização (já citada no item 1) é uma das ferramentas que pode ser utilizada para a redução do numero de maquinas físicas.

Page 8: Dcd 2014   eficiencia energética - rev 02

8

Os cuidados e ganhos com a consolidação de servidores são os mesmos já comentados nos processos de virtualização e desativação de servidores comatosos.

4-) Melhor gestão dos processos e ativos de Storage O Conceito de gestão eficiente de Storage é simples. Use menos dispositivos de Storage e consuma menos energia. Dispositivos de Storage crescem em uma taxa de 10 a 27% ao ano em um DC (5). Abaixo listamos algumas das práticas que vêm sendo utilizadas para este fim: a-) Correto dimensionamento de necessidade de Storage, identificar e realocar a capacidade ociosa e uso ao limite da capacidade disponível; b-) Usar sempre que possível a compressão de dados para minimizar o consumo da capacidade instalada, buscando sempre a compactação de dados pouco utilizados; c-) Evitar uso de informações duplicadas, muito comum no uso corporativo ou pessoal. Existem ferramentas de identificação de dados duplicados que podem eliminar com segurança até 95% da informação duplicada. Menos dados, menos Storage. d-) Uso de Snapshots, ou back up incremental, ou seja, aquele que só salva a parte modificada, principalmente de grande rotinas ou simulações ou modelos; e-) Fazer o correto dimensionamento da necessidade de Storage uma vez que usualmente se faz o dimensionamento para o final de uso, que são sempre sobre dimensionados. Dimensione e instale o que necessitam para hoje e deixe a capacidade de crescimento para quando se fizer necessária a expansão; f-) Uso adequado de RAID (Redundat Array of Independent Disk), que é o uso de vários discos sendo usados de forma a elevar o nível e a qualidade do armazenamento de dados. Existem diversos níveis de RAID que devem ser usados de forma adequada. RAID 1 requer discos duplicados e são para dados críticos, enquanto RAID 5 é a informação em disco único para dados sem criticidade. g-) Classificação de dados (por uso). Dados usualmente mais utilizados devem ser gravados em dispositivos de alta performance e os menos utilizados em discos mais simples, de menor consumo. Além destes, fatores simples também devem ser considerados: o uso de dispositivos mais eficientes como discos de baixa velocidade (7,5K rpm Control High speed disks 15 K) que consomem menos energia, uso de sistemas MAID (Massive Arrai Idle Disks) para dados acessados com menos frequência (Tier3) e uso de discos de estado solido SSD que consomem muito menos energia, mas são mais lentos e mais caros. 5-) Substituição de equipamentos de baixa performance Em um datacenter com mais de 10 anos de uso, existe uma infindável lista de equipamentos de baixo desempenho, comparável com os disponíveis no mercado hoje em dia. Citando alguns, temos as fontes dos servidores que hoje tem perdas de até 10 vezes menores, CPUS mais potentes, Ventiladores e trocadores de calor de CPUS mais silenciosos e econômicos e até sistemas operacionais que trabalham com servidores multicore (Windows Server 2008 R2), que desligam (deixam no estado dormente) Cores do processador sem necessidade de uso, para otimizar o uso ao máximo de cada Core e reduzir as perdas no processamento. A figura 5 mostra a evolução das fontes dos servidores e computadores no tempo.

Page 9: Dcd 2014   eficiencia energética - rev 02

9

Figura 5 – Evolução das fontes de Computadores Entramos então na parte da utilidades tais como, UPS, PDUS e etc. Hoje temos UPS com rendimento de até 96% em dupla conversão ou de 99% em Stand by ou mesmo o uso de UPS dinâmicos (97%) que substituem UPSs antigas com rendimento de 90%. PDUS com transformadores com perdas de 3 a 4% contra o uso de transformadores classe TP1 (98% a 99%). Para uma correta tomada de decisão sempre deve ser levando em conta o ROI da substituição e o impacto na operação do DC. Para novos DC sempre deve ser levando em conta, na decisão dos ativos e equipamentos de utilidades, sua eficiência e o TCO (Capex + Opex) dos mesmos. 6-) Lay out do DC (Corredor Quente & Corredor Frio) Acredite o leitor ou não, esta prática tão difundida em nosso mercado ainda não é utilizada em uma grande parcela dos DC, principalmente em pequenos e médios DC. Para aqueles que não a conhecem, parte-se do princípio que os Servidores ou ativos de TI para alocação em Rack tem a tomada do ar frio na sua parte frontal por meio de ventiladores que puxam o ar frio para seu interior, refrigeram o trocador de calor (colller) e expelem o ar quente pela sua parte traseira. Nada mais natural então que arranjar os racks em fileiras com as frentes dos equipamentos sempre face a face e suas partes traseiras idem como mostra a figura 6.

current switching quasi-resonant technology that had enabled the operation in the megahertz range together with advanced packaging, Vicor managed to push the power density of 48-V input dc/dc modules, also known as “bricks,” into an unprecedented power density range of 10-20 W/in3 [2]. This increasing power-density trend has been sustained ever since so that today’s dc/dc “bricks” can deliver much more power from the same volume, or the same power from a much smaller volume, as shown in Fig. 2. It should be noted that for low output-voltage bricks, specifically for those with output voltage 3.3 V and below, a more appropriate metrics for the brick capability is the maximum output current rather than the maximum output power, i.e., power density.

Off-line power supplies did not see a dramatic change in power density until the beginning of the rapid growth of the Internet in the late nineties that has led to an unprecedented escalation in the employment of data-processing, networking, and storage equipment and has created strong demand for equipment and, therefore, for power supplies with much higher power densities. As shown in Fig. 3, over the past five-six years the power density of ac/dc power supplies such as notebook adapters, multiple-output power supplies, and server front ends for distributed power systems had been significantly increased. For example, while a typical power density of server front-end power supplies was in the 5 W/in3 range just five-six years ago, the power density of these power supplies today is in the 20 W/in3 range. As this trend continues, power supplies in excess of 30W/in3 will be available in a few years. These dramatic power density gains have been primarily enabled by the availability of better

components and improved understanding of design optimization trade-offs that has helped increase efficiency, as well as by the use of advanced packaging techniques.

II. PARADIGM SHIFT

Until recently, efficiency increases of power conversion circuits were primarily driven by increased power density requirements since power density increases are only possible if appropriate incremental improvements in full-load efficiency are achieved so that the thermal and acoustic performance are not adversely affected. As a result, maximization of the full-load efficiency has been a design focus all along. However, in the early nineties, the explosive growth of consumer electronics and data-processing equipment had prompted the introduction of various, mostly voluntary, requirements aimed at minimizing the idle-mode, i.e., light-load, power consumption. Meeting these ever-stringent light-load efficiency requirements, most notably those defined in German Blue Angle, U.S. Energy Star, Japan Top Runner, and ECoC (European Code of Conduct) specifications [3], pose major design challenges to power supply manufacturers. As a result, significant R&D resources have been dedicated by both power supply manufacturers and control IC providers to developing technologies to comply with these specifications [3]-[6].

Today, the power supply industry is at the beginning of a major focus shift that puts efficiency improvements across the entire load range in the forefront of customers’ performance requirements. This focus on efficiency has been prompted by economic reasons and environmental concerns caused by the continuous, aggressive growth of the Internet infrastructure and a relatively low energy

Fig. 2 Past, present, and projected output current capability of dc/dc bricks. Data given for bricks with 2.5-V output and 36-75-V input voltage range.

Fig. 3 Past, present, and projected power densities and efficiencies of ac/dc notebook adapters, multiple-output power supplies, and server front ends for distributed power systems.

Page 10: Dcd 2014   eficiencia energética - rev 02

10

Figura 6 – disposição Corredor quente – frio O leitor pode ver que o are frio é insuflado pelo piso elevado (via placas perfuradas) na parte frontal dos racks (em azul), onde o ar frio é tomado pelos ventiladores dos ativos e expelido na parte traseira (em vermelho), onde retorna às evaporadoras pelo pleno para ser novamente resfriado. Estudos mostram que o uso desta configuração, associada ao uso de confinamento e com economizadores, levam a uma economia de 20 a 25% no consumo de energia utilizado na refrigeração. 7-) Uso do confinamento do corredor quente ou frio No mercado de DC, existem aqueles que defendem o confinamento do corredor frio e outros do corredor quente, mas os resultados práticos se equivalem e o que deve ser levado em conta são os benefícios do uso desta prática. Para aqueles que não a conhecem, o objetivo é evitar as perdas ou chamados curto circuitos de ar, que levam o ar frio a escapar do corredor frio para o quente, sem passar pelos servidores e fazer seu papel de retirar o calor gerado. A figura 7 mostra estas possíveis perdas e as figuras 8 e 9 mostram o princípio do confinamento.

Figura 7 – Perdas de ar

Page 11: Dcd 2014   eficiencia energética - rev 02

11

Figura 8 – Resultado do confinamento.

Figura 9 – Exemplo de confinamento do corredor quente Estudos e acompanhamentos práticos mostram que o confinamento em um DC reduzem o consumo de energia entre 5 a 10 %. Também mostram que permitem uma redução de consumo de energia nos ventiladores entre 20 e 20 % e nos Chillers em torno de 20% (7). 8-) Uso de CRAC (Computer Room Air Conditioning) com ventiladores com velocidade variável Usualmente os ventiladores que insuflam o ar pelo piso elevado respondem entre 5 a 10% do consumo de energia de um DC só perdendo para os compressores. Como o perfil de consumo e geração de calor em um DC muda constantemente, os ventiladores devem também variar sua velocidade para acompanhar estas mudanças. Sistemas antigos não tem esta funcionalidade e tem ventiladores com velocidade constante.

Page 12: Dcd 2014   eficiencia energética - rev 02

12

Uma redução de velocidade de 10% no ventilador reduz o consumo de eletricidade de 25%. Se esta redução for de 20% eleva a redução de consumo em até 45%. Por estas grandezas, podemos ver que vale o estudo de retrofit dos CRACs que usualmente são oferecidos pelos fabricantes. Há ainda algumas outras tecnologias que ajudam a aumentar a eficiência do sistema de ar-condicionado, como por exemplo, um sistema automático de controle de pressão, que é um módulo que controla a pressão do ar sob o piso elevado, a fim de mantê-la constante. O módulo detecta qualquer alteração de pressão por algum vazamento ou pela remoção do piso elevado, influenciando diretamente na velocidade dos ventiladores.

Fig 10 – atuação dos sensores de pressão na velocidade dos ventiladores É possível ainda instalar ventiladores “inteligentes” nos pisos elevados dos corredores frios, que variam a sua velocidade, de acordo com a necessidade e o incremento da temperatura.

Fig 11 – atuação de ventiladores inteligentes nos corredores frios

Page 13: Dcd 2014   eficiencia energética - rev 02

13

Apesar de todas essas práticas, pode ser que a potência do rack seja tão elevada que não conseguimos refrigerá-lo de maneira eficiente com equipamentos de ar condicionado perimetrais. São os chamados Hot Spots. Quando é possível prever essa situação, podemos separar um espaço no White Space, onde seriam instalados os racks de maior potência e dessa forma, trabalhar com um sistema híbrido de solução de cooling, acrescentando além dos equipamentos convencionais de refrigeração, os equipamentos inRow. Esses equipamentos, por atacarem o problema na sua origem, acabam tendo uma maior eficiência.

Fig 12 – Racks de alta densidade (pretos) com ar-condicionado inRows (em azul, entre racks), misturados com racks de baixa densidade, em um mesmo espaço A figura 13 abaixo mostra o funcionamento de equipamentos inRow, com o confinamento do corredor quente. Por estarem próximos dos racks, conseguem trabalhar o ar quente com uma maior eficiência.

Fig 13 – Funcionameneto do Ar condicionado inRow 9-) Redução das perdas de ar de refrigeração. Como o correto arranjo dos racks para permitir a otimização do ar frio na refrigeração dos ativos de TI, existem uma serie de ações que devem ser tomadas para permitir que o fluxo de ar frio disponível no DC passe 100% pelos servidores fazendo seu papel de cooling. Algumas medidas são simples como o uso de tampas cegas em espaços vazios no rack, uso de escovas nas subidas de cabos do piso elevado, desobstrução do caminho do ar (organização de cabos, reduzir obstáculos sobre o piso elevado), a correta disposição de placas perfuradas e etc.

Page 14: Dcd 2014   eficiencia energética - rev 02

14

A figura 14 mostra como ocorrem as perdas em um rack e a figura 10 mostra um rack com e sem tampas cegas.

Figura 14 – perdas de ar

Figura 15 – racks com e sem tampas

A figura 16 mostra como a organização dos cabos pode facilitar o fluxo e vazão de ar.

Figura 16 – Organização de cabos.

Page 15: Dcd 2014   eficiencia energética - rev 02

15

Estudos mostram que a instalação de um simples painel cego de 12pol na posição central de um rack economizam entre 1 a 2% de energia (8). Medida simples como organização e desobstrução do fluxo do ar são simples e baratas e permitem um grande aumento na eficiência da refrigeração. Algumas das principais ações neste sentido são: a-) o uso de difusores no piso elevado para a correta orientação do fluxo de ar; b-) painéis cegos nos racks eliminando pontos de curto circuito de ar; c-) Cabeamento estruturado para desobstrução do fluxo de ar; d-) Área livre sob o piso elevado para evitar resistência a vazão de ar e maior consumo nos CRACs. e-) Correto posicionamento das placas perfuradas para se evitar perdas. 10-) Ajustar parâmetros de refrigeração a nova ASHREA TC 9,9 (2008). Ainda hoje existe a crença que a temperatura ambiente necessária em um DC para que ele opere bem deve ser de 18 C a 20 C. É muito comum entrarmos em DC onde a temperatura está nesta faixa e tornam-se verdadeiros freezers e consumidores vorazes de dinheiro. Em 2008 a American Society of Heating, Refrigerating and Air-Conditioning Engineers (ASHRAE), fez uma alteração de seus parâmetros de temperatura de entrada nos servidores, elevando os ranges de tolerância de temperatura e humidade relativa. A recomendação de 2004 tinha um range 20C a 25C com HR entre 40% e 55%. A nova recomendação (2008) varia de 18C a 27C com HR de 5,5C (no ponto de orvalho) até 60% HR com temperatura de 15C (no ponto de orvalho.) A figura 17 mostra a Curva ASHRAE 2008.

Figura 17 – Curva ASHRAE 2008 Assim vemos que a temperatura de insulfamento do ar pode ser de 27 C e não necessariamente de 18C. Alguns gestores preferem trabalhar com baixas temperaturas para garantir um delta de segurança na continuidade da operação em caso de falha do sistema de refrigeração. Entretanto, esta decisão implica em mais consumo de energia.

Page 16: Dcd 2014   eficiencia energética - rev 02

16

Quanto maior a temperatura de insulflamento, menor o consumo de energia e maior a possibilidade de trabalhar-se com economizadores (free colling). Outro ponto importante na nova recomendação é o controle de humidade que também demanda muito consumo de energia. As unidades de refrigeração CRAC tem a capacidade de umidificar e desumidificar o ar ambiente. Quando a humidade está muito baixa, o CRAC liga o humidificador para gerar vapor de agua, para elevar a humidade ambiente. Este processo gasta energia, além de acabar elevando a temperatura ambiente. Se a humidade está muito elevada, o CRAC tem de diminuir a temperatura para tentar tirar esta humidade do ar, também consumindo muita energia. Quando os CRACS em um datahall não trabalham com controle central (cada unidade controla seus parâmetros de set point pelo retorno do ar quente), não é difícil que uma unidade comece a interferir na operação da outra, como por exemplo, uma manda umidificar e a outra está desumidificando. Assim as medidas mais comuns para a redução do consumo energético são: a-) Ter um controle centralizado de comando de todas as unidades, impedindo que estas trabalhem em conflito; b-) Ajustar a humidade relativa entre 30 e 70%. Com este range de HR é comum que apenas 1 unidade CRAC consiga fazer o ajuste da sala, economizando assim energia em grande escala; c-) Ajustar como temperatura de set point a temperatura medida na entrada dos racks e a temperatura de retorno; d-) Ajustar as temperaturas de insulflamento, de forma a ter um range entre 21C a 25C na entrada do servidor mais embaixo e mais no topo do rack; e-) Considerar o uso de humidificadores adiabáticos, quem são mais eficientes e econômicos; f-) Instalar diversos sensores de humidade, temperatura, pressão por todo o DC e usa-los para monitorar o ambiente e controlar os CRACS. Os locai típicos de instalação são as entradas e saídas dos racks, o diferencial e pressão (piso/sala), temperatura e humidade de insulflamento e retorno nos CRACS, e em caso de uso de Chillers, as temperaturas e vazão e agua. Com estas medidas ligadas ao BMS ou a um DCIM pode-se controlar todas as grandezas de refrigeração do DC e trabalhar em sua melhoria de performance. 11-) Uso de economizadores a AR. O uso de economizadores de ar tornou-se bem difundido em DC onde se busca uma redução de consumo de energia. Os economizadores usam o principio de não recircular o ar quente nos CRAC, mas sim eliminar para o ambiente externo (parte ou todo) e captar ar externo frio, filtrá-lo e misturá-lo ao ar interno baixando a temperatura ambiente. Afigura 18 mostra o principio de operação de um economizador a ar.

Figura 18 – Economizador a ar.

Page 17: Dcd 2014   eficiencia energética - rev 02

17

O ar externo é misturado ao ar de retorno (quente) do DC, passa por um trocador de calor que pode resfriar mais ou aquecer o ar externo e insulflá-lo de volta a sala de servidores. Como o DC trabalha 7 x 24, as condições externas devem ser propícias ao uso destes economizadores e sempre trabalhar conjugado ao sistema de refrigeração convencional. Existem diversas experiências de sucesso, com economias de energia de até 60% no consumo da energia de refrigeração e de até 30% no consumo total do DC, mas tudo depende das condições locais de temperatura e humidade. 12-) Uso de economizadores a Água. O uso de economizadores parte do mesmo principio do economizador a ar, de não usar os compressores ou chillers para economizar energia. Ao invés de usar o chiller, o ciclo de resfriamento da água passa por um trocador de calor externo (torre ou coller) que retira o calor da água, que retorna fria ao CRAC. A figura 19 mostra como funciona o economizador a água. A água proveniente do CRAC irá passar pelo Chiller se as condições ambientais de refrigeração pela torre não forem suficientes para retirar o calor gerado pelo DC.

Figura 19 – Economizador a agua. O uso de economizadores a água traz ainda uma redundância em caso de parada do Chiller. Também necessitamos de um bom projeto de implantação deste sistema para que o sistema funcione a contento e a limitação de espaço pode restringir seu uso. Existem DC que apresentam até 70% de redução de consumo de energia na produção de agua gelada com este sistema (9).

Page 18: Dcd 2014   eficiencia energética - rev 02

18

IV – Gestão da Informação Em uma operação complexa como um DC, onde temos milhões investidos em infra estrutura e em ativos, se faz mandatório o uso da gestão da informação recolhidas na operação para que se possa trabalhar em cima da mitigação de riscos, da elevação da eficiência energética e na excelência da operação, fornecendo ao clientes, sejam eles externos ou internos, um SLA reduzido e disponibilidade máxima. Faz parte da gestão administrativa o ciclo conhecido como PDCA ou seja Planejar, Organizar/fazer, Medir/Controlar, Corrigir. Estes quatro passos básicos levam a uma premissa básica da administração de corporações e pergunto por que um DC não deve ser gerenciado utilizando-se não somente estes, mas os princípios básicos da Gestão administrativa? Quando pensamos em planejar, podemos pensar imediatamente na implantação de um DC, mas vamos expandir a visão para além da implementação e passar à operação e gestão cotidiana. Planejar significa ter um plano, um objetivo, um ponto a chegar. Podemos pensar em diversos planos, tais como, disponibilidade, economia, segurança, etc. Organizar, podemos traduzir ao nosso ambiente em ter condições mínimas de ter acesso a informações preciosas que nos mostram a verdade do que planejamos. Podemos citar como exemplo diversas medições de temperatura dentro do Datahall para mostrar a correta distribuição do fluxo e vazão de ar, ou o PUE do DC e N outras grandezas que precisamos medir. Dirigir pode ser traduzida em nosso universo de um DC em manter o nosso DC operando dentro das grandezas planejadas através de ações corretivas ou preventivas. Controlar é fechar o ciclo através os uso de KPIs (Key Performance Indicators) que devem ser implementados para que se busque a excelência da operação. O ótimo só se atinge após passarmos pelo bom. Assim, com o uso de indicadores, sempre se devem buscar a excelência. . A figura 20 mostra como o ciclo se fecha.

Figura 20 – Ciclo da Gestão circular ou Gestão da informação.

Page 19: Dcd 2014   eficiencia energética - rev 02

19

V – Sistemas de gestão da Informação de um Datacenter A maioria dos datacenters de porte médio e grande dispõe de um excelente sistema de automação em monitoração. São sistemas conhecidos como BMS (Building Monitoring System), através dos quais os gestores conseguem de forma automática, operar todas as utilidades do DC, como entrada de energia, transferências para geradores, manobras de máquinas de ar condicionado, controle de acesso, segurança, detecção de incêndio e etc. OS BMS são sistemas baseados no uso de PLCs (Progammable Logic Controler) que são dispositivos de interface e lógica que gerenciam e comandam os componentes do sistema de infra estrutura. Além é claro de manobrar e operar, os BMS fornecem uma serie de informações que são utilizadas para medir como o sistema está operando e podem gerar os dados básicos para uma gestão por indicadores como citado no item IV de nosso artigo. A Figura 21 mostra uma típica tela de um BMS da parte de refrigeração:

Figura 21 – Tela de um BMS

Além do BMS, os gestores de TI (dos Ativos em si) também dispõem de sistemas complexos e interessantes que controlam o fluxo de informações, banda ocupada de fibra e telecom, uso de servidores, storage, Firewall, shutdown de servidores, resets remotos, uso da rede, e etc. Normalmente um DC é controlado por um NOC (Netrwork Operation center), que é representado nas figuras 22 (representação de um NOC) e 23 (representação de suas funções).

Page 20: Dcd 2014   eficiencia energética - rev 02

20

Figura 22 – Representação de um NOC

Figura 23 – Representação das funções de um NOC A função principal de um NOC é controlar os ativos de redes e a utilização das mesmas, baseada no protocolo SNMP (Simple Network management System). Os NMS são sistemas baseados em Software que trafegam informações pela rede que monitoram. Existem também os sistemas conhecidos como DCMS (Data Centers Management System) que fazem uso misto de hardware e Software para controlar infra estrutura e redes e usualmente são confundidos com DCIM.

Assim podemos concluir que apesar da gestão de um DC ocorrer usualmente, ela é dividida entre TI e facilities, ambos buscando seu ótimo, sem se conversarem, ou com pouca integração entre si. Se associarmos todos os 12 pontos deste artigo listados no item III, vemos que a grande parte dos pontos chaves a serem atacados é inerente à gestão de TI e outra boa parte à gestão de facilities, mas sempre atrelado primeiro à gestão dos ativos de TI.

Page 21: Dcd 2014   eficiencia energética - rev 02

21

Como buscar a excelência desta forma? Talvez uma resposta esteja no uso de DCIM (Data Center InfraStructure Managment). VI – DCIM DCIM, ou Data Center InfraStructure Management é um sistema baseado em hardware e software e dispositivos de monitoração ambiental, que tem o objetivo de gerir um datacenter em todas as suas camadas. Podemos dividir de maneira muito simplista um DCIM em 3 camadas, sendo a infra estrutura física, ativos de TI e de aplicativos. Esta analise é um primeiro approach para que o leitor comece a entender as funcionalidades do DCIM. A figura 24 mostra esta separação nas 3 camadas básicas do DCIM de um fabricante nacional (Fazion).

Figura 24 – Camadas de DCIM Podemos ver que um DCIM permite que se agregue em uma única ferramenta de gestão a monitoração e gestão das informações de infra estrutura, dos ativos de TI e dos aplicativos, ou seja, vemos que um DCIM é a solução para o gap existente entre facilities e TI. A figura 25 mostra de uma forma mais ampliada esta funcionalidade demonstrada em uma figura do fabricante Emerson que tem um DCIM muito completo chamado de Trellis.

Figura 25 – Funcionalidades e camadas Trellis Emerson.

6

III. BENEFICOS ESPERADOS DE UM DCIM Ferramentas de DCIM são soluções bastante novas no mercado, geralmente envolvem diretamente o setor de infraestrutura e de TI. O grande desafio para os gestores de TI é justificar qual o retorno a ser obtido com sua implantação, e quais benefícios serão agregados ao ambiente a serem gerido por um DCIM. Em se tratando de ambiente crítico, existem três metas bastante almejadas com a implantação de um DCIM. Aumento de disponibilidade, maior eficiência energética e uma gestão aprimorada. Cada um destes itens serão detalhados nas seções seguintes.

x Maior disponibilidade Disponibilidade de um data center, segundo [1], significa que o data center está funcionando adequadamente toda vez que um serviço for demandado a ele. Disponibilidade é um requisito tão necessário, no entanto, algumas vezes não atendido. Quando se fala em ambientes críticos, todos os esforços são para se ter o máximo de uptime possível. Por isto, o Uptime Institute define padrões [4], [5] para orientar soluções técnicas e níveis de downtime aceitáveis.

Existem vários fatores que levam um data center a obter um nível maior de disponibilidade. Questões como o que será afetado em caso de uma queda ou manutenção de um circuito “x”, possibilita o gestor de TI a ter um melhor planejamento e criar planos de contingências. Mapeamentos dos principais pontos críticos e histórico do que gerou um downtime, podem ajudar no planejamento e evitar quedas posteriores.

Ferramentas DCIM são capaz de consolidar estas informações, tornando possível dimensionar ou ao mesmo simular qual o impacto trará a instalação de novos equipamentos na carga de cada circuito ou quadro. Outras funcionalidades tais como, mapeamento das conexões elétricas e de dados dos ativos, módulos de auditorias e registro de mudanças, também podem implicar na melhoria da disponibilidade.

A identificação de possíveis problemas antes que ocorram é uma das funções de DCIM, aumentando o uptime do ambiente monitorado.

Figura. 2.4. Modelo DCIM

Page 22: Dcd 2014   eficiencia energética - rev 02

22

Um DCIM é constituído de um conjunto de soluções integradas, de Hardware e Software onde para que se tenham as informações completas do DC são instalados interfaces para a coleta de informações de todos os componentes do sistema, tais como entrada de energia, transferência, geradores, UPS, baterias, Ar condicionado, distribuição de energia, controle de acesso e etc., apenas para falar de infra estrutura. São instalados diversos sensores de temperatura, humidade, pressão de ar, abertura de portas, câmeras de acesso, RFID (para gestão de ativos) e etc. para que todo o ambiente físico do Data Hall seja monitorado. A figura 26 mostra um ambiente gerido por um DCIM (Mapa térmico).

A figura 26 – Gestão de um ambiente de Datahall ( DCIM Schneider) As funcionalidades de um DCIM começam com a monitoração de todos os equipamentos de infra estrutura, tais como a elétrica do sistema, desde a entrada de energia até a distribuição dentro do DC (figura 27), sistemas de refrigeração (figura 28), passando por toda a monitoração, controle e log de eventos de todos os componentes do sistema, tal como o consumo de baterias de uma UPS. (figura 29)

Page 23: Dcd 2014   eficiencia energética - rev 02

23

Figura 27 – Gestão de sistema elétrico (DCIM Schneider)

Figura 28 – Gestão da refrigeração (DCIM Schneider)

Figura 29 – Gestão de baterias (DCIM Schneider)

Já a figura 30, mostra o mesmo Datahall (planta baixa) com a distribuição de ativos dentro de um Rack.

Page 24: Dcd 2014   eficiencia energética - rev 02

24

Figura 30 – Planta Baixa com distribuição de ativos no Datahall e nos Racks (DCIM Schneider) Pelas figuras acima podemos ver algumas das inúmeras funcionalidades de um DCIM. Podemos notar que em um sistema de gestão, temos condições de controlar consumo e dispositivos elétricos, sistemas de refrigeração, disposição de ativos, bem como ocupação de racks e inventário de ativos (localização física) dentro do datahall e do próprio rack. Também vimos o mapa térmico do Datahall que permite ver em 3 D toda a distribuição de temperatura, o que permite remanejar ativos em busca de uma melhor distribuição do calor, sem a necessidade de, para refrigerar um ativo sobre aquecido (hotspot), alterar os setpoints do CRAC. Também podemos fazer a correta distribuição de placas perfuradas e trabalhar com total controle a eficiência de refrigeração do DC. Se cruzarmos as pontas, das inúmeras funcionalidades de um DCIM com os 12 pontos apresentados no início deste artigo para a elevação da eficiência energética, vemos que um DCIM fornece ao gestor informações precisas para controlar e intervir na gestão do DC. O próprio sistema fornece uma série de indicadores que permitem, em tempo real, tomar as ações necessárias para resolver falhas, ou agir para alterar a performance de equipamentos e sistemas buscando ponto ótimo de operação. A figura 31 mostra um console com algumas das informações disponíveis ao gestor para implementar KPIs para controlar e gerir o DC em busca da melhor eficiência e consumo de energia.

Page 25: Dcd 2014   eficiencia energética - rev 02

25

Figura 31 – Console com medidas e Indicadores (Datafaz Fazion) O que podemos notar é que para qualquer tomada de decisão, um gestor necessita de informação. Seja para decidir a troca de servidores, seja para consolidar seu servidores, seja para decidir a troca de servidores obsoletos por novos, ou mesmo de UPS ou Ar condicionado por novos, mais eficientes. A informação é a base da gestão e para ter a informação disponível no todo, os sistemas DCIM mostram-se completos o suficiente para tal.

VII – Conclusão Analisando-se o apresentado neste trabalho podemos concluir que a evolução tecnológica, aplicada a novas técnicas de projetos, produtos e soluções podem trazer ganhos significativos de performance a um DC legado. A maioria das ações para a redução de consumo de energia passa por medidas na gestão da TI, tais como consolidação, remoção de servidores inativos, virtualização, etc. As Ações em infra estrutura também são efetivas e devem ser levadas em consideração, principalmente na organização do DC, corredores quente/frio, confinamento, equipamentos mais eficientes e etc. Entretanto vemos que a partir de um ponto onde todas as medidas simples já foram tomadas, a melhoria de operação só se fará com o conhecimento e informação. Todo modelo de gestão baseado em PDOC necessita de acesso e controle da informação para que as medidas e ações corretas sejam tomadas de maneira assertiva para manter a elevada disponibilidade e elevar a eficiência energética.

Page 26: Dcd 2014   eficiencia energética - rev 02

26

Referências (1) - http://www.energystar.gov/index.cfm?c=power_mgt.datacenter_efficiency (2) Power, Pollution and the Internet, The New York Times, by James Glanz, 9/22/2012. (3) Unused Servers Survey Results Analysis, The Green Grid, 2010.

www.thegreengrid.org/~/media/WhitePapers/Unused%20Server%20Study_WP_101910_v1.ashx?lang=en

(4) Important to Recognize the Dramatic Improvement in Data Center Efficiency, Uptime Institute, 9/25/12. blog.uptimeinstitute.com/2012/09/important-to-recognize-the-dramatic-improvement-in-data-center-efficiency

(5) State of Storage 2012”, Information Week, February 2012, by Kurt Marko, (6) 16 Best Practices Guide for Energy-Efficient Data Center Design, NREL, February

2010. (7) Keyzone Computer Products, Ltd., LBNL (8) Data Center Energy Efficiency Best–Practices — Insights Into The ROI On Best–

Practices, December 3, 2008, 42U. (9) http://www.energystar.gov/ia/products/downloads/MKhattar_Case_Study.pdf http://www.thegreengrid.orghttp://www.apc.com/podcast/wp/http://uptimeinstitute.com/http://www.thegreengrid.org/http://www.tiaonline.org/http://www.energystar.gov/http://www.deltartp.com/dpel/dpelconferencepapers/Keynote%202%20(3)-(15).pdfTechresearchblogAPCWhitePaper114APCWhitePaper161APCWhitePaper113APCWhitePaper154EmersonWhitePaper0712EmersonWhitePaper0612MetodosdeescolhadeDCIM–MoacyrFrancoNeto–FazionRevistaSetorEletrico–Eficienciaemambientesdemissãocritica–FazionDatafaz–DefiniçãotécnicadaSoluçãoTia942GreengridWhitePaper16GreengridWhitePaper48