Conforme explicado por Partha Ranganathan, VP & Engineering Fellow da Google, em uma sessão online para a imprensa na qual o TEK Notícias participou, os modelos de IA estão se tornando cada vez maiores, passando de milhões para bilhões de parâmetros, o que requer uma capacidade computacional significativamente maior.
No entanto, à medida que o poder computacional aumenta, também crescem as responsabilidades ambientais. Segundo Ranganathan, a nova metodologia visa estimular a discussão sobre a pegada ambiental da IA, especialmente em um setor onde ainda não existe consistência na forma como o consumo de energia e outros parâmetros essenciais são mensurados.
A metodologia criada pela empresa, apresentada em um novo relatório técnico, permite avaliar os gastos de energia e água, assim como as emissões de carbono de seus modelos de IA. Com isso, foi possível estimar que, em média, um prompt de texto nas aplicações do Gemini consome 0,24 watts-hora (Wh) de energia e 0,26 mililitros de água, emitindo 0,03 gramas de equivalente de dióxido de carbono (gCO2e).
Para colocar esse consumo de energia em perspectiva, Savannah Goodman, líder do Advanced Energy Labs da Google, comenta que o impacto gerado por um prompt é comparável a assistir televisão por menos de nove segundos.
A profissional ainda discorre que, nos últimos 12 meses, graças a diversas medidas de otimização, o consumo médio de energia e a pegada de carbono por prompt de texto das aplicações Gemini reduziram em 33 e 44 vezes, respectivamente.
Conforme explicado por Savannah Goodman, muitos cálculos atuais sobre o consumo de energia da IA consideram apenas o uso ativo da máquina. Para suprir essas lacunas, a metodologia desenvolvida leva em consideração “todos os fatores críticos”.
Dentre esses fatores, incluem-se a potência dinâmica do sistema completo, que considera não apenas a energia e a água utilizadas pelo modelo de IA durante a computação ativa, mas também a utilização real dos chips em larga escala, conforme indicou a Google.
Além de considerar máquinas inativas e o uso de CPU e RAM, a metodologia incorpora parâmetros como sobrecarga do centro de dados e consumo de água, frequentemente utilizada para resfriamento dos data centers.
Em comparação, usando uma metodologia menos abrangente, que contabiliza apenas o consumo ativo de TPU e GPU, estima-se que um prompt de texto no Gemini consome 0,10 Wh de energia, emite 0,02 gCO2e e usa 0,12 ml de água, o que, segundo especialistas, representa um “cenário otimista”, subestimando a verdadeira pegada operacional da IA.
A criação da nova metodologia se soma às iniciativas da empresa para mitigar o impacto ambiental resultante do consumo de energia em seus data centers. Recentemente, a empresa firmou dois novos acordos com empresas de eletricidade dos Estados Unidos, a Indiana Michigan Power e a Tennessee Valley Authority.
A empresa tem buscado integrar novas soluções mais flexíveis em seus centros de dados, permitindo ajustar ou reduzir o consumo de energia em horários ou períodos específicos do ano. Segundo a Google, a assinatura desses acordos representa a primeira vez que a empresa aplica essa prática, conhecida como “demand response”, a processos na área de machine learning.
