0,34 Wh contra 150 Wh: a tarefa de agente consome 440 vezes a energia de uma resposta de chat

Pesquisadores publicaram em 30 de outubro o TokWatt, uma base de dados aberta que reúne 134 estimativas publicadas de consumo de energia em inferência de inteligência artificial, extraídas de 13 fontes entre 2023 e 2026 e cobrindo 20 tipos de tarefa.

O trabalho nasce de um problema de comparabilidade, não de uma preocupação ambiental. Segundo os autores, as estimativas publicadas para uma única resposta de chatbot divergem em duas ordens de magnitude, e a razão principal é metodológica: cada estudo conta uma parte diferente do sistema e mede uma unidade de trabalho diferente.

Em outras palavras, o debate sobre quanto a inteligência artificial consome vinha sendo conduzido com números que não eram comparáveis entre si.

O que a base fez de diferente

Cada um dos 134 registros anota explicitamente cinco coisas: a unidade funcional considerada, os cinco componentes de fronteira de medição, o método usado, o intervalo reportado e a localização exata do valor dentro da fonte original.

Esse último item é a parte menos glamourosa e a mais útil. Registrar onde o número aparece na fonte permite que outra pessoa refaça a verificação, o que é exatamente o que faltava na literatura anterior.

Depois de normalizar tudo para uma fronteira comum, definida como servidor mais instalação, os autores publicam valores de referência por tipo de tarefa. O conjunto cobre seis ordens de magnitude:

• resposta curta de chat: 0,34 Wh, com intervalo reportado de 0,16 a 0,99 Wh;

• resposta com raciocínio: 4,7 Wh;

• clipe curto de vídeo: 124 Wh;

• tarefa delegada a um agente de código: 150 Wh.

A distância entre as linhas é a notícia

O número absoluto importa pouco para a decisão empresarial. Interessa a razão entre eles.

Uma tarefa entregue a um agente de código consome cerca de 440 vezes a energia de uma resposta curta de chat, e aproximadamente 32 vezes a energia de uma resposta com raciocínio. Não é uma diferença de eficiência: é uma mudança de ordem de grandeza da unidade de trabalho.

Isso reposiciona a conversa sobre custo de inteligência artificial. A pergunta deixa de ser quanto custa o token e passa a ser qual unidade de trabalho a empresa escolheu automatizar.

O custo não escala com usuários

Essa é a consequência prática que contraria a intuição de orçamento mais comum.

A maior parte das empresas projeta gasto com inteligência artificial pelo número de pessoas que vão usar: licença por assento, previsão de crescimento de equipe, desconto por volume. É o modelo mental de software como serviço, aplicado a uma tecnologia que não se comporta assim.

O gasto com inferência escala com o tipo de tarefa, não com a quantidade de usuários. Uma equipe do mesmo tamanho, no mês seguinte, pode multiplicar o consumo por duas ordens de magnitude sem contratar ninguém: basta trocar perguntas pontuais por fluxos agênticos que executam uma sequência inteira de passos sem intervenção.

Isso tem três efeitos diretos.

O primeiro é de previsão orçamentária. Projetar gasto por assento, quando a operação está migrando para agentes, produz uma previsão que erra por múltiplos, não por pontos percentuais.

O segundo é de arquitetura. As decisões que determinam a conta são escolhas de desenho, tomadas antes de qualquer discussão de preço: quando usar raciocínio longo e quando não, quando um modelo menor resolve, quando o cache elimina a chamada, e qual o tamanho da tarefa que o agente deve receber. Automatizar um processo inteiro com um agente quando três etapas bem definidas resolviam é uma decisão que aparece na fatura.

O terceiro é contratual. Empresa que negocia consumo de inteligência artificial por assento, sem medir tarefas por tipo, não tem instrumento para prever o próprio gasto no momento em que os agentes entram em produção. O contrato fica confortável durante o piloto e perde sentido exatamente quando o volume muda de natureza.

Para quem tem meta de emissões declarada, há ainda uma consequência de relatório, porque a linha de inferência deixa de ser desprezível quando a unidade de trabalho muda.

O que a base não prova

As ressalvas aqui são relevantes e os próprios autores as explicitam.

A base não mede nada diretamente. Ela consolida e normaliza estimativas publicadas por terceiros, com toda a heterogeneidade que isso implica. É um trabalho de padronização metodológica, não um experimento de medição.

É uma pré-publicação, sem revisão por pares até o fechamento desta edição.

Os intervalos permanecem amplos. A faixa de 0,16 a 0,99 Wh para uma resposta curta de chat é um fator de seis entre o piso e o teto, o que significa que o valor central de 0,34 Wh é uma referência de ordem de grandeza, não uma medida de precisão operacional.

A eficiência por tarefa também tem caído rápido a cada geração de hardware e de modelo, o que pode envelhecer os valores de referência em questão de meses.

E energia não é custo financeiro. A relação entre watt-hora e reais depende de contrato de energia, região, eficiência do centro de dados e margem do fornecedor, nenhum dos quais está na base.

Existe, por fim, um contraponto conceitual legítimo. Comparar uma tarefa de agente com uma resposta de chat compara coisas de escopo diferente: a tarefa de agente substitui uma sequência que antes exigiria várias interações humanas e várias respostas de chat. A comparação justa, do ponto de vista de decisão, é entre o agente e o processo inteiro que ele substitui, incluindo o tempo de gente envolvido. Nessa conta, 150 Wh pode ser barato.

A métrica que falta

O que o estudo entrega de aproveitável não é um número para colocar em apresentação. É a confirmação de que a unidade de medida usada para decidir projeto de automação está errada.

Custo por licença não diz nada sobre o custo da operação. Preço por milhão de tokens não diz nada sobre o custo de concluir uma tarefa. A medida que responde à pergunta é custo por tarefa concluída, e ela exige definir o que conta como tarefa, instrumentar o fluxo e registrar as tentativas que falharam antes do acerto, incluindo o custo de verificar o que o agente entregou.

É uma disciplina de desenho, não de tecnologia: escolher o tamanho da tarefa antes de escolher o modelo. O TokWatt dá a ordem de grandeza que justifica o esforço de construir essa medida antes de aprovar o próximo projeto, em vez de descobri-la na fatura do trimestre seguinte.