A nuvem tem chão: o custo físico da IA

“Nuvem” é uma das melhores jogadas de marketing da história da tecnologia. Parece leve, limpa e sem endereço. Na prática, é um galpão do tamanho de vários campos de futebol, cheio de máquinas que esquentam, ligado na rede elétrica e, muitas vezes, em um rio.

Onde a conta é feita?

Existem dois lugares onde um modelo pode rodar:

Corretor do teclado, desbloqueio por rosto e transcrição offline rodam no aparelho. Os grandes assistentes de texto, imagem e vídeo rodam em data centers com dezenas de milhares de GPUs — chips especializados em fazer, em paralelo, as multiplicações do loop de treino.

Quanto gasta uma pergunta?

Aqui é fácil cair em manchete exagerada para qualquer um dos lados, então vale separar o que sabemos:

• Por pergunta, é pouco. As próprias empresas publicam estimativas na casa de décimos de watt-hora e de frações de mililitro de água para uma pergunta de texto típica — alguns segundos de TV ligada e algumas gotas; outra estimativa fica na mesma ordem de grandeza. São números de quem vende o serviço, medidos do jeito de quem vende.
• Depende muito da tarefa. Resposta longa, modelos que “raciocinam” por mais tempo e geração de imagem custam mais. Vídeo custa muito mais: em um levantamento jornalístico, poucos segundos de vídeo gerado gastaram centenas de vezes a energia de uma imagem.
• No agregado, é muito. Data centers já respondem por algo entre 1% e 2% da eletricidade do mundo, e a Agência Internacional de Energia projeta que esse consumo mais que dobre em poucos anos, com a IA como principal motor.
• O impacto é local. Um data center não pesa “no planeta” de forma abstrata: pesa na rede elétrica e na água de uma cidade específica. Por isso a pergunta sobre onde instalar, com que energia e com que água é sempre uma pergunta local.

Precisa treinar de novo, ou basta orientar?

Tem uma decisão técnica que muda muito essa conta, e ela aparece cedo em qualquer projeto: como eu faço o modelo se comportar do jeito que eu preciso?

Fine-tuning é retreinar: rodar de novo o loop de treino para mexer nos pesos do modelo. Gasta computação pesada, exige dados bem preparados e pode piorar o que já funcionava — mexer em bilhões de pesos para ensinar uma coisa nova é um pouco como reformar a casa inteira para trocar um quadro de lugar.

Engenharia de contexto é orientar: você não toca nos pesos. Só organiza o que o modelo vai ler na hora — instruções, exemplos, documentos. Custa uma fração, é reversível e pode ser refeito em minutos.

Eu já treinei modelo assim, anos atrás. Hoje, para a esmagadora maioria dos casos que vejo em empresa e em sala de aula, contexto bem feito resolve. Gosto da frase que citei em Ainda vale fazer fine-tuning?: fine-tuning não é injetar conhecimento, é sobrescrever. O capítulo 8 inteiro é sobre a alternativa.

O que eu me pergunto antes de usar?

• Qual é o menor modelo que resolve? Resumir um e-mail não precisa do mais caro do catálogo.
• Eu sei pedir de uma vez? Dez tentativas vagas gastam mais que um pedido com contexto.
• Isso vai se repetir? Se a mesma tarefa vai rodar mil vezes, vale pedir um script e rodar o script (capítulo 10). O script consome quase nada.
• Precisa ser imagem ou vídeo? É onde o consumo por pedido é mais alto.