Um quatrilhão de tokens em um mês: Google fala sobre a carga em seus serviços de IA em junho

O Google informou que seus serviços de IA processaram quase um quatrilhão de tokens em junho. Geralmente, entende-se por tokens as unidades de dados processadas por modelos de IA durante o treinamento e a geração, dando uma indicação da escala de uso dos serviços do Google. Os tokens podem incluir texto, imagens, clipes de áudio, vídeo ou outras modalidades.

Fonte da imagem: Google

De acordo com a OpenAI, concorrente do Google na área de tecnologias de IA generativa, um token geralmente equivale a quatro caracteres de texto em inglês, e um parágrafo contém, em média, cerca de 100 tokens. Por exemplo, o texto da Declaração de Independência dos EUA consiste em 1.695 tokens.

«“No mês passado, processamos quase 1.000.000.000.000.000 de tokens, mais que o dobro do que fizemos em maio”, disse o CEO do Google DeepMind, Demis Hassabis, na plataforma de mídia social X.

Um aumento no número de tokens processados não significa necessariamente um aumento no número de usuários de serviços de IA, mas certamente indica que os modelos de raciocínio de IA estão processando significativamente mais dados por uso. O Google começou a implementar a família Gemini 2.5 de modelos de inferência no final de março.

O crescimento nos volumes de tokens processados exige a expansão da infraestrutura de data centers. O Google anunciou este mês que espera aumentar os investimentos em data centers em US$ 10 bilhões, chegando a US$ 85 bilhões por ano.

«Na computação, a quantidade de recursos necessários para o treinamento é importante. Frequentemente, esses recursos precisam ser alocados no mesmo local, pois as restrições de largura de banda entre os data centers podem afetar a eficiência. Os sistemas de IA estão sendo integrados a produtos usados por bilhões de pessoas em todo o mundo e exigem enormes quantidades de poder computacional para gerar respostas. Além disso, uma nova tendência em IA, chamada de modelos de raciocínio, está se tornando cada vez mais relevante: esses modelos se tornam mais inteligentes dependendo de quanto tempo recebem para pensar logicamente. Tudo isso exige cada vez mais recursos, e não vejo sinais de desaceleração nessa direção. À medida que os sistemas de IA melhoram, eles se tornarão mais úteis e mais procurados”, disse Hassabis anteriormente no podcast de Lex Fridman.