Um quatrilhão de tokens em um mês: Google fala sobre a carga em seus serviços de IA em junho

O Google informou que seus serviços de IA processaram quase um quatrilhão de tokens em junho. Geralmente, entende-se por tokens as unidades de dados processadas por modelos de IA durante o treinamento e a geração, dando uma indicação da escala de uso dos serviços do Google. Os tokens podem incluir texto, imagens, clipes de áudio, vídeo ou outras modalidades.

Fonte da imagem: Google

De acordo com a OpenAI, concorrente do Google na área de tecnologias de IA generativa, um token geralmente equivale a quatro caracteres de texto em inglês, e um parágrafo contém, em média, cerca de 100 tokens. Por exemplo, o texto da Declaração de Independência dos EUA consiste em 1.695 tokens.

«“No mês passado, processamos quase 1.000.000.000.000.000 de tokens, mais que o dobro do que fizemos em maio”, disse o CEO do Google DeepMind, Demis Hassabis, na plataforma de mídia social X.

Um aumento no número de tokens processados não significa necessariamente um aumento no número de usuários de serviços de IA, mas certamente indica que os modelos de raciocínio de IA estão processando significativamente mais dados por uso. O Google começou a implementar a família Gemini 2.5 de modelos de inferência no final de março.

O crescimento nos volumes de tokens processados exige a expansão da infraestrutura de data centers. O Google anunciou este mês que espera aumentar os investimentos em data centers em US$ 10 bilhões, chegando a US$ 85 bilhões por ano.

«Na computação, a quantidade de recursos necessários para o treinamento é importante. Frequentemente, esses recursos precisam ser alocados no mesmo local, pois as restrições de largura de banda entre os data centers podem afetar a eficiência. Os sistemas de IA estão sendo integrados a produtos usados por bilhões de pessoas em todo o mundo e exigem enormes quantidades de poder computacional para gerar respostas. Além disso, uma nova tendência em IA, chamada de modelos de raciocínio, está se tornando cada vez mais relevante: esses modelos se tornam mais inteligentes dependendo de quanto tempo recebem para pensar logicamente. Tudo isso exige cada vez mais recursos, e não vejo sinais de desaceleração nessa direção. À medida que os sistemas de IA melhoram, eles se tornarão mais úteis e mais procurados”, disse Hassabis anteriormente no podcast de Lex Fridman.

admin

Postagens recentes

Relatório Backblaze: discos rígidos de 22 a 24 TB estão entre os mais confiáveis

\nOs discos rígidos de 22 e 24 TB apresentam boas taxas anuais de falhas (AFR).…

1 hora atrás

Meta apresentou o modelo Muse Spark 1.1 AI – ele pode procurar erros complexos no código e trabalhar com agentes

\nMeta✴apresentou o modelo Muse Spark 1.1 AI, focado em tarefas de programação, ao mesmo tempo…

4 horas atrás

SpaceX bate recordes: lançou um estágio Falcon 9 pela 36ª vez e lançou quase 1.600 satélites Starlink em seis meses

\nA SpaceX está no caminho certo para atingir um novo recorde anual de implantação do…

4 horas atrás

Transferências, retrabalhos e perda de talentos: funcionários da Bethesda Game Studios alertaram como demissões no estúdio resultariam em The Elder Scrolls VI

\nEx-funcionários e atuais da Bethesda Game Studios (BGS) conversaram com o IGN sobre como a…

4 horas atrás

O ambicioso simulador medieval The Guild – Europa 1410 não será lançado em 16 de julho no Steam Early Access devido a análises da demo

\nO simulador econômico, político e medieval The Guild - Europa 1410 da editora THQ Nordic…

5 horas atrás