Os modelos avançados de IA do Google Gemini poderão ser executados localmente em smartphones dentro de um ano

O Google espera que, a partir do próximo ano, seu modelo avançado de linguagem grande Gemini, que compete com o OpenAI GPT-4, seja capaz de rodar localmente em dispositivos móveis.

Fonte da imagem: blog.google

Hoje, o Google já oferece seu modelo mais poderoso, o Gemini Nano, em smartphones Pixel e outros dispositivos Android compatíveis. Brian Rakowski, vice-presidente de gerenciamento de produtos da divisão Pixel do Google, disse que no próximo ano os modelos de linguagem de grande porte mais avançados da empresa, que atualmente operam por meio de data centers remotos, começarão a ser implantados diretamente em smartphones.

«Existem versões menores do nosso modelo Gemini disponíveis na nuvem. Houve vários avanços na compactação desses modelos para executá-los em um dispositivo. Alguns deles já foram comprovados e alguns estão sendo estudados para cenários específicos. Eles já têm aplicativos incríveis. O Gemini Nano tem um desempenho no nível que nossos modelos online alcançaram há menos de um ano. Você pode fazer muito com essas pequenas versões dos modelos do seu dispositivo. Se seguirmos esse caminho, algumas das coisas que pensamos que teríamos que executar na nuvem estarão no dispositivo, o que é incrível, e funcionarão instantaneamente, sem a necessidade de conexão ou assinatura”, disse Rakowski. citado como tendo dito pela CNBC.

Grandes modelos de linguagem são modelos de inteligência artificial que podem perceber a linguagem humana e gerar expressões. Hoje, o modelo carro-chefe do Google é o Gemini Ultra, com 1,56 trilhão de opções. Em comparação, o OpenAI GPT-4 possui 1,76 trilhão de parâmetros.

Os fabricantes de smartphones estão integrando recursos de IA em dispositivos na esperança de restaurar o colapso da demanda por gadgets. 1,16 bilhão de unidades foram vendidas em 2023, as remessas mais baixas em uma década. Foi observado um aumento na procura de smartphones entre 2010 e 2015, quando o mercado cresceu cinco vezes, passando de 300 milhões para 1,5 mil milhões de dispositivos. Humane, Rabbit e Meizu estão apostando em “smartphones do futuro” – dispositivos que não se parecem com smartphones tradicionais. Eles são mais compactos e controlados por meio de comandos de voz, como alto-falantes inteligentes.