A Apple está contando com computação local para trabalhar com grandes modelos de linguagem

No fim de semana passado, o conhecido colunista da Bloomberg, Mark Gurman, não apenas discutiu por que a Apple realmente precisa de um novo smartphone de US$ 250, mas também falou sobre a abordagem da empresa para integrar funções de inteligência artificial em seus dispositivos. Segundo ele, a empresa tenta confiar parte significativa dos cálculos aos componentes locais dos dispositivos dos usuários.

Fonte da imagem: Unsplash, Gilles Lambert

Ou seja, se estamos falando de smartphones de marca, então algum tipo de processador neural dentro do iPhone terá que realizar cálculos locais no processamento das solicitações, contando menos com a troca de informações com a infraestrutura em nuvem. Esta abordagem irá acelerar a resposta do sistema às solicitações recebidas e, para o usuário, será uma vantagem visível. Além disso, o processamento local de informações sensíveis aumentará o grau de segurança da informação.

Ao mesmo tempo, de acordo com um representante da Bloomberg, a Apple não rejeitou completamente a ideia de usar grandes modelos de linguagem de terceiros, oferecidos pelo Google ou pela Microsoft. A Apple também está desenvolvendo seu próprio modelo de linguagem, mas com foco específico no uso de recursos computacionais locais. Detalhes sobre este conceito da Apple poderão ser anunciados já em meados de junho na conferência de desenvolvedores WWDC 2024, conforme explica a fonte.