A ASUS oferecerá servidores AI AFS Appliance com modelos de idiomas treinados – os clientes podem instalá-los localmente

A taiwanesa Asustek Computer Inc. (ASUS) planeja introduzir um dos primeiros serviços que permite que as empresas aproveitem a IA generativa, mantendo o controle sobre seus dados. Os servidores AFS Appliance baseados em chips NVIDIA A100 serão instalados nas instalações do cliente – a própria ASUS será responsável pela operação e atualização da plataforma de computação.

Fonte da imagem: ThisisEngineering RAEng/unsplash.com

A principal preocupação entre os usuários corporativos de serviços como os oferecidos pela OpenAI é que o uso de datacenters em nuvem pode levar ao vazamento de dados. Por exemplo, a Samsung Electronics já proibiu os funcionários de usar o chatbot ChatGPT depois que foi descoberto que eles carregaram um código de programa importante na plataforma de outra pessoa. A Apple fez uma proibição semelhante, vários bancos de investimento americanos também apoiaram a tendência.

A ASUS agrupará o hardware AFS Appliance com seu próprio modelo de linguagem Formosa grande, equivalente ao ChatGPT 3.5 e treinado em chinês “tradicional”. A empresa pretende cobrar cerca de US$ 6.000 por mês para manutenção, a opção mais cara usando a plataforma NVIDIA DGX AI custará cerca de US$ 10.000 por mês. A ASUS espera obter 30-50 clientes corporativos e entrar no mercado internacional antes do final do ano.

Segundo a empresa, a parceria com a NVIDIA vai acelerar a adoção em massa da tecnologia. A ASUS enfatizou que, antes do advento do ChatGPT, muitas empresas simplesmente não sabiam por que precisavam de grande poder de computação.

Agora, a maioria das empresas clientes usará IA generativa em suas próprias instalações, o que lhes permitirá restringir o acesso às informações corporativas. É relatado que bancos e hospitais já demonstraram interesse considerável. Por exemplo, a IA generativa ajudará os médicos a documentar os tratamentos e atender os pacientes com mais rapidez, além de ajudar a comunicar os diagnósticos com mais clareza. Tais sistemas também serão úteis em outras áreas, por exemplo, em grandes escritórios de advocacia.

De acordo com a ASUS, não faltam chips NVIDIA A100 no coração do sistema AFS Appliance, e os laços existentes entre as duas empresas fornecem confiança de que não haverá interrupções no futuro quando a empresa lançar o sistema no mercado.