ByteDance demitiu miseravelmente um executivo por introduzir código malicioso em um modelo de IA

A ByteDance, dona do TikTok, confirmou a demissão de um estagiário por introduzir códigos maliciosos em modelos de inteligência artificial de forma maliciosa. As ações do jovem supostamente custaram à empresa dezenas de milhões de dólares em perdas.

Fonte da imagem: Claudio Schwarz/Unsplash

A ByteDance, embora tenha confirmado a demissão do estagiário, no entanto, como relata o Ars Technica, negou rumores sobre perdas multimilionárias e a perda de poder computacional de 8.000 processadores gráficos, tentando interromper conversas sobre esse assunto nas redes sociais chinesas que são prejudiciais à imagem da empresa. A ByteDance chamou as alegações de “grosseiramente exageradas” e enfatizou que os danos foram significativamente menores.

Segundo o comunicado oficial, o estagiário ocupava cargo em uma equipe de tecnologia comercial e “interferiu maliciosamente nas tarefas de treinamento de modelos” no âmbito de um projeto de pesquisa. A empresa também acusou o estagiário de adicionar informações falsas ao seu perfil nas redes sociais, indicando que seu trabalho era com o laboratório de inteligência artificial da ByteDance e não com a equipe de tecnologia comercial. A ByteDance notificou as associações universitárias e industriais do estagiário sobre o incidente, provavelmente para evitar que ele tentasse enganar outras pessoas.

A empresa ressalta que nenhuma das áreas comerciais foi afetada e os algoritmos de modelo de linguagem grande (LLM) também não foram afetados. Apesar desta afirmação, alguns utilizadores das redes sociais continuam a duvidar da versão oficial. Alguns afirmam que a equipe de comercialização em que o estagiário trabalhou fazia parte de um laboratório de IA e que o estagiário pode ter usado “código malicioso” para “sabotar deliberadamente o treinamento do modelo por pelo menos vários meses”. Outros comentaristas sugerem que a ByteDance está minimizando os danos e que “a perda de poder computacional por si só pode chegar a vários milhões de dólares, senão dezenas, sem mencionar a perda de tempo, energia e salários de toda a equipe de pesquisa”.