Com a crescente disseminação das tecnologias de IA generativa, as empresas começaram a exigir que os funcionários demonstrassem sucesso prático no domínio delas, mas essa pressão criou um fenômeno parasitário: os trabalhadores atribuem tarefas sem sentido à IA unicamente para melhorar as estatísticas de adoção.
Fonte da imagem: Amazon, Dall-E
Pelo menos, esse é o fenômeno que o Financial Times está relatando em relação à Amazon. Os funcionários da gigante da internet estão usando cada vez mais uma solução de software chamada MeshClaw, que se conecta às suas ferramentas de trabalho e pode executar tarefas em seu nome. Alguns funcionários da Amazon começaram a usar esse agente para automatizar atividades aparentemente inúteis, unicamente para aumentar suas próprias avaliações de desempenho em IA.
Isso é resultado da crescente pressão da gerência, que agora exige que mais de 80% dos desenvolvedores de software usem IA semanalmente. Estatísticas individuais são mantidas para cada funcionário, e aqueles que não atingem as metas são forçados a dar explicações difíceis à gerência. Oficialmente, os gerentes não devem usar dados de tokens de IA para avaliar o desempenho dos funcionários, mas os funcionários começaram a suspeitar que isso está acontecendo de alguma forma. Nessas circunstâncias, os funcionários da Amazon estão sendo incentivados indevidamente e, na prática, estão simulando um alto uso de IA para seus próprios fins egoístas, em vez de para o bem maior da empresa.
As gigantes americanas da tecnologia estão investindo somas colossais no desenvolvimento de infraestrutura de IA, por isso é importante que demonstrem aos investidores e à administração que essas tecnologias estão sendo implementadas e trazendo benefícios práticos. A maneira mais fácil de fazer isso é dando o exemplo, e é por isso que a Amazon, que planeja investir US$ 200 bilhões em despesas de capital este ano, está pressionando cada vez mais seus funcionários. Inicialmente, a AmazonA Amazon costumava publicar estatísticas de grupo sobre o uso de IA por seus funcionários, mas agora apenas os próprios funcionários e seus supervisores imediatos têm acesso aos resultados individuais. Estes últimos estão formalmente proibidos de usar tais estatísticas para avaliar o desempenho dos funcionários.
Como explica o Financial Times, abusos semelhantes entre funcionários também foram observados na Meta✴Platforms. O software agente MeshClaw, usado por funcionários da Amazon para esses fins, é capaz de enviar código para versões de produção de softwares, classificar e-mails e interagir com aplicativos como o Slack. Mais de 30 especialistas da Amazon trabalharam no desenvolvimento desse agente. Muitos funcionários estão preocupados com a segurança de tais soluções, já que a IA pode gerar inúmeros erros e, neste caso, está sujeita a supervisão limitada.