O chatbot Amazon Q era suscetível a “alucinações” e até vazou as coordenadas dos data centers da AWS

O recentemente introduzido chatbot Amazon Q da Amazon exibe “alucinações” típicas deste tipo de solução e vaza dados confidenciais, relata Platformer. Os usuários da versão preview agora têm acesso a dados sobre a localização do data center da empresa, programas de descontos não públicos e funções ainda não apresentadas.

O incidente foi classificado como vazamento de nível 2, o que significa que foi sério o suficiente para exigir que as equipes o consertassem durante a noite e trabalhassem durante o fim de semana. Os problemas de Q surgem em um momento particularmente inoportuno, enquanto a Amazon tenta conquistar um lugar no mercado de assistentes de IA. Os pioneiros aqui foram Microsoft, Google e algumas startups. Em setembro, a empresa anunciou que investiria US$ 4 bilhões na startup Anthropic, e esta semana finalmente revelou seu próprio chatbot, o Q.

Em resposta aos relatos dos problemas de Q, a empresa disse que alguns funcionários partilham feedback através de canais internos, mas não há provas de que os materiais de feedback mencionem casos de aparentes violações de dados. Posteriormente, a empresa enfatizou mais uma vez que o Amazon Q não vazou informações confidenciais. Ao mesmo tempo, a empresa esclarece que feedback é bem-vindo, pois ajudará a personalizar melhor o comportamento do assistente de IA. No entanto, documentos internos da empresa vazados online indicam o contrário – Q deu respostas enganosas ou potencialmente perigosas, por exemplo, em relação a questões de segurança.

Fonte da imagem: John Schnobrich/unsplash.com

Até agora, a Amazon esconde cuidadosamente a localização do data center de seu enorme parque, que inclui instalações próprias e alugadas. Em 2018, o WikiLeaks publicou documentação interna da gigante de TI, incluindo informações sobre as coordenadas dos data centers da empresa em 2015. Desde então, a localização do data center foi divulgada apenas em documentos sobre a construção prevista, mas ainda não há informações exatas sobre a localização de todos os sites da empresa. Em seu último relatório K-10, a AWS informou que, no final de 2022, a empresa possuía mais de 1,4 milhão de metros quadrados de data centers em todo o mundo e alugava mais de 1,6 milhão de metros quadrados.