O chatbot Amazon Q era suscetível a “alucinações” e até vazou as coordenadas dos data centers da AWS

O recentemente introduzido chatbot Amazon Q da Amazon exibe “alucinações” típicas deste tipo de solução e vaza dados confidenciais, relata Platformer. Os usuários da versão preview agora têm acesso a dados sobre a localização do data center da empresa, programas de descontos não públicos e funções ainda não apresentadas.

O incidente foi classificado como vazamento de nível 2, o que significa que foi sério o suficiente para exigir que as equipes o consertassem durante a noite e trabalhassem durante o fim de semana. Os problemas de Q surgem em um momento particularmente inoportuno, enquanto a Amazon tenta conquistar um lugar no mercado de assistentes de IA. Os pioneiros aqui foram Microsoft, Google e algumas startups. Em setembro, a empresa anunciou que investiria US$ 4 bilhões na startup Anthropic, e esta semana finalmente revelou seu próprio chatbot, o Q.

Em resposta aos relatos dos problemas de Q, a empresa disse que alguns funcionários partilham feedback através de canais internos, mas não há provas de que os materiais de feedback mencionem casos de aparentes violações de dados. Posteriormente, a empresa enfatizou mais uma vez que o Amazon Q não vazou informações confidenciais. Ao mesmo tempo, a empresa esclarece que feedback é bem-vindo, pois ajudará a personalizar melhor o comportamento do assistente de IA. No entanto, documentos internos da empresa vazados online indicam o contrário – Q deu respostas enganosas ou potencialmente perigosas, por exemplo, em relação a questões de segurança.

Fonte da imagem: John Schnobrich/unsplash.com

Até agora, a Amazon esconde cuidadosamente a localização do data center de seu enorme parque, que inclui instalações próprias e alugadas. Em 2018, o WikiLeaks publicou documentação interna da gigante de TI, incluindo informações sobre as coordenadas dos data centers da empresa em 2015. Desde então, a localização do data center foi divulgada apenas em documentos sobre a construção prevista, mas ainda não há informações exatas sobre a localização de todos os sites da empresa. Em seu último relatório K-10, a AWS informou que, no final de 2022, a empresa possuía mais de 1,4 milhão de metros quadrados de data centers em todo o mundo e alugava mais de 1,6 milhão de metros quadrados.

avalanche

Postagens recentes

A Microsoft começou a coletar dados não autorizados de documentos Word e Excel para treinamento de IA – não é fácil recusar

O conjunto de funções Connected Experiences presentes no pacote Microsoft Office, projetado para análise de…

36 minutos atrás

A Intel finalmente forneceu subsídios para garantir que os chips americanos fossem fabricados por americanos na América

O Departamento de Comércio dos EUA anunciou na terça-feira que havia concluído um subsídio governamental…

36 minutos atrás

T-Bank lançou seu próprio mercado e rede social

Foi lançada uma grande atualização da aplicação móvel do T-Bank, incluindo um mercado chamado “Shopping”,…

2 horas atrás