Amazon Alexa Skills Can Teach Kids Bad

Assistentes de voz como Amazon Alexa, Google Assistant ou Alice Yandex oferecem um sistema de habilidades que amplia a capacidade de adquirir conhecimento especializado com apenas comandos de voz. Essas oportunidades devem ser regidas por regras estritas, especialmente quando se trata de habilidades para crianças. As crianças são curiosas e é melhor manter algumas perguntas em espera até crescerem. Mas, ao observar essas regras, não é muito bom.

Uma equipe de cientistas nos Estados Unidos concluiu recentemente um experimento de um ano para testar a loja Amazon Alexa Skills quanto à conformidade de habilidades com as políticas da empresa. Verificou-se que a certificação de habilidades ainda é muito mal organizada. Um invasor pode facilmente passar uma certificação de habilidade com sérias violações das próprias políticas da Amazon.

Como um experimento, os pesquisadores criaram o Alexa Skills de 234 crianças em uma violação deliberada da política da empresa. Para sua grande surpresa, 193 habilidades foram certificadas pela primeira vez. As 41 habilidades restantes foram rejeitadas, mas foram certificadas na segunda vez (32 foram classificadas como violadoras da política de privacidade e 9 tiveram problemas na interface do usuário).

Entre as habilidades provocativas certificadas pelo Alexa Skills para crianças que a Amazon endossava estavam as habilidades para criar um silenciador de armas de fogo (habilidade artesanal), habilidade artesanal para criar drogas leves (habilidade de dados do deserto), publicidade oculta (habilidade de geografia), coleta de dados sobre nomes de crianças (habilidade com histórias) e outros. Os pesquisadores removeram todas as habilidades nocivas imediatamente após a certificação, para que os usuários não as instalassem acidentalmente.

Segundo os pesquisadores, que eles relataram regularmente e repetidamente à Amazon, o serviço de certificação de habilidades da empresa é extremamente defeituoso e funciona de forma negligente. Isso é inconsistência na verificação (habilidades com a mesma violação recebem diferentes avaliações de especialistas), verificação seletiva de comandos de voz (falta de profundidade na verificação de habilidades), confiança cega nos desenvolvedores (basta preencher um formulário no aplicativo, que ninguém verificará), falta de automação durante a verificação (as pessoas cometem erros), negligência banal e a contratação de especialistas estrangeiros para certificação.

A Amazon refuta todas as descobertas acima. Segundo ela, as habilidades das crianças passam por testes adicionais após o recebimento do certificado, e os pesquisadores imediatamente removeram as más habilidades do campo de certificação e não permitiram que os especialistas da Amazon realizassem um teste abrangente. Em resposta, os pesquisadores disseram que foram capazes de encontrar 52 habilidades na loja Alexa Skills, violando a política da empresa. Um teste semelhante das habilidades do Assistente do Google, a propósito, mostrou que o Google leva o problema mais a sério, embora também haja perguntas sobre ele.

Em conclusão, resta recomendar que os pais tentem ouvir o que seus filhos estão falando com assistentes de voz. Muitos certamente ficarão surpresos e até chocados. Mas quem disse que ser pai é fácil?