O aspirador de pó robô Roomba fotografou a anfitriã no banheiro – a foto apareceu na Internet

No outono de 2020, funcionários da Scale AI da Venezuela, trabalhando remotamente, postaram várias fotos em fóruns online, cujos personagens claramente não queriam que fossem publicados. Em um deles estava uma mulher durante uma visita ao banheiro. As fotos foram tiradas não por uma pessoa, mas por um aspirador de pó robô iRobot Roomba J7 – depois foram parar na Scale AI, que contrata pessoas do mundo todo para rotular fotos, áudio e vídeo para treinar sistemas de inteligência artificial.

Fonte da imagem: irobot.com

Representantes da iRobot (agora em processo de aquisição pela Amazon) confirmaram que as fotos foram tiradas por aspiradores Roomba em 2020. No entanto, o fabricante observou que se tratava de versões modificadas das máquinas que nunca foram colocadas à venda livre, mas foram repassadas a funcionários da empresa e outros que, mediante pagamento, aceitaram transmitir dados para treinar o sistema de inteligência artificial. Quando a gravação é ativada no dispositivo, um indicador especial acende no corpo e os participantes do estudo têm a oportunidade de excluir todos os materiais confidenciais.

No entanto, como aponta o MIT Technology Review, a coleta de dados hoje também é realizada em dispositivos de consumo, de smartphones a máquinas de lavar – isso é necessário para treinar vários algoritmos de inteligência artificial, e quanto mais próximo o ambiente em que essas informações são coletadas, natural, maior o valor desses dados. Os fabricantes costumam usar linguagem vaga para obter o máximo de liberdade na coleta e distribuição de informações do consumidor.

Uma das tarefas mais importantes neste caso é a marcação dos dados coletados – a criação de breves explicações descrevendo o que é mostrado na foto ou vídeo, ou o que é dito na gravação de áudio. Empresas especiais estão empenhadas em resolver esse problema – esta é uma indústria jovem, mas em desenvolvimento ativo, cujo faturamento anual, segundo analistas, chegará a US $ 13,3 bilhões até 2030. Um dos maiores players desse setor é a Scale AI, fundada em 2016, que está no formato de crowdsourcing usa os serviços de cidadãos de países em desenvolvimento – os dados do aspirador Roomba vazaram por seus funcionários discutindo questões de trabalho online.

Segundo representantes da iRobot, mais de 2 milhões de imagens foram transferidas apenas para o Scale AI para treinamento de inteligência artificial, mas outras plataformas também estão envolvidas na rotulagem de dados para o fabricante. O chefe da iRobot, Colin Angle, disse que a fabricante será obrigada a romper relações com a empreiteira que fez tal vazamento – a empresa também vai investigar o incidente e tomar medidas para evitar isso no futuro.