IA aprendeu a hackear usando imagens com um truque invisível para os humanos

Um estudo de cientistas americanos mostrou que os modernos sistemas de inteligência artificial capazes de analisar imagens são vulneráveis ​​à manipulação por meio do canal alfa em arquivos de imagens – conjunto de dados responsável por sua transparência.

Fonte da imagem: Google DeepMind/unsplash.com

Pesquisadores da Universidade do Texas em San Antonio descobriram que o canal alfa, que controla a transparência da imagem, é frequentemente ignorado na criação de ferramentas de análise de IA. E poderá tornar-se um veículo para ataques cibernéticos a sistemas médicos e de piloto automático. Para provar a sua tese, uma equipa de cientistas liderada pela Professora Associada Guinevere Chen desenvolveu um método de ataque AlphaDog que explora esta vulnerabilidade em sistemas de IA. Por causa do canal alfa, os humanos e a IA podem perceber as imagens de maneira muito diferente.

Os cientistas criaram 6.500 imagens e as testaram em 100 modelos de IA, incluindo 80 sistemas de código aberto e 20 plataformas em nuvem, como ChatGPT. Os testes mostraram que o esquema AlphaDog é particularmente eficaz contra ataques em regiões de imagens em tons de cinza. O modelo de IA subjacente aos sistemas de piloto automático é vulnerável – o canal alfa permite a manipulação de algoritmos de reconhecimento de sinais de trânsito que contêm fragmentos em tons de cinza. Como resultado, os sinais de trânsito podem ser reconhecidos incorretamente e existe o risco de consequências graves.

Outro alvo potencial de ataque são os sistemas de imagens médicas nos quais a IA ajuda no diagnóstico. Aqui, os resultados de raios X, ressonância magnética e tomografia computadorizada são frequentemente apresentados em tons de cinza e também podem ser manipulados usando o AlphaDog, que ameaça fazer um diagnóstico deliberadamente incorreto. Por fim, o esquema de ataque proposto pelos cientistas é eficaz contra sistemas de reconhecimento facial – isso pode levar a problemas com a privacidade das pessoas e com a segurança dos objetos protegidos. Os autores do estudo partilharam as suas descobertas com grandes empresas tecnológicas, incluindo Google, Amazon e Microsoft, para ajudar a resolver as vulnerabilidades identificadas nos sistemas de IA.