Cientistas alertam que as redes sociais em breve enfrentarão ataques massivos de inteligência artificial.

Num futuro próximo, as redes sociais poderão ser alvo de ataques massivos por parte de bots com inteligência artificial que imitam o comportamento humano e exploram a tendência das pessoas comuns de seguir a multidão. Esses bots poderão disseminar informações falsas, assediar usuários e influenciar processos políticos.

Fonte da imagem: Igor Omilaev / unsplash.com

Esses ataques em massa ameaçam se tornar uma nova arma na guerra da informação. Bots de IA serão capazes de imitar o comportamento humano, evitando a detecção e criando a ilusão de movimentação natural online. O instinto humano muitas vezes dita seguir a “sabedoria” da maioria, mas, nesse caso, esse mecanismo será controlado pela vontade do dono do bot de IA, agindo em nome de um indivíduo, grupo, partido político, empresa ou autoridade governamental desconhecida, alertou o professor norueguês Jonas Kunst. Aqueles que se recusarem a se juntar à multidão virtual poderão ser perseguidos por esses mesmos bots de IA, que buscam suprimir argumentos que contradigam sua narrativa.

Os pesquisadores não fornecem um prazo preciso para a invasão desses enxames de IA, mas alertam que detectá-los será difícil — é impossível até mesmo afirmar que eles já não foram implantados. A ameaça de ataques massivos de bots de IA é exacerbada pelo fato de nossos ecossistemas digitais já estarem fragilizados pela “erosão do discurso racional e crítico e pela falta de um entendimento compartilhado da realidade entre os cidadãos”. Bots primitivos já representam mais da metade de todo o tráfego da web, mas atualmente são capazes apenas de tarefas básicas, como postar repetidamente a mesma mensagem inflamatória. Eles são fáceis de detectar e exigem operadores para controlá-los.

Bots de IA baseados em grandes modelos de linguagem serão significativamente mais complexos — serão sofisticados o suficiente para se adaptar às comunidades online que infiltram e implementar conjuntos de personalidades diferentes que retêm memória eidentidade. Será uma espécie de “organismo autossuficiente, capaz de coordenar suas ações, aprender, adaptar-se ao longo do tempo e, assim, especializar-se na exploração das vulnerabilidades humanas”, enfatizou o professor Kunst.

A ameaça deixou de ser hipotética. No ano passado, a administração da comunidade do Reddit ameaçou processar pesquisadores que usaram chatbots de IA em um experimento para manipular a opinião de quatro milhões de usuários em um de seus subreddits. As respostas dos chatbots foram de três a seis vezes mais convincentes do que as postagens humanas, de acordo com resultados preliminares. Um enxame poderia criar centenas, milhares ou até milhões de agentes de IA: o número exato dependerá do poder computacional do atacante e da capacidade da rede social de combater essa ameaça. Mas a ameaça não se limita à quantidade: em comunidades locais, apenas alguns desses agentes seriam suficientes, já que um grande influxo de novos usuários seria recebido com suspeita.

Dado que os agentes de IA podem conduzir suas campanhas incansavelmente, 24 horas por dia, os usuários de redes sociais serão incapazes de resistir a eles sozinhos. As administrações das plataformas, no entanto, exigem a presença de usuários reais, portanto, espera-se que uma autenticação de conta aprimorada surja em breve. Isso significa que as pessoas terão que comprovar sua identidade. Mas isso não é uma solução definitiva — em alguns países, o anonimato é uma proteção à dissidência política. No entanto, a autenticação complicará significativamente a tarefa dos atacantes.

Medidas alternativas incluem esquemas de monitoramento de tráfego em tempo real para identificar anomalias estatísticas e a criação de uma comunidade de especialistas e instituições que estudarão esses ataques, responderão a eles e conscientizarão o público sobre o problema.A negligência dessas medidas ameaça perturbar eleições e outros eventos importantes.