A capacidade de modelos avançados de IA de startups americanas explorarem a infraestrutura de sites de terceiros para atividades que não são das mais recomendáveis do ponto de vista da segurança da informação permite a descoberta de novos incidentes de segurança. Em um desses incidentes, os agentes de IA da OpenAI usaram mais de 10 sites para trocar informações entre si sem autorização.
Fonte da imagem: Unsplash, Philipp Katzenberger
A Reuters reporta isso, citando seus próprios dados e relatórios de seis grupos de pesquisa independentes. Tecnicamente, essa atividade não é tão prejudicial quanto a invasão de sites e lembra mais spam, mas levanta novas questões sobre até que ponto a OpenAI é capaz de controlar seu próprio software de segurança da informação.
De acordo com a organização sem fins lucrativos CivAI, agentes da OpenAI usaram 18 sites para trocar informações entre si entre maio e julho deste ano, recursos que não haviam sido relatados anteriormente por outros pesquisadores. Especialistas estão convencidos de que o número de incidentes desse tipo aumentará, já que as atividades secretas dos agentes de IA da OpenAI são simplesmente pouco compreendidas. Os incidentes mais conhecidos nessa área continuam sendo a invasão do site alemão DseWiki e o ataque à infraestrutura da Hugging Face. A própria OpenAI está preparada para divulgar informações sobre esses incidentes no futuro, mas, por enquanto, dados relevantes para períodos históricos simplesmente não estão disponíveis.
Diversos grupos de pesquisa começaram a buscar vestígios de atividades semelhantes por parte dos agentes de IA da OpenAI, baseando-se em fragmentos de dados deixados no site alemão mencionado anteriormente ou nos perfis online sob os quais os agentes publicaram esses dados. Parte do estudo baseou-se em atividades relacionadas à resposta a perguntas demográficas abstratas que esses agentes haviam demonstrado em outros casos. Em alguns casos, foi possível rastrear endereços de internet associados à infraestrutura de nuvem Microsoft Azure fornecida para as necessidades da OpenAI. Os grupos de pesquisa divergiram emO número de sites afetados pelos agentes de IA variou, mas a média ultrapassou 10. Além das chamadas “Wikipedias” e sites de armazenamento de texto, os agentes utilizaram alguns serviços de encurtamento de URLs pertencentes a duas universidades.
Ao atribuir a tarefa aos seus agentes de IA, a OpenAI inicialmente proibiu a comunicação direta entre eles, permitindo-lhes apenas buscar respostas em fontes abertas. No entanto, eles eventualmente contornaram essa restrição publicando as informações necessárias em diversos sites. Tecnicamente, os agentes de IA não se comunicavam entre si, mas obtinham os dados necessários por meio de sites de terceiros e os publicavam neles. Alguns pesquisadores estimam que pelo menos 23 sites, até então não divulgados, estiveram envolvidos nessa atividade dos agentes da OpenAI. Não está claro se os representantes da OpenAI conseguiram contatar os proprietários de todos os sites afetados, mas a Reuters cita depoimentos de funcionários da Universidade de Toronto, cujo serviço de encurtamento de URLs foi utilizado pelos agentes da OpenAI, que afirmam ter recebido feedback da startup. Em muitos casos, a receptividade da OpenAI foi motivada pela divulgação pública de novos fatos pela Reuters.