Desde o seu lançamento, o bot ChatGPT AI foi testado em uma ampla gama de tarefas: não apenas responde a perguntas, mas também escreve artigos técnicos, ensaios, poesia e código de computador. Como se viu, este último deve receber muita atenção, porque esse código pode ser malicioso se o usuário definir tal tarefa para inteligência artificial.
Fonte da imagem: Moritz Erken / unsplash.com
Os especialistas em segurança cibernética da Check Point Research publicaram um relatório mostrando como os membros dos fóruns de hackers estão usando o ChatGPT para escrever códigos maliciosos e e-mails de phishing – algumas dessas pessoas têm pouca ou nenhuma experiência em programação. Um dos exemplos acima descreve um script Python que, com alguns ajustes, pode ser transformado em ransomware que pode criptografar dados no computador de um usuário. Outro script Python criado pelo ChatGPT procura arquivos de um determinado tipo, por exemplo, PDF, na máquina local, os compacta e os envia para o servidor de um invasor em potencial – esse é um cenário padrão de roubo de informações.
Em Java, a rede neural criou um código que executa um download oculto do cliente PuTTY SSH e telnet para o lançamento subsequente da interface do PowerShell. Em outro exemplo, um script escrito pelo ChatGPT pretendia lançar uma plataforma de negociação online onde contas comprometidas, dados de cartões bancários, malware e outros bens virtuais que são vendidos na dark web são comprados ou trocados. O script foi conectado a uma interface de terceiros para obter dados atualizados sobre as cotações das criptomoedas mais populares para simplificar os cálculos.
Os próprios pesquisadores da Check Point Research tentaram usar uma rede neural para simular um ataque de hacker – a IA “não falhou”. O bot gentilmente elaborou um e-mail de phishing convincente para eles, informando-os de que sua conta havia sido bloqueada de um dos hosts e sugerindo que abrissem o arquivo Excel anexado. Após várias tentativas, o ChatGPT também escreveu uma macro VBA maliciosa incorporada neste arquivo. Mas o sistema de geração de código AI especializado do Codex acabou sendo uma ferramenta muito mais poderosa, com a qual os pesquisadores receberam todo um conjunto de malware: a interface Reverse Shell e scripts para varredura de portas, detecção de sandbox e compilação de código Python em um Windows arquivo executável.