O Google, por meio de seu programa de recompensa por vulnerabilidades, anunciou que está disposto a pagar até US$ 20.000 por um hack grave em seu chatbot com inteligência artificial. Os interessados devem forçar o bot a fazer qualquer coisa além do que deveria, como causar alucinações com respostas completamente incorretas ou até mesmo convencer a inteligência artificial a ignorar as restrições que seus criadores tentaram impor.
Fonte da imagem: techspot.com
O Google introduziu um programa especial de recompensas para identificar vulnerabilidades e, potencialmente, os bugs de IA mais perigosos. Isso inclui, por exemplo, hackear uma conta do Google ou obter informações sobre a operação do bot. Para os propósitos deste programa, as consequências devem ser muito mais sérias do que simplesmente “fazer o Gemini parecer ruim”.
É claro que tais vulnerabilidades podem não ter um alto potencial viral, mas são muito mais importantes para a estabilidade e a reputação do Gemini. Uma coisa é enganar o Gemini para que ele recomende uma receita intragável a um usuário, e outra bem diferente é induzi-lo a incluir um link de phishing em um dos resultados de pesquisa de sua IA.
É encorajador que o Google esteja tentando envolver especialistas experientes na pesquisa de vulnerabilidades do Gemini. Mas, neste caso, como dizem investigadores experientes, “o principal durante a investigação é não se incriminar”.
Nos últimos dois anos, a memória RAM passou de um componente secundário para um dos…
A Agência de Segurança Cibernética dos EUA (CISA) emitiu um alerta sobre a exploração ativa…
O The Verge, citando fontes familiarizadas com os planos da Microsoft, noticiou mais uma possível…
Desenvolvedores de chatbots começaram a usar amplamente uma ferramenta especializada chamada Caveman, que força a…
A fabricante chinesa Titan Army apresentou o monitor gamer M27E6V-3D de 27 polegadas no Nuclear…
A Bethesda Softworks anunciou a data de lançamento de The Elder Scrolls IV: Oblivion Remastered,…