O Google, por meio de seu programa de recompensa por vulnerabilidades, anunciou que está disposto a pagar até US$ 20.000 por um hack grave em seu chatbot com inteligência artificial. Os interessados devem forçar o bot a fazer qualquer coisa além do que deveria, como causar alucinações com respostas completamente incorretas ou até mesmo convencer a inteligência artificial a ignorar as restrições que seus criadores tentaram impor.
Fonte da imagem: techspot.com
O Google introduziu um programa especial de recompensas para identificar vulnerabilidades e, potencialmente, os bugs de IA mais perigosos. Isso inclui, por exemplo, hackear uma conta do Google ou obter informações sobre a operação do bot. Para os propósitos deste programa, as consequências devem ser muito mais sérias do que simplesmente “fazer o Gemini parecer ruim”.
É claro que tais vulnerabilidades podem não ter um alto potencial viral, mas são muito mais importantes para a estabilidade e a reputação do Gemini. Uma coisa é enganar o Gemini para que ele recomende uma receita intragável a um usuário, e outra bem diferente é induzi-lo a incluir um link de phishing em um dos resultados de pesquisa de sua IA.
É encorajador que o Google esteja tentando envolver especialistas experientes na pesquisa de vulnerabilidades do Gemini. Mas, neste caso, como dizem investigadores experientes, “o principal durante a investigação é não se incriminar”.
Como parte de sua estratégia de desenvolvimento atualizada, a Intel confirmou seus planos de lançar…
Uma demo de Darkhaven, um RPG de ação e fantasia sombria de nova geração da…
Inúmeros usuários relataram que a rede social X estava indisponível. Os relatos de problemas começaram…
O usuário do YouTube Gwak revelou uma versão verdadeiramente enorme de uma caixa de som…
A semana de 16 a 22 de fevereiro foi especialmente diversificada, com aventuras sombrias em…
O informante de confiança Tom Henderson revelou seis jogos que foram vítimas da grande reestruturação…