O Google, por meio de seu programa de recompensa por vulnerabilidades, anunciou que está disposto a pagar até US$ 20.000 por um hack grave em seu chatbot com inteligência artificial. Os interessados devem forçar o bot a fazer qualquer coisa além do que deveria, como causar alucinações com respostas completamente incorretas ou até mesmo convencer a inteligência artificial a ignorar as restrições que seus criadores tentaram impor.
Fonte da imagem: techspot.com
O Google introduziu um programa especial de recompensas para identificar vulnerabilidades e, potencialmente, os bugs de IA mais perigosos. Isso inclui, por exemplo, hackear uma conta do Google ou obter informações sobre a operação do bot. Para os propósitos deste programa, as consequências devem ser muito mais sérias do que simplesmente “fazer o Gemini parecer ruim”.
É claro que tais vulnerabilidades podem não ter um alto potencial viral, mas são muito mais importantes para a estabilidade e a reputação do Gemini. Uma coisa é enganar o Gemini para que ele recomende uma receita intragável a um usuário, e outra bem diferente é induzi-lo a incluir um link de phishing em um dos resultados de pesquisa de sua IA.
É encorajador que o Google esteja tentando envolver especialistas experientes na pesquisa de vulnerabilidades do Gemini. Mas, neste caso, como dizem investigadores experientes, “o principal durante a investigação é não se incriminar”.
A Scality, especialista em armazenamento definido por software (SDS), revelou detalhes de uma nova classe…
A Stardust Solutions, empresa especializada em tecnologias de geoengenharia, propôs uma solução que, segundo ela,…
A Figure AI relatou que, durante os testes, seus robôs humanoides operaram por mais de…
A Comissão Federal de Comércio dos EUA (FTC, na sigla em inglês) iniciou uma investigação…
Um overclocker chinês apelidado de "Wytiwx" estabeleceu um novo recorde mundial de overclock de CPU,…
Em uma versão de teste do Windows lançada recentemente, os desenvolvedores implementaram diversos recursos muito…