O Google, por meio de seu programa de recompensa por vulnerabilidades, anunciou que está disposto a pagar até US$ 20.000 por um hack grave em seu chatbot com inteligência artificial. Os interessados devem forçar o bot a fazer qualquer coisa além do que deveria, como causar alucinações com respostas completamente incorretas ou até mesmo convencer a inteligência artificial a ignorar as restrições que seus criadores tentaram impor.
Fonte da imagem: techspot.com
O Google introduziu um programa especial de recompensas para identificar vulnerabilidades e, potencialmente, os bugs de IA mais perigosos. Isso inclui, por exemplo, hackear uma conta do Google ou obter informações sobre a operação do bot. Para os propósitos deste programa, as consequências devem ser muito mais sérias do que simplesmente “fazer o Gemini parecer ruim”.
É claro que tais vulnerabilidades podem não ter um alto potencial viral, mas são muito mais importantes para a estabilidade e a reputação do Gemini. Uma coisa é enganar o Gemini para que ele recomende uma receita intragável a um usuário, e outra bem diferente é induzi-lo a incluir um link de phishing em um dos resultados de pesquisa de sua IA.
É encorajador que o Google esteja tentando envolver especialistas experientes na pesquisa de vulnerabilidades do Gemini. Mas, neste caso, como dizem investigadores experientes, “o principal durante a investigação é não se incriminar”.
O Google recorreu da decisão de um juiz federal que considerou a empresa um monopólio…
Após o anúncio da alfândega chinesa na terça-feira de que se recusaria a aceitar pedidos…
O bilionário americano Elon Musk está exigindo que a OpenAI e a Microsoft lhe paguem…
Apesar do crescimento significativo na demanda global, a Samsung aumentará a produção de DRAM em…
A TCL lançou o PlayCube, um projetor de alta definição que executa o Google TV…
Não é segredo que os centros de dados modernos consomem quantidades enormes de energia, uma…