ChatGPT pode tornar públicos dados corporativos secretos, dizem especialistas em segurança cibernética

As empresas que usam ferramentas de terceiros baseadas em inteligência artificial generativa, como o chatbot ChatGPT AI, podem colocar em risco informações confidenciais de clientes e segredos comerciais. Isso foi alertado pela empresa israelense Team8, especializada em segurança cibernética.

A adoção generalizada de novos chatbots de IA e ferramentas baseadas em IA pode deixar as empresas vulneráveis ​​a violações de dados e ações judiciais. Existem preocupações de que os chatbots possam ser usados ​​por hackers para acessar informações corporativas confidenciais ou tomar medidas contra a empresa, e que as informações confidenciais fornecidas aos chatbots agora possam ser usadas por empresas de IA no futuro.

As principais empresas de tecnologia, incluindo Microsoft e Alphabet, estão correndo para adicionar recursos de IA generativa para melhorar os mecanismos de pesquisa, treinando seus modelos em dados retirados da Web para fornecer uma ferramenta completa para processar suas consultas. O relatório diz que se essas ferramentas começarem a usar dados confidenciais ou privados para treinamento, será muito difícil apagar essas informações.

O relatório do Team8 observa que atualmente as solicitações de chatbot não estão sendo passadas para modelos de linguagem grandes para treinamento de IA. No entanto, o ChatGPT experimentou recentemente uma falha que fazia com que as solicitações do usuário fossem exibidas para outros usuários.

O documento observou três outros problemas de “alto risco” na integração de ferramentas de IA generativas e destacou o aumento da ameaça de compartilhamento de informações por meio de aplicativos de terceiros, como Bing e ferramentas do Microsoft 365. e inteligência artificial “

Dezenas de diretores de segurança da informação de empresas americanas também são listados como coautores do relatório. O relatório Team8 foi endossado por Michael Rogers, ex-chefe da Agência de Segurança Nacional dos EUA e do Comando Cibernético dos EUA.