Google, OpenAI, Microsoft, Amazon, Nvidia, Intel e outros grandes players do mercado de inteligência artificial anunciaram a criação da “Coalition for Secure Artificial Intelligence” (CoSAI). A iniciativa visa abordar o “cenário fragmentado da segurança da IA”, fornecendo acesso a metodologias, plataformas e ferramentas de código aberto.
Fonte da imagem: oasis-open.org
Não se sabe exatamente qual o impacto que a CoSAI deseja ter na indústria de inteligência artificial. É provável que as questões de proteção de informações confidenciais e os problemas discriminatórios da IA se tornem uma das áreas de trabalho desta organização.
IBM, PayPal, Cisco e Anthropic também aderiram à iniciativa CoSAI. A CoSAI existirá dentro da Organização para o Avanço de Padrões de Informação Estruturada (OASIS), um grupo sem fins lucrativos que promove o desenvolvimento de padrões abertos. A CoSAI destaca três áreas principais de foco: desenvolvimento de práticas eficazes de segurança de IA, abordagem de desafios comuns em IA e proteção de aplicações alimentadas por IA.
«Usamos IA há muitos anos e vemos os benefícios que ela pode trazer. Mas também reconhecemos o seu potencial, que pode ser do interesse dos atacantes. O CoSAI foi projetado para ajudar organizações de pequeno e grande porte a integrar e aproveitar de forma segura e responsável os benefícios da IA em seus ecossistemas, ao mesmo tempo que mitiga quaisquer riscos potenciais associados a ela”, disse Heather Adkins, vice-presidente de segurança do Google, em um comunicado.