Anthropic, Google, Microsoft e OpenAI trabalharão juntas para um desenvolvimento controlado e seguro de IA

Quatro empresas líderes em IA – Anthropic, Google, Microsoft e OpenAI – uniram forças para criar um grupo de pesquisa chamado Frontier Model Forum (FMF). O objetivo da nova associação era garantir o desenvolvimento seguro e responsável de modelos avançados de IA diante da crescente preocupação pública e atenção dos reguladores em todo o mundo.

Fonte da imagem: Placidplace / Pixabay

Nos últimos meses, essas quatro empresas americanas apresentaram ao mundo poderosas ferramentas de IA capazes de criar conteúdo original na forma de imagens, textos e vídeos. Isso causou indignação de escritores e artistas em relação à violação de seus direitos autorais e alimentou o medo dos reguladores devido à ameaça à privacidade dos cidadãos e à possibilidade de substituir pessoas por IA em vários campos de trabalho.

«As empresas que criam tecnologias de IA têm a responsabilidade de garantir que estejam seguras, protegidas e sob controle humano”, disse Brad Smith, vice-presidente e presidente da Microsoft.

A associação à organização é limitada a empresas que criam modelos de aprendizado de máquina em larga escala além das capacidades dos modelos existentes mais avançados. Isso indica que o trabalho do fórum se concentrará nos riscos potenciais apresentados por uma IA muito mais poderosa, em vez de responder a perguntas sobre direitos autorais, proteção de dados e privacidade que são relevantes para os reguladores hoje.

O Frontier Model Forum promoverá a pesquisa de segurança de IA e servirá como uma ponte entre a indústria e os legisladores. Grupos semelhantes foram criados antes. Por exemplo, The Partnership on AI (GPAI) foi criado em 2016 com a participação do Google e da Microsoft e representantes da sociedade civil, academia e indústria. Sua missão era promover o uso responsável da IA.

A criação do Frontier Model Forum enfatiza a importância da transparência, responsabilidade e segurança no campo da IA. Este é um passo à frente na gestão dos riscos associados aos modelos avançados de IA e um momento importante na história do desenvolvimento da tecnologia.