Ex-CEO do Google alerta sobre os perigos da meta dos EUA de domínio da IA

O ex-CEO do Google, Eric Schmidt, publicou um artigo, “Estratégia de Superinteligência”, em coautoria com Dan Hendrycks, diretor do Centro de Segurança de IA, e Alexander Wang, fundador e CEO da Scale AI, que sugere que os EUA devem se abster de buscar um esforço no estilo do Projeto Manhattan para alcançar a superioridade da IA ​​porque isso convidaria respostas cibernéticas preventivas de países como a China, relata o The Register.

Os autores do artigo argumentam que qualquer estado que crie uma super-IA representará uma ameaça direta a outros países, e estes, buscando garantir sua própria sobrevivência, serão forçados a sabotar tais projetos de IA. Qualquer “tentativa agressiva de domínio unilateral no campo da IA ​​levará à sabotagem preventiva por parte dos concorrentes”, que pode ser implementada na forma de espionagem, ataques cibernéticos, operações secretas para degradar o treinamento de modelos e até mesmo um ataque físico direto aos data centers de IA.

Os autores acreditam que, no campo da IA, já estamos próximos da doutrina de destruição mútua assegurada (MAD) da era da Guerra Fria. Os autores apelidaram a situação atual de “Má Funcionamento Mútuo de IA Assegurado” (MAIM), na qual os projetos de IA desenvolvidos pelos estados são limitados por ameaças mútuas de sabotagem.

Fonte da imagem: Igor Omilaev/unsplash.com

No entanto, a IA, assim como os programas nucleares em sua época, pode beneficiar a humanidade em muitas áreas, desde avanços no desenvolvimento de medicamentos até a automação de processos de fabricação. O uso da IA ​​é importante para o crescimento econômico e o progresso no mundo moderno. De acordo com o artigo, os estados podem escolher uma de três estratégias.

• Não interferência completa nas atividades dos desenvolvedores, chips e modelos de IA.
• Uma moratória voluntária global projetada para interromper o desenvolvimento da IA, imediatamente ou após certos perigos serem descobertos, como a possibilidade de a IA ser hackeada ou operar de forma completamente autônoma.
• Um monopólio global sobre o desenvolvimento através da criação de um consórcio internacional como o CERN que liderará o desenvolvimento global da IA.

Comentando a proposta da Comissão de Revisão Econômica e de Segurança EUA-China (USCC) para financiamento do governo dos EUA para uma espécie de “Projeto Manhattan” para criar uma superinteligência em algum canto remoto do país, os autores do artigo alertaram que a China responderia a essa medida de uma forma que só levaria a um desequilíbrio de poder a longo prazo e instabilidade contínua.

Fonte: Estratégia de Superinteligência: Versão Especialista

Os autores do artigo acreditam que os estados devem priorizar a doutrina da contenção em vez de vencer a corrida pela superinteligência artificial. O MAIM implica que as tentativas de qualquer estado de obter um monopólio estratégico em IA serão recebidas com medidas retaliatórias de outros países e também levarão a acordos que visem limitar o fornecimento de chips de IA e modelos de código aberto, que serão semelhantes em significado aos acordos de controle de armas nucleares.

Para se proteger contra ataques de estados-nação que visam retardar o desenvolvimento da IA, o artigo sugere construir data centers em locais remotos para minimizar possíveis danos, escreve a Data Center Dynamics. Qualquer um que queira prejudicar o trabalho de IA de outros países pode começar com ataques cibernéticos: “Os estados podem ‘envenenar’ dados, corromper pesos e gradientes de modelos, interromper o software que lida com erros de acelerador e gerencia energia e resfriamento…”

Fonte: Estratégia de Superinteligência: Versão Especialista

A transparência dos acontecimentos também ajudará a reduzir a probabilidade de ataques. A IA pode ser usada para avaliar a segurança de outros projetos de IA, o que ajudará a prevenir ataques a data centers “civis”. Ao mesmo tempo, a transparência nas cadeias de suprimentos não faria mal. Como os aceleradores de IA existem no mundo real, não no virtual, rastrear seus movimentos não é tão difícil. Dessa forma, mesmo chips obsoletos ou considerados inutilizáveis ​​não poderão acabar no mercado negro – eles devem ser descartados com o mesmo grau de responsabilidade que os materiais químicos ou nucleares.

No entanto, seguir todas essas recomendações não eliminará o principal problema: a dependência de Taiwan para a produção de chips avançados, o que é crítico para os Estados Unidos, dizem os autores do artigo. Portanto, os países ocidentais devem desenvolver cadeias de fornecimento garantidas para chips de IA. Isso exigirá investimentos significativos, mas é necessário para garantir a competitividade.