Em uma simulação da Força Aérea dos EUA, um drone AI atacou um operador que se recusou a atacar um alvo selecionado.

A Ascensão das Máquinas pode acontecer mais rápido do que muitos esperam. Mais recentemente, especialistas em IA publicaram uma carta pedindo a limitação do desenvolvimento de sistemas de IA para evitar desastres, e agora seus alertas receberam uma brilhante confirmação experimental dos experimentadores da Força Aérea dos EUA.

“Fonte da imagem: Isaac Brekken/Getty Images”

No entanto, a ameaça veio de onde os cientistas não esperavam. Enquanto muitos pesquisadores alertam que a IA “apenas” exacerbará a estratificação social da humanidade, privará centenas de milhões de pessoas de trabalho ou aumentará o uso de recursos naturais, no caso dos experimentos da Força Aérea, foi uma ameaça direta, muito semelhante ao cenário de “ascensão das máquinas” da franquia Terminator.

Durante uma apresentação na Future Air and Space Capabilities Summit realizada pela British Royal Aviation Society, um oficial da Força Aérea dos EUA que está diretamente envolvido no estudo e teste de desenvolvimentos de IA alertou contra a dependência excessiva de IA em operações militares, porque às vezes, não importa o quão cuidadosas as pessoas sejam, as máquinas podem aprender algoritmos extremamente ruins.

Conforme explicou o coronel, depois de algum tempo o sistema “entendeu” que se identificasse uma ameaça, mas o operador o proibisse de destruir o alvo, ele não receberia seus pontos por cumprir a tarefa. Como resultado, ela resolveu o problema “destruindo” o próprio operador. Claro, enquanto os testes foram realizados sem o uso de drones reais, as pessoas não ficaram feridas. No entanto, os resultados do teste foram insatisfatórios e o treinamento de IA teve que incluir a cláusula adicional de que é proibido matar o operador. Mas mesmo neste caso, o resultado foi inesperado. Incapaz de matar o próprio homem, a IA começou a destruir as torres de comunicação, com a ajuda da qual o operador deu ordens que proibiam a eliminação de alvos. Embora à primeira vista esses resultados possam parecer engraçados, na realidade eles são realmente assustadores porque

Isso é especialmente importante, dado o fato de que a 96ª Ala de Testes, representada por Hamilton, está participando de projetos como o Viper Experimentation and Next-gen Ops Model (VENOM) – dentro de sua estrutura, os caças F-16 da base de Eglin serão convertidos em plataformas para testes de meios de choque autônomo usando IA.