Sam Altman prometeu que a OpenAI alteraria seu contrato “ambíguo” com o Departamento de Defesa para proteger as pessoas da vigilância.

Pouco depois de o Pentágono abandonar os modelos de IA da Anthropic devido à resistência da administração da empresa em conceder à agência total liberdade para utilizá-los, um acordo semelhante foi firmado com a concorrente OpenAI. O CEO da OpenAI, Sam Altman, admitiu que a mudança não foi uma boa ideia nas circunstâncias atuais.

Fonte da imagem: OpenAI

Vale lembrar que, antes do acordo com o Departamento de Guerra dos EUA, como é conhecido agora, Altman expressou solidariedade ao seu ex-colega Dario Amodei, que agora dirige a Anthropic. No entanto, assim que o Departamento de Guerra dos EUA rejeitou os serviços da empresa e começou a buscar uma alternativa para sua infraestrutura classificada, o acordo com a OpenAI foi concluído às pressas e em termos pouco transparentes. Após a assinatura do contrato com o Pentágono, Altman afirmou que os interesses do governo se sobrepõem aos princípios de qualquer empresa privada. No final da semana passada, Altman insistiu que o acordo original da OpenAI com o Pentágono continha mais restrições do que todos os casos anteriores de uso de IA em sistemas classificados, incluindo o acordo com a Anthropic.

Na segunda-feira, o CEO da OpenAI, Sam Altman, declarou que o acordo com o Pentágono não deveria ter sido concluído com tanta pressa e que seus termos seriam revisados ​​após o acordo, com alterações já em andamento. Ele observou que o acordo deveria ter declarado explicitamente que “o sistema de IA não deve ser usado intencionalmente para monitorar cidadãos e residentes dos EUA dentro dos EUA”. Altman enfatizou que o Departamento de Defesa entende que tais restrições ao uso de IA existem, mesmo que os dados dos cidadãos tenham sido obtidos por terceiros. As alterações correspondentes serão feitas no texto do acordo da OpenAI com as Forças Armadas dos EUA.

A OpenAI também conseguiu obter garantias do Departamento de Defesa dos EUA de que suas ferramentas de IA não serão usadas para fins de inteligência.estruturas como a NSA. Altman explicou: “Há muitas coisas para as quais a tecnologia ainda não está pronta e muitas áreas em que não entendemos quais são as compensações para garantir a segurança.” A empresa, disse ele, está pronta para cooperar com o Pentágono para criar restrições técnicas que garantam o uso seguro da IA. Ele atribuiu a pressa no acordo de sexta-feira ao desejo de reduzir a tensão e evitar um resultado muito pior, mas entende que, de fora, tudo pareceu “oportunista e ardiloso”. Na sexta-feira, o CEO da OpenAI anunciou que o Pentágono havia concordado com as restrições ao uso da tecnologia da empresa. A insatisfação pública com as ações da OpenAI já levou as pessoas a abandonarem o ChatGPT em favor das soluções da Anthropic. Desde sua fundação em 2021, a Anthropic tem dado grande ênfase ao uso seguro da IA.

Os termos do acordo da OpenAI com o Pentágono foram revisados, em grande parte devido à pressão pública. Até mesmo funcionários da empresa começaram a expressar insatisfação com o acordo original. No último fim de semana, uma placa de giz com os dizeres “Não à vigilância em massa!” apareceu em frente à sede da OpenAI em São Francisco. Altman acrescentou que o acordo com a Anthropic continha uma linguagem simples sobre restrições, mas nenhuma referência à legislação pertinente, enquanto a própria OpenAI não teve problemas em fornecer tais referências.

A OpenAI confirma que pode limitar o uso de suas tecnologias para vigilância em massa de cidadãos americanos e para o controle de armas projetadas para selecionar e destruir alvos automaticamente. A empresa autorizouO Pentágono é obrigado a usar seus modelos de IA apenas na parte da infraestrutura que reside na nuvem, com acesso mantido por seus funcionários, mas não nos equipamentos militares de uso final utilizados para controlar armas.