O CEO da OpenAI afirma que empresas privadas não podem ter mais poder do que o governo dos EUA.

Na sexta-feira à noite, Sam Altman anunciou que a OpenAI, sua empresa, havia garantido um contrato com o Pentágono para integrar tecnologias de IA aos sistemas confidenciais da agência. Para dissipar os receios e dúvidas do público sobre os termos do contrato, Altman realizou uma sessão de perguntas e respostas, reafirmando a primazia do governo democraticamente eleito sobre os princípios de qualquer empresa privada.

Fonte da imagem: OpenAI

Vale lembrar que as tentativas do Pentágono de integrar a IA da Anthropic em seus sistemas confidenciais sem restrições de uso encontraram resistência por parte dos desenvolvedores. Como resultado, o contrato de US$ 200 milhões foi rescindido e a própria Anthropic foi incluída em uma lista de fornecedores não confiáveis. Todas as agências do governo americano foram proibidas de usar seus desenvolvimentos e devem encontrar um substituto para os serviços da Anthropic em até seis meses.

Altman, na plataforma de mídia social X, relatou que o acordo entre a OpenAI e o Pentágono foi concluído rapidamente para amenizar as tensões; em circunstâncias normais, as negociações teriam levado mais tempo. Ele reconheceu que, se o acordo com a OpenAI ajudar a aliviar as tensões entre o Departamento de Defesa dos EUA (e, mais recentemente, o Departamento de Guerra) e representantes da indústria, terá um impacto positivo na imagem da empresa. Caso essas tensões não sejam resolvidas, afirmou Altman, a OpenAI será acusada de negligência e precipitação na conclusão do acordo. No entanto, por ora, ele vê sinais mais positivos para a OpenAI nessa área.

Altman Ao discutir por que a OpenAI foi escolhida como contratada pelas forças armadas dos EUA em detrimento da Anthropic, Altman sugeriu que ambas as partes chegaram a um acordo mais rapidamente no que diz respeito à linguagem contratual do que com um concorrente. O CEO da OpenAI levantou a hipótese de que a Anthropic estava tentando manter um controle operacional maior sobre o uso de seus desenvolvimentos pelo Pentágono do que sua empresa.

Falando sobre as chamadas “linhas vermelhas”, Altman identificou três princípios fundamentais que a OpenAI está preparada para seguir na área da ética em IA.Por outro lado, como observa o CEO da empresa, ela está preparada para revisar esses princípios à medida que a tecnologia evolui, mas, em certas circunstâncias, as “linhas vermelhas” podem se tornar mais rígidas. “Para nós, não há problema se o ChatGPT buscar uma resposta para esta ou aquela questão controversa. Mas eu realmente não gostaria que decidíssemos o que fazer se uma bomba nuclear fosse lançada contra os Estados Unidos”, explicou Altman sobre a posição da OpenAI. Ele acrescentou que o país é governado por líderes democraticamente eleitos e seria estranho que uma empresa privada decidisse o que é ético e o que não é nas áreas mais sensíveis.

Segundo Altman, as negociações entre a OpenAI e o Pentágono sobre o uso dos serviços de IA da empresa em processos de negócios não classificados do departamento estão em andamento há muitos meses, mas só recentemente abordaram a área de operações classificadas. Em suas negociações com o Departamento de Defesa dos EUA, enfatizou Altman, a OpenAI buscou garantir condições equitativas para as interações do departamento com todos os participantes do mercado. O CEO da empresa explicou que a Anthropic não se sai bem nessa situação, pois primeiro explica ao governo que existem certos riscos no campo da IA ​​internacional e depois se recusa a ajudar, acusando-o de várias irregularidades. Altman acredita que a reação do governo americano nessa situação é compreensível. Ele argumenta que executivos de empresas privadas não deveriam ter o mesmo poder que autoridades eleitas, mas podem auxiliá-las.

O CEO da OpenAI citou dois exemplos do uso da IA ​​na segurança nacional que demonstram seus benefícios reais. Primeiro, a IA pode…Pode ser usado para proteger contra ataques massivos de hackers. Em segundo lugar, o campo da biossegurança poderia se tornar um campo de testes para aplicações de IA que poderiam ajudar a prevenir uma nova pandemia, por exemplo.