Vários ex-funcionários da OpenAI publicaram uma carta aberta alertando que os desenvolvedores de tecnologia de IA de ponta estão enfrentando críticas e escrutínio, o que é importante à medida que as preocupações com a IA aumentaram nos últimos meses.
Fonte da imagem: Gerd Altmann / pixabay.com
A carta aberta foi assinada por 13 ex-funcionários da OpenAI, seis dos quais optaram por permanecer anônimos; também foi endossado pelo “padrinho da IA” Geoffrey Hinton. O documento afirma que, na ausência de uma supervisão governamental eficaz, as empresas de IA devem aderir aos princípios da crítica aberta. Devem parar de criar e aplicar disposições de não difamação, promover um processo de denúncia “verificável”, dar aos actuais e antigos funcionários a oportunidade de falar ao público sobre as suas preocupações e parar de retaliar contra os denunciantes.
Os autores da carta dizem acreditar no potencial da IA para beneficiar a sociedade, mas também veem riscos: aumento da desigualdade, espaço para manipulação e desinformação – até mesmo a possibilidade de extinção humana. Os signatários salientam que as proteções existentes aos denunciantes são insuficientes – concentram-se nas atividades ilegais das empresas e não em questões que não são regulamentadas. Isto significa que os trabalhadores podem denunciar livremente irregularidades salariais, discriminação, preocupações de segurança, fraude ou suspensão de folgas – ao abrigo das leis de proteção de denunciantes, os empregadores não podem despedi-los, reduzir as suas horas de trabalho ou despromovê-los. Mas isto não se aplica a informações relevantes para a segurança dos sistemas de IA.
No entanto, a OpenAI incluiu anteriormente uma cláusula de não difamação no seu acordo de rescisão e também dissolveu a sua divisão Superalignment, especializada em segurança de IA. O Google continuou a defender seu caso depois que sua IA de busca deu aos usuários uma série de respostas aparentemente sem sentido. A Microsoft foi criticada por seu gerador de imagens Copilot Designer, que criava imagens que claramente iam além dos padrões éticos.
O lançamento do ambicioso jogo de terror Resident Evil Requiem marcará o grande retorno do…
No final de janeiro, foi noticiado que os smartphones da série Samsung Galaxy S26 provavelmente…
O minerador de dados Maxim Poletaev (também conhecido como Gabe Follower) comentou recentemente sobre rumores…
A Ford Motor, uma das maiores montadoras americanas, inicialmente se comprometeu com uma estreita cooperação…
Os longos tempos de carregamento são considerados uma das desvantagens operacionais dos veículos elétricos, mas…
Já se passaram mais de quatro anos desde o lançamento de ATOM RPG: Trudograd, e…