Os principais desenvolvedores de IA estão fazendo o possível para evitar supervisão e críticas, disseram ex-funcionários da OpenAI

Vários ex-funcionários da OpenAI publicaram uma carta aberta alertando que os desenvolvedores de tecnologia de IA de ponta estão enfrentando críticas e escrutínio, o que é importante à medida que as preocupações com a IA aumentaram nos últimos meses.

Fonte da imagem: Gerd Altmann / pixabay.com

A carta aberta foi assinada por 13 ex-funcionários da OpenAI, seis dos quais optaram por permanecer anônimos; também foi endossado pelo “padrinho da IA” Geoffrey Hinton. O documento afirma que, na ausência de uma supervisão governamental eficaz, as empresas de IA devem aderir aos princípios da crítica aberta. Devem parar de criar e aplicar disposições de não difamação, promover um processo de denúncia “verificável”, dar aos actuais e antigos funcionários a oportunidade de falar ao público sobre as suas preocupações e parar de retaliar contra os denunciantes.

Os autores da carta dizem acreditar no potencial da IA ​​para beneficiar a sociedade, mas também veem riscos: aumento da desigualdade, espaço para manipulação e desinformação – até mesmo a possibilidade de extinção humana. Os signatários salientam que as proteções existentes aos denunciantes são insuficientes – concentram-se nas atividades ilegais das empresas e não em questões que não são regulamentadas. Isto significa que os trabalhadores podem denunciar livremente irregularidades salariais, discriminação, preocupações de segurança, fraude ou suspensão de folgas – ao abrigo das leis de proteção de denunciantes, os empregadores não podem despedi-los, reduzir as suas horas de trabalho ou despromovê-los. Mas isto não se aplica a informações relevantes para a segurança dos sistemas de IA.

No entanto, a OpenAI incluiu anteriormente uma cláusula de não difamação no seu acordo de rescisão e também dissolveu a sua divisão Superalignment, especializada em segurança de IA. O Google continuou a defender seu caso depois que sua IA de busca deu aos usuários uma série de respostas aparentemente sem sentido. A Microsoft foi criticada por seu gerador de imagens Copilot Designer, que criava imagens que claramente iam além dos padrões éticos.