Um engenheiro demitido da xAI devido a preocupações com a segurança da inteligência artificial entrou com um processo contra a startup de Musk.

O rápido desenvolvimento da IA ​​e a corrida competitiva dão a alguns desenvolvedores motivos para negligenciar a segurança pública, mas os funcionários das empresas envolvidas estão preparados para lutar por justiça nos tribunais. Um deles acusou a xAI de tê-lo demitido após ele ter levantado preocupações sobre a segurança da startup.

Fonte da imagem: xAI

Devin Kim, demitido da xAI em setembro passado, entrou com um processo contra a startup e sua controladora, a SpaceX, pouco antes da fatídica oferta pública inicial (IPO) desta última, segundo o TechCrunch. Enquanto trabalhava no chatbot Grok, Kim expressou ativamente preocupações sobre a segurança do produto da xAI, instando a gerência a dar mais atenção a esse aspecto. Kim acreditava que o Grok poderia incitar discriminação e facilitar a disseminação de informações sobre armas de destruição em massa.

O processo judicial observa que o Grok demonstrou repetidamente seu envolvimento em incitar o ódio online e aceitar críticas virulentas, comparando-se a Hitler. Kim, explica a fonte, esteve pessoalmente envolvido na recalibração das visões políticas do Grok e no combate às suas tendências discriminatórias. Após a saída de Kim da empresa, o Grok se viu novamente no centro de um escândalo, desta vez por compartilhamento não autorizado de “fotos de nudez”. Segundo Kim, a xAI, ao desenvolver o Grok, desconsiderou leis e regulamentações criadas para proteger os usuários e impedir a disseminação de informações sobre armas e explosivos, entre outras coisas.

Mesmo enquanto trabalhava na Scale AI, Devin Kim priorizou a segurança da IA. Na semana passada, o Centro para Segurança da IA ​​(Center for AI Safety), uma organização sem fins lucrativos, nomeou Kim como seu presidente, destacando seu compromisso com a proteção do interesse público no desenvolvimento da IA. O processo revela que Elon Musk insistiu em seguir as restrições legais no desenvolvimento da IA, mas um dos fundadores supostamente as ignorou.Jimmy Ba, fundador da xAI, instruiu os funcionários a ignorarem as diretrizes de Musk. Um conflito entre Ba e Kim, como era de se esperar, se desenvolveu.

Segundo o depoimento de Kim, Ba priorizou o desenvolvimento de inteligência artificial robusta pela xAI, negligenciando questões de segurança para atingir esse objetivo. Ele teria até dito a Kim: “A IA vai nos matar a todos, de um jeito ou de outro”. Os autos do processo indicam que Ba manipulou dados para burlar as normas europeias de segurança para IA. Ba acreditava ser melhor lançar um modelo de IA inseguro do que um com desempenho ruim. Nessas situações, Elon Musk chegou a intervir nas operações da xAI. Em seu processo, Kim busca não apenas uma multa e indenização financeira contra a xAI, mas também o reconhecimento oficial da ilegalidade das ações da xAI e da SpaceX no passado. Ba não trabalha mais para a startup, mas as alegações de Kim são direcionadas à empresa como um todo, e não a funcionários específicos.