A série de demissões na OpenAI continua: um importante especialista em segurança de IA saiu

Uma das principais equipes da OpenAI, Lilian Weng, anunciou sua renúncia. Weng trabalhou na empresa por 7 anos como chefe de sistemas de desenvolvimento de segurança e foi promovido em agosto deste ano. Em comunicado na Plataforma X (Twitter), ela observou que estava deixando a OpenAI para “recomeçar e tentar algo novo”.

Fonte da imagem: Levart_Photographer/Unsplash

Segundo o TechCrunch, o último dia útil de Weng será 15 de novembro, mas ela não anunciou seus planos futuros. “Tomei a decisão extremamente difícil de deixar a OpenAI”, admitiu Weng. “Olhando para o que alcançamos, estou muito orgulhoso de cada membro da equipe de sistemas de segurança e tenho plena confiança de que a equipe continuará a prosperar.”

Weng não é o único especialista que deixou a empresa. Pesquisadores e executivos de segurança saíram no ano passado, acusando a empresa de priorizar produtos comerciais em vez da segurança de IA. No início deste ano, Ilya Sutskever e Jan Leike, líderes da extinta equipe Superalignment, que estava desenvolvendo métodos para gerenciar sistemas de IA superinteligentes, deixaram a OpenAI.

Weng ingressou na OpenAI em 2018, iniciando sua carreira em uma equipe de robótica que criou um braço robótico capaz de resolver um cubo de Rubik em segundos. Com a transição da OpenAI para o paradigma GPT, Weng juntou-se à equipe de Pesquisa de IA Aplicada em 2021. Após o lançamento do GPT-4 em 2023, ela liderou uma equipe de desenvolvimento de segurança com mais de 80 pessoas.

OpenAI diz que a administração está procurando substituir Weng. “Valorizamos profundamente as contribuições de Lillian para pesquisas revolucionárias de segurança e a criação de garantias técnicas fortes”, disse um porta-voz da OpenAI em comunicado. “Estamos confiantes de que a equipa de sistemas de segurança continuará a desempenhar um papel fundamental para garantir a fiabilidade dos nossos sistemas que servem centenas de milhões de pessoas em todo o mundo.”

Vale destacar que em outubro Miles Brundage, que trabalhava na política de IA, deixou a empresa, após o que a OpenAI anunciou a dissolução da equipe AGI (inteligência artificial geral). No mesmo dia, o New York Times publicou uma entrevista com o ex-pesquisador da OpenAI, Suchir Balaji, que disse que também deixou a empresa por acreditar que sua tecnologia faria mais mal do que bem à sociedade.

avalanche

Postagens recentes

A Siri, com sua inteligência artificial, sugerirá pausas em conversas prolongadas e lembrará que ela não é humana.

Foram descobertas referências no código do iOS 27 da Apple indicando que a assistente virtual…

40 minutos atrás

A BYD vai investir €2 bilhões em sua rede de carregamento na Europa e no Reino Unido.

A BYD planeja investir € 2 bilhões na construção de uma rede de estações de…

1 hora atrás

Mercado de smartphones em declínio: a Samsung está se saindo melhor do que qualquer outra empresa na crise de memória.

Segundo analistas da TrendForce, 284 milhões de smartphones foram produzidos mundialmente no primeiro trimestre, representando…

1 hora atrás

Astrônomos determinaram, pela primeira vez, os limites do berço estelar da Via Láctea.

Até recentemente, a extensão da região ativa de formação estelar em nossa galáxia, a Via…

1 hora atrás

A Apple afirmou que tem o direito de remover da App Store aplicativos que não atraem usuários.

A Apple alertou os desenvolvedores de que nem todos os seus aplicativos poderão permanecer na…

1 hora atrás