A série de demissões na OpenAI continua: um importante especialista em segurança de IA saiu

Uma das principais equipes da OpenAI, Lilian Weng, anunciou sua renúncia. Weng trabalhou na empresa por 7 anos como chefe de sistemas de desenvolvimento de segurança e foi promovido em agosto deste ano. Em comunicado na Plataforma X (Twitter), ela observou que estava deixando a OpenAI para “recomeçar e tentar algo novo”.

Fonte da imagem: Levart_Photographer/Unsplash

Segundo o TechCrunch, o último dia útil de Weng será 15 de novembro, mas ela não anunciou seus planos futuros. “Tomei a decisão extremamente difícil de deixar a OpenAI”, admitiu Weng. “Olhando para o que alcançamos, estou muito orgulhoso de cada membro da equipe de sistemas de segurança e tenho plena confiança de que a equipe continuará a prosperar.”

Weng não é o único especialista que deixou a empresa. Pesquisadores e executivos de segurança saíram no ano passado, acusando a empresa de priorizar produtos comerciais em vez da segurança de IA. No início deste ano, Ilya Sutskever e Jan Leike, líderes da extinta equipe Superalignment, que estava desenvolvendo métodos para gerenciar sistemas de IA superinteligentes, deixaram a OpenAI.

Weng ingressou na OpenAI em 2018, iniciando sua carreira em uma equipe de robótica que criou um braço robótico capaz de resolver um cubo de Rubik em segundos. Com a transição da OpenAI para o paradigma GPT, Weng juntou-se à equipe de Pesquisa de IA Aplicada em 2021. Após o lançamento do GPT-4 em 2023, ela liderou uma equipe de desenvolvimento de segurança com mais de 80 pessoas.

OpenAI diz que a administração está procurando substituir Weng. “Valorizamos profundamente as contribuições de Lillian para pesquisas revolucionárias de segurança e a criação de garantias técnicas fortes”, disse um porta-voz da OpenAI em comunicado. “Estamos confiantes de que a equipa de sistemas de segurança continuará a desempenhar um papel fundamental para garantir a fiabilidade dos nossos sistemas que servem centenas de milhões de pessoas em todo o mundo.”

Vale destacar que em outubro Miles Brundage, que trabalhava na política de IA, deixou a empresa, após o que a OpenAI anunciou a dissolução da equipe AGI (inteligência artificial geral). No mesmo dia, o New York Times publicou uma entrevista com o ex-pesquisador da OpenAI, Suchir Balaji, que disse que também deixou a empresa por acreditar que sua tecnologia faria mais mal do que bem à sociedade.