Preparando-se para GPT-5: a gestão da OpenAI formará um comitê de supervisão de segurança de IA

O último mês foi caracterizado pela saída de vários executivos de alto escalão da startup OpenAI, que se manifestaram a favor do fortalecimento do controle sobre a disseminação de tecnologias de inteligência artificial. Ao longo do caminho, uma unidade especial foi dissolvida, mas as suas funções serão em grande parte transferidas para o recém-criado comité de supervisão no conselho de administração.

Fonte da imagem: OpenAI

Este comitê, conforme relata a Bloomberg, incluirá membros do conselho de administração e executivos da empresa. As funções do comitê se limitarão a avaliar a segurança dos grandes modelos de linguagem desenvolvidos pela empresa. O comitê terá 90 dias para realizar uma avaliação inicial dos regulamentos de segurança existentes. O comité terá então de publicar as suas recomendações nesta área e torná-las públicas. A empresa também observou que começou a treinar seu mais recente modelo de linguagem grande. Muito provavelmente, estamos falando do GPT-5.

Lembremos que dentro da OpenAI, a divisão especializada foi forçada a lutar por recursos, e o principal especialista científico Ilya Sutskever, que deixou a equipe da OpenAI em maio, teve conflitos relacionados aos métodos de avaliação de risco com a atual gestão no outono passado, o que resultou em uma tentativa para renunciar ao fundador da empresa, Sam Altman. Parte da função de monitorar o impacto da inteligência artificial na sociedade foi atribuída à divisão de pesquisa OpenAI, que, após a saída de Sutzkever, passou a ser chefiada por John Schulman, que também esteve na origem da startup.

O comitê de supervisão será composto por três membros do conselho: o presidente Bret Taylor, o CEO Adam D’Angelo e a ex-executiva da Sony Entertainment Nicole Seligman. Mais seis membros do comitê serão escolhidos entre executivos, incluindo Altman e Shulman. Consultores terceirizados não relacionados à empresa também estarão envolvidos. Dois deles eram anteriormente funcionários de alto escalão nos Estados Unidos.

avalanche

Postagens recentes

A empresa chinesa Geely iniciou a produção em massa de um chip de 7nm para piloto automático de nível 4.

A dimensão do mercado automotivo chinês e a intensa concorrência estão levando muitas empresas a…

2 horas atrás

A Nemix revela um kit DDR5 de US$ 70.800 — e explica por que ele é tão caro.

A Nemix, empresa americana especializada em soluções de memória e armazenamento para grandes empresas de…

2 horas atrás

A Dreame está confiante em um crescimento constante nas vendas de aspiradores robóticos nos próximos anos.

A recente falência da iRobot, empresa pioneira no segmento de aspiradores de pó robóticos, poderia…

2 horas atrás

Os robotáxis da Waymo dependem de humanos para assistência emergencial, pagando-lhes até US$ 80 por cada atendimento prestado.

Os táxis autônomos da Waymo, que circulam pelas ruas de algumas cidades americanas, frequentemente encontram…

4 horas atrás