A Anthropic fez um apelo à indústria para que agisse em solidariedade diante dos avanços descontrolados da IA.

É difícil acusar a Anthropic de falta de princípios éticos no uso da inteligência artificial. Esses princípios foram a causa do conflito com o Pentágono no início deste ano. Agora, a Anthropic está convocando os participantes do mercado a restringirem o desenvolvimento da IA, visto que fica claro que os riscos estão crescendo de forma incontrolável.

Fonte da imagem: Anthropic

Como observa a Reuters, esta semana, a startup pediu aos representantes da indústria que se preparem para a autolimitação em caso de ameaça de perda do controle humano sobre a IA. O autoaperfeiçoamento totalmente recursivo, segundo a Anthropic, aumenta o risco de perda do controle humano sobre os sistemas de IA. “Se os sistemas adquirirem a capacidade de criar seus próprios sucessores de forma independente, nossa capacidade de controlar, monitorar e restringir seu comportamento torna-se crucial”, afirmou a Anthropic em comunicado.

Para contextualizar, no mês passado, mais de 80% do novo código no próprio banco de dados da Anthropic foi criado pelo agente de IA Claude, portanto, a empresa sabe do que está falando. A Anthropic argumenta que seria benéfico para o mundo poder desacelerar ou mesmo pausar o desenvolvimento de modelos avançados de IA para garantir a adaptação social e analisar as mudanças propostas em consonância com o ritmo do avanço tecnológico. Ao mesmo tempo, o mundo inteiro precisa responder a esses desafios, pois, se as ações dos desenvolvedores não forem coordenadas, participantes inescrupulosos do mercado poderão prejudicar a segurança pública.

É claro que, para que tais mecanismos funcionem na prática, é importante definir os critérios para a implementação de um regime de “autorregulação”, estabelecer algum tipo de órgão de supervisão e garantir o apoio dos maiores participantes do mercado. Uma única empresa sozinha não consegue influenciar a situação; os esforços de todos os principais desenvolvedores precisam ser coordenados. A Anthropic planeja não apenas criar um regime de “autorregulação” nos próximos meses, mas também…meios de monitorar tendências perigosas no desenvolvimento da IA, mas também de realizar trabalhos públicos para discutir mecanismos regulatórios adequados.