As autoridades sul-africanas usaram inteligência artificial para criar uma lei que regulamenta a IA — os resultados são previsíveis.

As autoridades da Cidade do Cabo submeteram uma proposta de Política Nacional de Inteligência Artificial para consulta pública, a qual continha referências a artigos científicos inexistentes. Isso pode indicar que algoritmos generativos de IA foram utilizados na elaboração do documento, os quais, em decorrência de suas alucinações, incluíram referências a “fontes fictícias” na proposta.

Fonte da imagem: techspot.com

De acordo com a fonte, pelo menos seis dos 67 artigos científicos citados no projeto de lei mencionado simplesmente não existem. O Ministro das Comunicações da África do Sul, Solly Malatsi, confirmou que a explicação mais provável é que o projeto de lei foi gerado usando IA. Ele acrescentou que referências a artigos inexistentes foram incluídas no projeto sem revisão humana, o que “não deveria ter acontecido”.

Malatsi afirmou que as citações falsas foram mais do que uma simples falha técnica. Devido às alucinações dos algoritmos de IA, a agência revogou o projeto de lei para revisá-lo completamente. O ministro disse que esse incidente comprova mais uma vez que a IA deve sempre permanecer sob controle humano. “Quero assegurar ao país que estamos tratando essa questão com a seriedade que ela merece. Os responsáveis ​​pelo seu desenvolvimento e controle de qualidade serão punidos”, declarou o ministro.

A versão inicial do projeto de lei incluía diversas disposições importantes sobre inovações relacionadas à IA generativa e outras soluções baseadas em grandes modelos de linguagem. O projeto de lei tinha como objetivo estabelecer as bases para a criação de novos órgãos de supervisão, como uma comissão nacional de IA, um conselho de ética em IA e um órgão regulador específico para IA. Também delineava planos para acelerar a adoção de tecnologias de IA na África do Sul por meio de subsídios, incentivos fiscais e incentivos financeiros para iniciativas nessa área.