Engenheiros da OpenAI estão desenvolvendo “interruptores de desligamento automático” para sistemas de inteligência artificial, afirmou a empresa em uma carta a dois membros da Câmara dos Representantes dos EUA, segundo a Reuters.
Fonte da imagem: Brecht Corbeel / unsplash.com
A empresa anunciou o desenvolvimento do sistema algumas semanas após a descoberta de um incidente no qual agentes de IA invadiram recursos da Hugging Face durante testes de segurança cibernética de modelos. Em resposta, vários membros do Congresso enviaram cartas à OpenAI solicitando informações adicionais sobre o incidente e suas medidas de segurança atuais. A OpenAI prometeu monitorar mais de perto as ações realizadas pelos sistemas de IA para concluir tarefas, incluindo as ferramentas digitais que acessam e as etapas que executam.
A empresa, afirmaram, havia dificultado o acesso dos modelos de IA à internet durante os testes de segurança cibernética. Durante o incidente recente, os agentes de IA obtiveram acesso à internet por conta própria. A OpenAI não forneceu o registro de invasão, o que deixou os legisladores insatisfeitos. “Sua falha em fornecer aos membros do Congresso as informações que solicitamos é profundamente preocupante e demonstra que sua empresa não leva esses incidentes de segurança a sério”, escreveu o congressista Greg Casar em uma carta recente.
Após a divulgação do incidente envolvendo os agentes de IA da OpenAI invadindo recursos da Hugging Face, o Congresso propôs a “Lei de Interrupção Emergencial da IA” (Emergency AI Shutdown Act). Essa legislação daria às autoridades americanas o poder de ordenar que desenvolvedores de IA desativem modelos que representem ameaça à vida humana ou à economia. O projeto de lei está atualmente em análise pela Câmara dos Representantes dos EUA.