Microsoft, OpenAI e outros comprometeram-se a proteger a humanidade de poderosos sistemas de IA

Grandes empresas de tecnologia, incluindo Microsoft, Amazon e OpenAI, firmaram um acordo internacional sobre segurança de inteligência artificial na AI Seul Summit 2024 na terça-feira, assumindo um compromisso voluntário para garantir o desenvolvimento seguro de seus modelos de IA mais avançados.

Fonte da imagem: GDJ/Pixabay

Como parte do acordo, as empresas publicarão conceitos de segurança para seus modelos avançados, inclusive impedindo que invasores utilizem a tecnologia.

Estes conceitos incluirão “linhas vermelhas” para empresas de tecnologia, definindo riscos associados à utilização de sistemas de IA que serão considerados “inaceitáveis”. Estes incluem ataques cibernéticos automatizados e a ameaça de armas biológicas. Para responder a tais riscos, as empresas planeiam implementar um “interruptor de eliminação” que interromperá o desenvolvimento de modelos de IA se não for possível garantir que estes riscos serão mitigados.

O pacto acordado na cimeira expande os compromissos dos criadores de IA adoptados em Novembro passado de se aplicar apenas aos chamados modelos de ponta. O termo refere-se à tecnologia usada em sistemas generativos de IA, como a família OpenAI GPT de grandes modelos de linguagem que alimenta o chatbot ChatGPT.

Desde que a OpenAI introduziu o ChatGPT em novembro de 2022, reguladores em todo o mundo e líderes tecnológicos têm expressado cada vez mais preocupação com os riscos associados à utilização de sistemas inovadores de IA. Neste sentido, em março de 2024, o Parlamento Europeu aprovou a primeira lei do mundo que regulamenta a utilização e o desenvolvimento da IA.