A Microsoft justificou a tendência da IA ​​de dar respostas erradas, dizendo que elas são “intencionalmente erradas”

Durante a apresentação da plataforma Copilot AI para a suite de escritório Microsoft 365, que decorreu no dia anterior, os gestores de topo da Microsoft reconheceram que os sistemas baseados em inteligência artificial muitas vezes dão respostas incorretas às questões. Mas, apesar disso, a empresa chamou os novos sistemas de úteis, e até mesmo as próprias respostas erradas são consideradas “utilmente erradas” lá.

Fonte da imagem: efes/pixabay.com

Declarações falsas de sistemas de inteligência artificial são um dos problemas mais importantes nessa área. Desde o dia de seu lançamento, erros óbvios foram cometidos pelo bot de bate-papo ChatGPT, que estabeleceu um novo padrão. Uma solução semelhante do Google, que apareceu algum tempo depois, deu aos usuários respostas incorretas a perguntas diretamente nos materiais de demonstração. O chatbot que apareceu no serviço de busca do Bing não fica muito atrás de seus equivalentes.

Tudo isso não impediu o Google de introduzir funções de inteligência artificial nos serviços Gmail e Google Docs, e a Microsoft introduziu uma versão atualizada do Copilot no pacote Microsoft 365. A Microsoft acredita que, mesmo em sua forma atual, o sistema será útil: usuários, sabendo que um chatbot pode dar respostas imprecisas, será capaz de corrigir apenas algumas imprecisões em e-mails e slides de apresentação. Por exemplo, quando uma pessoa deseja desejar feliz aniversário a um familiar, o Copilot será útil mesmo que ele indique a data errada na carta: a IA gera o texto, economizando tempo do usuário, e a pessoa só terá que corrigir erros – você só precisa ter cuidado e garantir que não haja imprecisões no texto. Só não confie muito na IA.

O cientista-chefe da Microsoft, Jaime Teevan, disse que a empresa adota “medidas atenuantes” quando o Copilot “faz algo errado, exibe viés ou é mal utilizado”. Além disso, antes do lançamento do sistema para uma ampla gama de usuários, ele será testado por apenas 20 clientes corporativos. “Vamos cometer erros, mas se eles ocorrerem, vamos corrigi-los rapidamente”, prometeu o engenheiro.