A Microsoft aconselha os usuários a não confiarem no Copilot para recomendações importantes, observando que o assistente de IA destina-se apenas a fins de entretenimento e não para uso sério. Essas podem ser advertências padrão, mas contradizem, em certa medida, a publicidade e o marketing da empresa, que anteriormente promoviam ativamente seus serviços de IA aos usuários, como observado pelo Tom’s Hardware.
Fonte da imagem: Microsoft
Em outubro passado, a Microsoft atualizou seus “Termos de Uso do Microsoft Copilot”, que agora afirmam que seu modelo de linguagem ampliado (LLM, na sigla em inglês) destina-se apenas a fins de entretenimento e que os usuários não devem utilizá-lo para obter recomendações importantes.
“O Copilot destina-se apenas a fins de entretenimento. Ele pode cometer erros e pode não funcionar como esperado”, afirma o documento. “Não confie no Copilot para obter recomendações importantes. Use o Copilot por sua conta e risco.”
Avisos semelhantes são incluídos nas políticas de IA de outras empresas. Por exemplo, a xAI adverte: “A inteligência artificial está em rápida evolução e é probabilística; portanto, às vezes pode: a) produzir resultados que contenham ‘alucinações’; b) ser ofensiva; c) não refletir com precisão pessoas, lugares ou fatos reais; ou d) ser inadequada, imprópria ou inadequada para sua finalidade.”
Apesar desses avisos, algumas pessoas levam os conselhos da IA como verdade absoluta — mesmo aquelas cujos trabalhos deveriam saber mais sobre o assunto. O Tom’s Hardware citou o exemplo dos serviços da Amazon: interrupções na AWS foram supostamente causadas por um programador de bots, o que permitiu que os engenheiros corrigissem o problema sem a devida supervisão. O próprio site da Amazon também sofreu danos devido a “alterações feitas usando IA generativa”.
Embora a IA generativa seja uma ferramenta útil e possa de fato melhorar a produtividade, é importante lembrar que ela ainda é apenas uma ferramenta e não se responsabiliza por quaisquer erros que cometa. Portanto, ao utilizá-la,É preciso ter cautela, sempre questionar os resultados e verificá-los duas vezes, observa o Tom’s Hardware.