“Não invente”: testadores do macOS 15.1 descobriram dicas projetadas para manter a IA dentro dos limites

Na versão beta lançada recentemente do macOS Sequoia, os testadores encontraram arquivos de texto JSON de domínio público contendo instruções para inteligência artificial Apple Intelligence. Esses arquivos, encontrados na pasta do sistema, incluem uma série de condições incomuns para garantir a precisão e a utilidade das ações generativas de IA.

Fonte da imagem: Apple

Entre os 29 arquivos encontrados, foram encontrados muitos prompts do sistema, cuja redação lembra tentativas de explicar a uma criança como se comportar em uma nova situação. Por exemplo, de acordo com a Ars Technica, uma das instruções diz: “Você é um assistente útil na redação de mensagens de e-mail e pode ajudar a identificar questões relevantes na carta recebida e a escrever uma resposta curta”. Outras instruções fornecem orientação sobre como formular respostas às mensagens.

De particular interesse são as indicações destinadas a prevenir as chamadas “alucinações” da inteligência artificial, ou seja, declarações falsas e imprecisas. Isso inclui frases como “Não tenha alucinações” e “Não invente coisas”. Os especialistas observam que a presença de tais instruções não é surpreendente, dada a experiência de outras empresas na área de IA generativa. Por exemplo, a Microsoft teve problemas com o lançamento em 2023 de seu chatbot baseado em ChatGPT, o Bing Chat, que poderia dar respostas imprevisíveis, agressivas ou até mesmo ameaçadoras, dependendo do que os usuários perguntassem.

O interesse nos prompts do Apple Intelligence não reside tanto em sua existência, mas na capacidade de estudar as instruções que a empresa usa para controlar as respostas da IA. Se esses arquivos permanecerem disponíveis em versões futuras do macOS, isso ajudará a rastrear as mudanças na abordagem da Apple em relação à sua inteligência artificial.

Espera-se que os recursos do Apple Intelligence estejam disponíveis em versão beta pública neste outono, mas não serão incluídos nas versões iniciais do iOS 18.0, iPadOS 18.0 e macOS 15.0. Alguns recursos, como transcrição de chamadas telefônicas e correio de voz e resumo de texto, estarão disponíveis desde o início. Outros recursos, incluindo uma nova versão do Siri, podem não chegar até o próximo ano.