“Não invente”: testadores do macOS 15.1 descobriram dicas projetadas para manter a IA dentro dos limites

Na versão beta lançada recentemente do macOS Sequoia, os testadores encontraram arquivos de texto JSON de domínio público contendo instruções para inteligência artificial Apple Intelligence. Esses arquivos, encontrados na pasta do sistema, incluem uma série de condições incomuns para garantir a precisão e a utilidade das ações generativas de IA.

Fonte da imagem: Apple

Entre os 29 arquivos encontrados, foram encontrados muitos prompts do sistema, cuja redação lembra tentativas de explicar a uma criança como se comportar em uma nova situação. Por exemplo, de acordo com a Ars Technica, uma das instruções diz: “Você é um assistente útil na redação de mensagens de e-mail e pode ajudar a identificar questões relevantes na carta recebida e a escrever uma resposta curta”. Outras instruções fornecem orientação sobre como formular respostas às mensagens.

De particular interesse são as indicações destinadas a prevenir as chamadas “alucinações” da inteligência artificial, ou seja, declarações falsas e imprecisas. Isso inclui frases como “Não tenha alucinações” e “Não invente coisas”. Os especialistas observam que a presença de tais instruções não é surpreendente, dada a experiência de outras empresas na área de IA generativa. Por exemplo, a Microsoft teve problemas com o lançamento em 2023 de seu chatbot baseado em ChatGPT, o Bing Chat, que poderia dar respostas imprevisíveis, agressivas ou até mesmo ameaçadoras, dependendo do que os usuários perguntassem.

O interesse nos prompts do Apple Intelligence não reside tanto em sua existência, mas na capacidade de estudar as instruções que a empresa usa para controlar as respostas da IA. Se esses arquivos permanecerem disponíveis em versões futuras do macOS, isso ajudará a rastrear as mudanças na abordagem da Apple em relação à sua inteligência artificial.

Espera-se que os recursos do Apple Intelligence estejam disponíveis em versão beta pública neste outono, mas não serão incluídos nas versões iniciais do iOS 18.0, iPadOS 18.0 e macOS 15.0. Alguns recursos, como transcrição de chamadas telefônicas e correio de voz e resumo de texto, estarão disponíveis desde o início. Outros recursos, incluindo uma nova versão do Siri, podem não chegar até o próximo ano.

avalanche

Postagens recentes

Não apenas Fallout e The Elder Scrolls: uma fonte respeitável esclareceu as novas prioridades do Xbox para a Bethesda

\nIniciada por Asha Sharma, a maior reestruturação da história do Xbox resultará não apenas em…

41 minutos atrás

O data center Meta✴ infectou uma estação de tratamento de águas residuais em uma cidade americana com uma bactéria rara

O Conselho de Serviços Públicos de Cheyenne (BOPU), autoridade de serviços públicos do Wyoming, parou…

2 horas atrás

A Intel está pensando em fornecer energia em ambos os lados do chip para a tecnologia de processo Intel 14A2

\nA Intel há muito elogia a mudança para a fonte de alimentação traseira como uma…

2 horas atrás

A Apple concordou com a Broadcom para fornecer chips de IA personalizados até 2031

\nA Broadcom é um dos maiores fornecedores de produtos semicondutores, mas ao mesmo tempo, do…

2 horas atrás

Xbox vai demitir 3.200 funcionários e se livrar de cinco estúdios de jogos, mas há boas notícias

\nO novo CEO do Xbox, Asha Sharma, anunciou oficialmente o início da maior reestruturação da…

2 horas atrás

QTS e Compass abandonaram a criação do maior campus de data center Digital Gateway do mundo após uma batalha de anos com residentes locais

A operadora de data center de propriedade da Blackstone, QTS, abandonou os planos de construir…

2 horas atrás