A NVIDIA revelou uma solução NeMo Guardrails de código aberto projetada para proteger aplicativos de IA, impedindo que bots de IA façam as chamadas alucinações (declarações falsas), discutam tópicos tabus, falem linguagem tóxica e executem ações indesejadas.
O NVIDIA NeMo Guardrails foi projetado para funcionar com todos os modelos de linguagem grande (LLMs), como o ChatGPT da OpenAI. A solução permite que os desenvolvedores personalizem aplicativos baseados em LLM para serem seguros e permanecerem dentro do domínio da empresa. O NeMo Guardrails atua como uma camada intermediária entre o usuário e o LLM ou outra ferramenta de IA e evita que resultados ou dicas incorretas sejam fornecidas.
O NeMo Guardrails permite que os desenvolvedores definam três tipos de bordas:
A NVIDIA incorporou o NeMo Guardrails na plataforma NVIDIA NeMo, fornecendo as ferramentas necessárias para treinar e ajustar modelos de linguagem usando os dados da própria empresa. Grande parte do kit de ferramentas NeMo já está disponível no GitHub. As empresas também podem obtê-lo como um pacote completo e compatível incluído na NVIDIA AI Enterprise Platform.
A empresa japonesa ispace planejava pousar o módulo Hakuto-R na superfície da lua hoje, o…
Fundado por pessoas da Telltale Games, o estúdio americano Dramatic Labs anunciou uma data de…
A Cruise, divisão de veículos autônomos da General Motors, agora está operando uma "pequena" frota…
A AMD finalmente respondeu a inúmeras reclamações sobre falhas nos processadores Ryzen 7000X3D, que simplesmente…
O Lucid Group anunciou que começou a testar uma versão de pré-produção de seu crossover…
A SpaceX conduziu o primeiro teste de lançamento de um foguete Starship na semana passada.…