RagaAI lançará uma cura para alucinações para IA

A startup RagaAI conseguiu atrair financiamento no valor de 4,7 milhões de dólares para desenvolver software que simplifica a detecção de defeitos em redes neurais, escreve a Bloomberg. Estamos a falar de problemas dos sistemas modernos de IA, como as chamadas “alucinações” ou a incapacidade de fornecer informações críticas num momento específico.

Fonte da imagem: RagaAI

Tais soluções, segundo a fonte, irão melhorar a confiabilidade e segurança dos sistemas de inteligência artificial. Nas origens da startup está Gaurav Agarwal, de 44 anos, natural da NVIDIA e da Texas Instruments, que pensou na necessidade de criar tais ferramentas após um incidente desagradável ao testar um sistema de direção autônomo nas estradas da Califórnia. A automação não conseguiu reconhecer atempadamente um obstáculo que surgiu ao longo do percurso, pelo que Agarwal foi forçado a aplicar uma travagem de emergência e, assim, evitou uma colisão.

Como admitiu o fundador da RagaAI em entrevista à Bloomberg, ele encontrou problemas na operação de redes neurais enquanto trabalhava na NVIDIA e na Ola. Eliminar erros na operação de sistemas de inteligência artificial, disse ele, é importante em uma série de cenários que envolvem um alto grau de responsabilidade – por exemplo, no diagnóstico de câncer, na manutenção de aeronaves e no uso de inteligência artificial para seleção de pessoal.

A startup RagaAI foi fundada na Califórnia antes do aclamado chatbot ChatGPT da OpenAI entrar no mercado. A plataforma desenvolvida por ele permite que clientes corporativos realizem mais de 300 testes que identificam gargalos no funcionamento de seus sistemas de inteligência artificial. Permite identificar problemas de reconhecimento de objetos e aparecimento de “lixo”, bem como dados falsos apresentados como verdadeiros. Além disso, o desenvolvimento do RagaAI permite bloquear ataques a modelos de linguagem projetados para fazê-los funcionar com erros. A principal equipe de especialistas da startup estará localizada em Bengaluru, na Índia, e os recursos arrecadados durante a recente rodada de financiamento serão gastos em sua expansão.

Segundo o responsável da empresa, já coopera com vários grandes clientes nas áreas de e-commerce, aeronáutica e imagiologia médica. A plataforma RagaAI já permitiu reduzir em 90% o número de erros em sistemas de inteligência artificial.