«Yandex lançou um novo serviço, Balaboba, que usa IA baseado no Yet another Language Model (YaLM) e é capaz de gerar cada palavra subsequente em uma frase. A rede neural com 3 bilhões de parâmetros no processo de aprendizagem utilizou páginas da Wikipedia, notícias, livros, postagens abertas em redes sociais e outros materiais. O YaLM é usado para gerar respostas no mecanismo de pesquisa Yandex e nas respostas do assistente de voz de Alice.
Imagem: Yandex.
De acordo com os dados disponíveis, o novo serviço Yandex é capaz de gerar textos em diferentes estilos, como sabedoria popular, reportagens televisivas, brindes, slogans publicitários, etc. Para que os textos resultantes sejam gramaticais e variados do ponto de vista lexical. de vista, no processo de aprendizagem usado terabytes de dados. Os desenvolvedores também excluíram da amostra textos duplicados, incompletos e não naturais para que o modelo não ficasse desnecessariamente sobrecarregado.
A principal característica do YaLM é a capacidade de aprender coisas novas rapidamente. Apenas alguns exemplos são suficientes para a rede neural escrever resenhas significativas de filmes, brindes ou teorias da conspiração. Para alcançar o resultado, haverá um número suficiente de cinco a várias dezenas de exemplos mostrando como escrever tais textos para que a rede neural possa fazer anotações significativas no futuro. Os desenvolvedores observam que, para gerar slogans publicitários simples, a rede neural foi treinada em vários exemplos bem conhecidos, incluindo “Há de tudo”, o famoso slogan do “Yandex”.