Yandex introduziu o YaLM 100B, a maior rede neural aberta para geração de texto

A empresa Yandex anunciou a rede neural YaLM 100B, projetada para gerar e processar textos em russo e inglês. Alega-se ser o maior modelo do mundo do tipo GPT (transformador pré-treinado generativo) publicado em domínio público até o momento.

Fonte da imagem: pixabay.com/geralt

O YaLM 100B contém 100 bilhões de parâmetros – mais do que qualquer um dos modelos existentes para o idioma russo. Graças a isso, a rede neural pode ser usada para resolver uma ampla gama de problemas relacionados ao processamento de linguagem natural.

Os modelos de linguagem da família YaLM determinam o princípio de construção de textos e geram novos com base nas leis da linguística e seu conhecimento do mundo. Qualquer tipo de texto é permitido: podem ser respostas, poemas, parabéns, etc. Além disso, os algoritmos são capazes de gerar ideias para campanhas publicitárias, criar descrições de produtos e vídeos e classificar textos.

Fonte da imagem: pixabay.com / Gerd Altmann

No processo de treinamento da rede, os supercomputadores Yandex, reconhecidos como os mais poderosos da Europa Oriental, estiveram envolvidos. O YaLM 100B processou cerca de 2 TB de textos de fontes abertas e da Internet em inglês e russo.

Agora a rede neural pode ser usada por desenvolvedores e pesquisadores de todo o mundo. O modelo é fornecido sob a licença aberta Apache 2.0 e está disponível no GitHub.

avalanche

Postagens recentes

Tribunal britânico aceita processo de US$ 1,8 bilhão contra a Apple

Um tribunal do Reino Unido concordou (PDF) em aceitar uma ação coletiva contra a Apple…

14 minutos atrás

A Intel testou a própria placa de vídeo Arc A380 sem referência e a chamou de uma boa opção para jogos convencionais

No laboratório da Intel, havia um acelerador gráfico de desktop GUNNIR Arc A380 Photon em…

54 minutos atrás

Vendas de PCs em 2022 podem cair abaixo de 300 milhões de unidades

No início de junho, especialistas da IDC disseram que a queda nas vendas de PCs…

1 hora atrás

Yandex Maps ajudará pessoas com deficiência

Uma ferramenta apareceu no Yandex Maps, com a qual qualquer pessoa pode adicionar dados sobre…

1 hora atrás

Yandex Maps ajudará pessoas com deficiência

Uma ferramenta apareceu no Yandex Maps, com a qual qualquer pessoa pode adicionar dados sobre…

1 hora atrás