Nova geração da IA da NVIDIA promete conversações melhores e mais interativas

A Nvidia é conhecida pela forte atuação no mercado de GPUs e chipsets, mas também possui destaque no mercado de inteligência artificial (IA) e ferramentas utilitárias para desenvolvedores. A empresa lançou uma nova tecnologia de inteligência artificial capaz de reduzir interferências para consultas de idioma e a construção de melhores mecanismos de busca.

• NVIDIA: supercomputador quer ampliar entendimento sobre câncer e outras doenças
• Nvidia leva Ray Tracing e DLSS para processadores ARM e kernel Linux
• Nvidia deve lançar linha RTX 3000 SUPER para PC e notebooks no início de 2022

A TensorRT 8 é a oitva geração do software da companhia, que chega agora com a possibilidade de recomendações de anúncios e chatbots, da nuvem à borda. Segundo a companhia, a novidade oferece uma velocidade recorde, cerca de duas vezes mais rápida que o antecessor, para aplicações de linguagem executadas com o BERT-Large — uma técnica de aprendizado de máquina para pré-treinamento de processamento de linguagem natural (PNL) desenvolvida pelo Google.

Trata-se de um dos sistemas de aprendizado de máquina mais usados no mundo, capazes de execução em 1,2 milissegundos — antes era preciso reduzir o tamanho do modelo e isso fazia com que o resultado fosse menos preciso. Com o TensorRT 8, os desenvolvedores poderão duplicar ou triplicar o tamanho dos modelos sem haver queda, pelo contrário, são esperadas melhorias drásticas.

Além dessa melhoria no transformador, os avanços em IA proporcionados pelo novo sistema são feitas por uma técnica chamada dispersão. Ela traz mais desempenho para as GPUs da NVIDIA Ampere, o que permite a aceleração das redes neurais e uma notável redução da quantidade de operações computacionais necessárias.

A NVIDIA afirma que, em cinco anos, mais de 350 mil desenvolvedores de 27,5 mil empresas fizeram o download do sistema de IA, especialmente em áreas como saúde, setor automotivo, finanças e varejo. As aplicações do TensorRT podem ser usadas em data centers hyperscale, embarcados em softwares variados e em plataformas voltadas para setor automotivo.

Sistema usado por grandes empresas

A companhia conta com o apoio de grandes players do mercado que já adotam o TensorRT como solução para inferência de deep learning em conversações à base de IA e em sorte de outros campos.

A companhia cita como exemplo a Hugging Face, líder em IA de código aberto e uma das maiores fornecedoras de serviços no mundo. A ideia é associar a nova solução da NVIDIA ao sistema em IA para criar aplicações inovadoras de conversação, o que permitiria análise de texto, pesquisa neural e conversação em escala.

No setor de tecnologias médicas, a GE Healthcare emprega o TensorRT para ajudar médicos a oferecer atendimento por meio de soluções inteligentes em saúde. Eles usam o sistema para permitir a detecção automatizada de imagens do coração no sistema Vivid E95 em exames de ultrassom, por exemplo. O algoritmo de reconhecimento de imagens seleciona as melhores opções para análise das contrações do órgão, o que teria supostamente melhorado o desempenho do algoritmo de detecção de imagens e reduzido o tempo de lançamento no mercado durante o projeto.

O TensorRT 8 já está disponível gratuitamente para os membros do Programa de Desenvolvedores NVIDIA. Quem quiser, pode baixar as versões mais recentes e outros adicionais no repositório da solução no GitHub.