NVIDIA Riva
NVIDIA Riva é um framework de softwares para servi?os de AI conversacional multimodal que oferece desempenho em tempo real em GPUs.
Riva é um framework de softwares totalmente acelerado para a cria??o de servi?os de AI conversacional multimodal que seguem um pipeline de deep learning de ponta a ponta. Os desenvolvedores podem ajustar facilmente modelos de última gera??o de acordo com seus dados para entender melhor o seu contexto especÃfico, otimizando a inferência e oferecendo servi?os em tempo real de ponta a ponta que s?o executados em menos de 300ms, garantindo uma taxa de transferência 7 vezes maior com GPUs em compara??o a CPUs.
O framework Riva conta com modelos pré-treinados de AI conversacional, ferramentas do Kit de Ferramentas de AI da NVIDIA e servi?os otimizados de ponta a ponta para tarefas de fala, vis?o e compreens?o de linguagem natural (NLU - Natural Language Understanding).
Com a uni?o simultanea de vis?o, áudio e outras informa??es de sensores, é possÃvel ter recursos como conversas com vários usuários e vários contextos em softwares como assistentes virtuais, de compromissos para vários usuários e de centrais de atendimento.
Os softwares baseados no Riva foram otimizados para maximizar o desempenho na plataforma NVIDIA EGX? no cloud, no data center e no edge.
Desempenho em Tempo Real
Execute softwares de AI conversacional baseados em deep learning em menos de 300 ms, o limite de latência para o desempenho em tempo real.
Multimodal
Unifique fala e vis?o para oferecer intera??es precisas e naturais em assistentes virtuais, chatbots e outros softwares de AI conversacional.
Implementa??o Automatizada
Use um comando para implementar servi?os de AI conversacional no cloud ou no edge.
“A Ping An atende a milh?es de consultas de clientes todos os dias usando agentes de chat-bot. Como um dos primeiros parceiros do programa de acesso antecipado do Riva, fomos capazes de usar as ferramentas e construir solu??es melhores com maior precis?o e menor latência, fornecendo assim melhores servi?os. Mais especificamente, com o NeMo, o modelo pré-treinado, e o pipeline ASR otimizado com Riva, o sistema obteve 5% de melhoria na precis?o, de forma a atender nossos clientes com melhor experiência.â€
— Dr. Jing Xiao, Cientista-Chefe da Ping An
Crie Modelos de Deep Learning de última Gera??o
Use modelos de deep learning de última gera??o com mais de 100 mil horas de treinamento em sistemas NVIDIA DGX? para tarefas de fala, compreens?o de linguagem e vis?o. Os modelos e scripts pré-instalados usados no Riva est?o disponÃveis gratuitamente no NGC?.
Você pode ajustar esses modelos para seu domÃnio com seus dados usando NVIDIA NeMo e o Kit de Ferramentas Transfer Learning para implantá-los facilmente como servi?os.
Desenvolva Novos Recursos Multimodais
Crie recursos multimodais, como transcri??o de vários locutores, chatbots, reconhecimento de gestos e ativa??o com o olhar para seus softwares de AI conversacional.
O Riva vem com exemplos de vários recursos que você pode personalizar conforme seu caso de uso. Com o Riva, você pode usar pipelines visuais, de fala e de compreens?o de linguagem, além de um gerenciador de caixas de diálogo compatÃvel com vários usuários e contextos para criar outros recursos.
Servi?os Otimizados para Tarefas EspecÃficas
Acesse servi?os de alto desempenho para tarefas como reconhecimento de fala, reconhecimento de inten??o, convers?o de texto em fala, estimativa de pose, detec??o de olhar e detec??o de pontos faciais com uma API simples.
é possÃvel unir os pipelines de cada recurso para criar outros recursos. Todos os pipelines s?o ajustados para oferecer o maior desempenho possÃvel e podem ser personalizados conforme seu caso de uso especÃfico.
Crie e Implemente Servi?os Facilmente
Automatize as etapas de modelos pré-treinados a servi?os otimizados implementados no cloud, no data center e no edge. Além disso, o Riva aplica otimiza??es avan?adas do NVIDIA? TensorRT? a modelos, configura o Servidor de Inferência NVIDIA Triton?, e exp?e os modelos como um servi?o usando uma API padr?o.
Na implementa??o, você pode usar um único comando para baixar, configurar e executar todo o software Riva ou servi?os individuais por meio de pacotes Helm em clusters do Kubernetes. Os pacotes Helm podem ser personalizados conforme seu caso de uso e sua configura??o.
Principais Adeptos nos Mercados Verticais
Recursos
Comece a Usar o NVIDIA
Riva
Compreenda os principais recursos do Riva que o ajudam a construir servi?os de IA de conversa??o multimodais.
Modelos de Ajuste Fino com Kit de Ferramentas de Transfer Learning
Aprenda a ajustar modelos de última gera??o em seus dados para entender o termo especÃfico do domÃnio.
Entenda os Recursos do
Riva
Descubra a tecnologia subjacente que pode criar assistentes virtuais interativos e automatizar call centers.
Crie Aplica??es de AI de Conversa??o
Desenvolva sua primeira aplica??o de AI de conversa??o que minimiza a latência e maximiza a taxa de transferência em GPUs.
Inscreva-se para receber notÃcias e atualiza??es do NVIDIA Riva Beta.