Sem Parar Corpay monta fábrica de IA própria com GPUs NVIDIA H200 e já roda 5 aplicações

Empresa de tag de pedágio, pagamentos e benefícios corporativos montou com Dell e NVIDIA uma infraestrutura própria de IA como alternativa a serviços cobrados por uso; análise de chamadas responde em menos de meio segundo e usa só cerca de duas horas da capacidade diária

Paulo Henrique Scrideli, vice-presidente de TI do Sem Parar Corpay. Foto: Divulgação/IT Forum

O Sem Parar Corpay, ecossistema de mobilidade, meios de pagamento e benefícios corporativos dono da tag de pedágio Sem Parar, montou uma “fábrica de inteligência artificial” própria: em vez de contratar cada aplicação de IA como um serviço externo cobrado por uso, a empresa passou a rodar modelos de linguagem de código aberto numa infraestrutura dedicada. O projeto foi apresentado em 23 de outubro, em conteúdo patrocinado pela NVIDIA publicado na Bloomberg Línea.

A estrutura usa servidores Dell PowerEdge com quatro GPUs NVIDIA H200, armazenamento Dell PowerScale e a plataforma de software NVIDIA AI Enterprise, com a Ascenty na alocação da infraestrutura. O ponto de partida foi o call center: uma solução de reconhecimento de voz com IA generativa que transforma milhares de mensagens de texto e voz em dados para medir conversão de vendas, cancelamentos e desempenho do atendimento.

Segundo a empresa, com base no dimensionamento do projeto, o processamento responde em menos de meio segundo e a análise das mensagens consome só cerca de duas horas da capacidade diária disponível. Com isso, mais de 90% do tempo de processamento fica livre para outras iniciativas de IA.

Em outubro, o Sem Parar Corpay levou para a mesma estrutura outras quatro aplicações que já usava: o Meu RH, agente que atende os funcionários dentro do Microsoft Teams; a Super Carol, assistente virtual dos clientes no WhatsApp; o Copiloto de Atendimento, que apoia os operadores da central; e o Robô de Resgate de Vendas, que recupera pedidos online interrompidos por erro de cadastro. Parte das aplicações que chegam à fábrica vem de soluções que antes geravam custo de consumo de tokens. Em estudo está o uso de visão computacional para conferir eixos de caminhões nos pedágios, hoje feito em parte de forma manual.

“A decisão de construir uma alternativa de infraestrutura própria de inteligência artificial partiu da busca por maior controle sobre nossos dados, custos e capacidade de evolução.”

Paulo Henrique Scrideli, vice-presidente de TI do Sem Parar Corpay

A troca muda a forma de pagar pela IA: sai o custo variável por uso e entra uma capacidade dedicada, com custo mais previsível e dividido entre várias aplicações. A empresa também cita o controle sobre dados sensíveis e as exigências da LGPD como motivo para processar tudo em ambiente próprio.

“O principal desafio foi criar uma infraestrutura capaz de lidar com dados críticos e sensíveis, ampliando o controle e a governança das informações e atendendo aos requisitos da LGPD e de conformidade regulatória”, disse Diego Puerta, presidente da Dell Technologies no Brasil. Para Marcio Aguiar, diretor da divisão Enterprise da NVIDIA para a América Latina, a otimização dos modelos permite “suportar novas aplicações de IA sem que os custos precisem crescer na mesma proporção”.

Por que importa. IA cobrada por token vira custo que cresce junto com o atendimento. Quem tem volume alto e previsível, como uma grande operação de pagamentos e atendimento, pode transformar esse gasto em infraestrutura própria e margem. Para fintechs menores, a oportunidade está do outro lado: oferecer essa capacidade dedicada, já pronta e dentro das regras de LGPD, para quem não quer montar a própria fábrica.

Fonte: Bloomberg Línea. Texto reescrito pela Redação Mundo das Fintechs.