
MetaVoice treina seus modelos multimodais de IA 15X mais rapidamente usando o cluster de GPU da OCI e a rede de largura de banda ultra-alta para atendimento ao cliente por telefone.
United Kingdom | Alta tecnologia
“Oracle AI infrastructure provided a combination of superior training performance, expert support, and ability to scale to our growing community of business users.”
A MetaVoice tem a missão de criar representantes de atendimento ao cliente de nível humano, baseados em IA, para automatizar as operações de telefonia comercial na escala de um bilhão de usuários. A empresa de tecnologia precisava de clusters de computação GPU rápidos e confiáveis para treinar sua IA multimodal em tempo real e queria se mover rapidamente sem o ônus de configurar e gerenciar sua própria infraestrutura. A MetaVoice escolheu clusters de GPU da Oracle Cloud Infrastructure H100 e rede RDMA de alta velocidade entre instâncias bare metal que eram 50% mais econômicas em comparação com outros provedores de nuvem. A rede RDMA da OCI aumentou drasticamente o desempenho, permitindo uma comunicação de 3 Tbps em todo o cluster. Como resultado, a MetaVoice foi capaz de treinar modelos mais rapidamente, reduzindo o tempo de lançamento no mercado. Além disso, a empresa triplicou seu armazenamento para 55 TB por nó, reduzindo assim a complexidade com o streaming de dados pela rede e pagando pesadas taxas de saída.