Amazon lança TorchNeuron para desafiar domínio da Nvidia no mercado de IA

Na segunda-feira, a Amazon Web Services lançou o TorchNeuron, ferramenta que permite que startups de IA migrem facilmente seus aplicativos para o chip Trainium da empresa. A iniciativa representa um ataque direto à vantagem de software que consolidou a Nvidia como a escolha padrão para aplicações de inteligência artificial. O TorchNeuron funciona com PyTorch, kit de código aberto que desenvolvedores utilizam para construir, treinar e executar modelos. Segundo a Amazon, os aplicativos escritos em PyTorch podem rodar no Trainium alterando apenas uma linha de configuração, sem necessidade de reestruturação do código. A empresa afirma que cerca de 85% das aplicações de IA são desenvolvidas utilizando PyTorch, framework originalmente criado pelo Facebook e mantido desde 2022 pela Fundação Linux. A Nvidia tem garantido que seu software CUDA suporte seamlessmente aplicações PyTorch, o que tornou seu hardware essencial por padrão no ecossistema. O TorchNeuron é adaptado do PyTorch, o que significa que desenvolvedores familiarizados com o framework já conseguem utilizá-lo sem curva de aprendizado adicional.

A Amazon não foi a primeira a tentar levar seus chips para a plataforma, pois usuários também podem portar aplicativos para GPUs da AMD ou chips da Apple com mudança de configuração simples. No entanto, a empresa argumenta que portar para o Trainium não é apenas fácil, mas também concede acesso ao ecossistema completo da nuvem da AWS, diferentemente de neoclouds muitas vezes vinculados ao hardware da Nvidia, como CoreWeave, Nebius e Firmus. Colin Brace, vice-presidente de Software de Tecnologia da AWS Annapurna Labs, afirmou que a infraestrutura na AWS permite que fundadores passem rapidamente do protótipo à produção, permitindo que eles se movam rápido e escale quando necessário. A AWS afirma que, como o mesmo chip lida tanto com treinamento quanto com inferência, e está tightly integrado à infraestrutura de nuvem que startups necessitam, o serviço economizará dinheiro aos clientes, mesmo que não ofereça o preço mais barato por token. Segundo Brace, o valor do Trainium está no 'price-performance' e no fato de ser uma única plataforma para ambos os processos, melhorando a economia em toda a carga de trabalho.

O caso de Deepgram, provedor de aplicações de voz IA e concorrente da ElevenLabs, foi citado como exemplo: a empresa estaria processando 70% mais áudio por dólar na precisão de produção após migrar para o Trainium. Além de oferecer facilidade de migração, a Amazon também afirma que está empurrando o PyTorch para ficar menos centrado automaticamente na Nvidia. A empresa disse que contribuirá com o código necessário para isso no projeto principal do PyTorch, com o objetivo de tornar o framework mais agnóstico de hardware para toda a comunidade de desenvolvedores, não apenas para usuários do Trainium. Brace declarou que a história real é a remoção do 'lock-in' que impediu desenvolvedores de terem escolha real. Se a Amazon conseguir desvincular o PyTorch da Nvidia, as ramificações poderão ser maiores do que simplesmente competir com chips alternativos, potencialmente reconfigurando o mercado de GPU.

Informado por TechCrunch.