FelafaxExpandindo a infraestrutura de IA além da NVIDIA

Felafax: Plataforma de IA Empresarial

Introdução

Felafax é uma plataforma de IA empresarial projetada para GPUs que não são da Nvidia, começando com TPUs. Ela oferece o mesmo desempenho do NVIDIA H100 a um custo 30% menor e é otimizada para modelos grandes.

Recursos principais

• Cluster de treinamento grande de um clique: Inicie sem esforço clusters de TPU/GPU que não são da Nvidia de 8 a 1024 chips. Nossa estrutura gerencia a orquestração do treinamento em qualquer tamanho de cluster sem problemas.
• Desempenho imbatível a um custo menor: Plataforma de treinamento personalizada que usa uma arquitetura XLA não cuda. Obtenha o mesmo desempenho do H100 a um custo 30% menor.
• Personalização ao seu alcance: Mergulhe no notebook Jupyter e personalize sua execução de treinamento. Controle total, zero compromissos.
• Nós lidamos com o trabalho pesado: Particionamento de modelo otimizado para Llama 3.1 405B, checkpoints distribuídos e orquestração de treinamento de vários controladores.
• Modelos prontos para uso: Escolha entre Pytorch XLA ou JAX com ambientes pré-configurados e todas as dependências necessárias instaladas.
• Implementação de JAX de Llama 3.1 (em breve!): Treinamento 25% mais rápido e 20% de utilização de GPU mais alta.

Casos de uso

• Treinamento de modelos em larga escala
• Ajuste fino de dados empresariais
• Pesquisa de IA de alto desempenho
• Infraestrutura de IA rentável

Preços

Felafax oferece preços competitivos a um custo 30% menor em comparação com o NVIDIA H100. Entre em contato conosco para obter planos de preços detalhados adaptados às suas necessidades.

Equipes

Felafax é construída por engenheiros com ampla experiência em empresas de tecnologia líderes:

• Nikhil Sonti, cofundador e CEO: Mais de 6 anos na Meta e mais de 3 anos na Microsoft, especializado em infraestrutura de inferência de ML.
• Nithin Sonti, cofundador e CTO: Mais de 5 anos no Google e Nvidia, especializado em infraestrutura de treinamento de ML em larga escala.

Entre em contato conosco para saber mais sobre como Felafax pode transformar seus projetos de IA.