Felafax logo

FelafaxMemperluas Infrastruktur AI melampaui NVIDIA

Felafax sedang membangun platform AI open-source untuk GPU non-NVIDIA. Dengan memanfaatkan pengalaman infrastruktur AI kami dari Google dan Meta, kami menciptakan tumpukan ML dari awal untuk kinerja tinggi dan alur kerja yang mudah untuk melatih model pada chipset non-NVIDIA, seperti TPU, AWS Trainium, AMD, dan Intel GPU. Platform kami akan menyamai kinerja NVIDIA sambil menurunkan biaya dan meningkatkan opsi perangkat keras.

2024-07-31
Active
Early
S24
2
B2B
United States of AmericaAmerica / Canada
Felafax screenshot
Lebih Lanjut Tentang Felafax

Felafax: Platform AI Perusahaan

Pendahuluan

Felafax adalah platform AI perusahaan yang dirancang untuk GPU non-Nvidia, dimulai dengan TPU. Ia memberikan kinerja yang sama dengan NVIDIA H100 dengan biaya 30% lebih rendah dan dioptimalkan untuk model besar.

Fitur Utama

  • Kluster pelatihan besar satu klik: Dengan mudah spin-up kluster TPU/GPU non-Nvidia dari 8 hingga 1024 chip. Kerangka kerja kami menangani orkestrasi pelatihan pada kluster ukuran berapa pun dengan mulus.
  • Kinerja yang tak tertandingi dengan biaya lebih rendah: Platform pelatihan khusus yang menggunakan arsitektur XLA non-cuda. Raih kinerja yang sama dengan H100 dengan biaya 30% lebih rendah.
  • Kustomisasi di ujung jari Anda: Masuk ke notebook Jupyter dan sesuaikan pelatihan Anda. Kontrol penuh, tanpa kompromi.
  • Kami menangani yang berat: Pemartisian model yang dioptimalkan untuk Llama 3.1 405B, checkpointing terdistribusi, dan orkestrasi pelatihan multi-pengontrol.
  • Templat siap pakai: Pilih antara Pytorch XLA atau JAX dengan lingkungan yang telah dikonfigurasi sebelumnya dan semua dependensi yang diperlukan telah diinstal.
  • Implementasi JAX dari Llama 3.1 (segera hadir!): Pelatihan 25% lebih cepat dan penggunaan GPU 20% lebih tinggi.

Kasus Penggunaan

  • Pelatihan model skala besar
  • Penyetelan halus data perusahaan
  • Penelitian AI berkinerja tinggi
  • Infrastruktur AI yang hemat biaya

Harga

Felafax menawarkan harga yang kompetitif dengan biaya 30% lebih rendah dibandingkan dengan NVIDIA H100. Hubungi kami untuk rencana harga terperinci yang disesuaikan dengan kebutuhan Anda.

Tim

Felafax dibangun oleh para insinyur dengan pengalaman luas di perusahaan teknologi terkemuka:

  • Nikhil Sonti, Co-Founder & CEO: Lebih dari 6 tahun di Meta dan lebih dari 3 tahun di Microsoft, spesialis dalam infrastruktur inferensi ML.
  • Nithin Sonti, Co-Founder & CTO: Lebih dari 5 tahun di Google dan Nvidia, spesialis dalam infrastruktur pelatihan ML skala besar.

Hubungi kami untuk mempelajari lebih lanjut tentang bagaimana Felafax dapat mengubah proyek AI Anda.