FelafaxРасширение инфраструктуры искусственного интеллекта за пределы NVIDIA

Felafax: Корпоративная платформа искусственного интеллекта

Введение

Felafax — это корпоративная платформа искусственного интеллекта, разработанная для графических процессоров, отличных от Nvidia, начиная с TPUs. Она обеспечивает ту же производительность, что и NVIDIA H100, при 30% более низкой стоимости и оптимизирована для больших моделей.

Ключевые особенности

• Кластер крупномасштабного обучения одним щелчком: Без труда запускайте кластеры TPU/GPU, отличных от Nvidia, от 8 до 1024 чипов. Наша платформа плавно обрабатывает оркестровку обучения на кластерах любого размера.
• Непревзойденная производительность по более низкой цене: Настраиваемая платформа обучения с использованием архитектуры XLA, отличной от cuda. Достигайте той же производительности, что и H100, при 30% более низкой цене.
• Настройка в ваших руках: Перейдите в Jupyter Notebook и настройте свой запуск обучения. Полный контроль, без компромиссов.
• Мы берем на себя тяжелую работу: Оптимизированное разбиение модели для Llama 3.1 405B, распределенная проверка состояния и оркестровка обучения с несколькими контроллерами.
• Готовые к использованию шаблоны: Выбирайте между Pytorch XLA или JAX с предварительно настроенными средами и всеми необходимыми зависимостями, установленными в них.
• Реализация JAX для Llama 3.1 (скоро!): Обучение на 25% быстрее и на 20% более высокое использование GPU.

Сценарии использования

• Обучение моделей в масштабе
• Тонкая настройка данных предприятий
• Исследования в области искусственного интеллекта с высокой производительностью
• Экономичная инфраструктура искусственного интеллекта

Цены

Felafax предлагает конкурентные цены, на 30% ниже, чем у NVIDIA H100. Свяжитесь с нами, чтобы получить подробные ценовые планы, адаптированные к вашим потребностям.

Команды

Felafax создана инженерами с обширным опытом работы в ведущих технологических компаниях:

• Никхил Сонти, соучредитель и генеральный директор: Более 6 лет в Meta и более 3 лет в Microsoft, специалист по инфраструктуре вывода ML.
• Нитин Сонти, соучредитель и технический директор: Более 5 лет в Google и Nvidia, специалист по инфраструктуре обучения ML в масштабе.

Свяжитесь с нами, чтобы узнать больше о том, как Felafax может преобразовать ваши проекты в области искусственного интеллекта.