Featherless LLMЗапуск моделей 🦙 на HuggingFace без серверов

Featherless - LLM без серверов

Мгновенный доступ к крупнейшей в мире коллекции моделей ИИ

Ключевые особенности

• Бессерверная инфраструктура для бесшовной развертывания моделей ИИ
• Доступ к обширной библиотеке моделей Hugging Face
• Поддержка архитектур LLaMA-3 и QWEN-2
• Фокус на конфиденциальности без ведения журналов чатов, подсказок или завершений
• Динамическая замена моделей менее чем за 1 секунду для моделей 10B
• Квантование FP8 для повышения скорости вывода

Сценарии использования

• Личные исследования и разработки в области ИИ
• Развертывание моделей ИИ на уровне предприятия
• Образовательные цели для изучения и экспериментов с ИИ
• Настраиваемые решения ИИ для различных отраслей

Цены

Feather Basic Max. 15B
$10 USD / Месяц

• Неограниченное личное использование (максимум два одновременных запроса)
• Доступ ко всем моделям в экосистеме Feather
• Приватное, безопасное и анонимное использование

Feather Premium Max. 72B
$25 USD / Месяц

• Все преимущества Feather Basic
• Доступ к моделям до 72B (один одновременный запрос для моделей 70B и 72B)

Feather Scale Max. 72B
$75 USD / Месяц

• Все преимущества Feather Premium
• Масштабируемая ценовая политика для удовлетворения потребностей в более высокой одновременности

Команды

Featherless создан Recursal AI, командой, которая стремится сделать ИИ с открытым исходным кодом доступным для всех. Платформа поддерживает разработку и масштабирование многоязычных, высокомасштабируемых и доступных моделей ИИ. Доходы от Featherless помогают финансировать создание и поддержку этих моделей с открытым исходным кодом.