Featherless LLM在 HuggingFace 无服务器上运行 🦙 模型

Featherless - 无服务器 LLM

立即访问世界上最大的 AI 模型集

主要功能

• 无服务器基础设施，实现无缝 AI 模型部署
• 访问 Hugging Face 的庞大模型库
• 支持 LLaMA-3 和 QWEN-2 架构
• 关注隐私，不记录聊天、提示或完成内容
• 10B 模型的动态模型切换，耗时不到 1 秒
• FP8 量化，提高推理速度

使用案例

• 个人 AI 研究与开发
• 企业级 AI 模型部署
• AI 学习和实验的教育目的
• 针对不同行业的定制 AI 解决方案

定价

Feather Basic Max. 15B
$10 USD / 月

• 无限个人使用（最多两个并发请求）
• 访问 Feather 生态系统中的所有模型
• 私人、安全和匿名使用

Feather Premium Max. 72B
$25 USD / 月

• Feather Basic 的所有优势
• 访问高达 72B 的模型（对于 70B 和 72B 模型，一个并发请求）

Feather Scale Max. 72B
$75 USD / 月

• Feather Premium 的所有优势
• 可扩展的定价，以满足更高的并发需求

团队

Featherless 由 Recursal AI 构建，这是一个致力于让开源 AI 为所有人所用的团队。该平台支持多语言、高度可扩展和价格合理的 AI 模型的开发和扩展。Featherless 的收入有助于资助这些开源模型的创建和维护。