Unsloth AI logo

Unsloth AILLMs 的开源训练和微调

Unsloth 帮助用户更好地、更快地创建自定义模型。我们正在构建针对企业和个人的一体化解决方案,即使数据量很小,也能创建最准确的自定义模型。 访问我们的 GitHub:https://github.com/unslothai/unsloth/ 加入我们的 Discord:https://discord.gg/unsloth

2024-09-04
Active
Early
S24
2
B2B
United States of AmericaAmerica / Canada
Unsloth AI screenshot
更多关于 Unsloth AI 的信息

Unsloth AI | 微调 Llama 3 和 Mistral LLMs

简介

使用 Unsloth AI,可以轻松地微调和训练大型语言模型 (LLMs)。在不改变硬件的情况下,获得更快的结果和更高的准确性。

主要功能

  • 在 24 小时内训练您自己的 ChatGPT,而不是 30 天
  • 比 Flash Attention 2 (FA2) 快 30 倍,准确率提高 30%
  • 比 FA2 的内存使用量减少 90%
  • 支持 NVIDIA、AMD 和 Intel GPU
  • 手写 GPU 内核,优化性能
  • 在单个 GPU 上速度提高 10 倍,在多个 GPU 系统上速度提高 32 倍

使用案例

  • 快速开发定制 AI 模型
  • 为研究和开发提供高效的训练
  • 为企业级 AI 项目提供可扩展的解决方案
  • 为初创企业和小企业提供经济高效的 AI 训练

定价

免费

  • 我们标准版本的免费软件
  • 支持 Mistral、Gemma 和 Llama 1、2、3
  • 支持单 GPU
  • 支持 4 位和 16 位 LoRA

Unsloth Pro

  • 解锁多 GPU 支持
  • 训练速度提高 2.5 倍
  • VRAM 使用量减少 20%
  • 支持最多 8 个 GPU

Unsloth 企业版

  • 训练速度提高 30 倍
  • 支持多节点
  • 准确率提高 30%
  • 推理速度提高 5 倍
  • 所有 Pro 计划功能
  • 专属客户支持

团队

Unsloth AI 因其在 AI 和 ML 工作负载中的尖端优化而受到全球团队的信赖。我们在数学和编码方面的专业知识确保您的 AI 训练更快、更高效且更环保。加入我们的社区,今天就开始转变您的 AI 项目。