Unsloth Studio
Позволяет пользователям запускать, обучать и экспортировать различные типы моделей ИИ, работая локально.
Unsloth Studio - это веб-интерфейс с открытым исходным кодом для обучения, запуска и экспорта моделей ИИ локально. Поддержка GGUF, ускоренное обучение, удобные Data Recipes.
Подробнее о Unsloth Studio
Unsloth Studio
Unsloth Studio — это новый веб-интерфейс для локального обучения, запуска и экспорта открытых моделей. Он предоставляет возможность быстро и удобно работать с различными моделями, включая текстовые, визуальные и аудио, в едином локальном интерфейсе. Пользователи могут создавать собственные наборы данных и экспортировать модели в различные форматы.
- •Локальный запуск моделей:Запускайте GGUF и safetensor модели локально на Mac, Windows, Linux. Поддерживает multi-GPU вывод и большинство моделей. Включает в себя самовосстанавливающиеся вызовы инструментов, поиск в Интернете и выполнение кода.
- •Обучение без кода:Загружайте PDF, CSV, JSON документы или YAML конфигурации и мгновенно начинайте обучение на NVIDIA. Ядра Unsloth оптимизируют LoRA, FP8, FFT, PT для более 500+ текстовых, визуальных, TTS/аудио и встраиваемых моделей.
- •Создание Data Recipes:Преобразуйте ваши документы в полезные/синтетические наборы данных с помощью рабочего процесса узлов графа. Загружайте неструктурированные или структурированные файлы, такие как PDF, CSV и JSON. Data Recipes на основе NVIDIA DataDesigner автоматически преобразуют документы в нужные форматы.
- •Экспорт и сохранение моделей:Экспортируйте любую модель, включая ваши настроенные модели, в safetensors или GGUF для использования с llama.cpp, vLLM, Ollama, LM Studio и другими. Сохраняет историю обучения, чтобы вы могли повторно посещать запуски, экспортировать снова и экспериментировать.
- •Модельная арена:Общайтесь и сравнивайте две разные модели, например базовую модель и настроенную, чтобы увидеть, как различаются их выводы. Просто загрузите вашу первую GGUF/модель, затем вторую, и вуаля! Вывод сначала загрузится для одной модели, затем для второй.
- •Наблюдение за обучением:Получите полный обзор и контроль над вашими учебными запусками. Отслеживайте потерю обучения, нормы градиента и использование GPU в реальном времени и настраивайте по своему вкусу.
- •Безопасность и конфиденциальность:Unsloth Studio может использоваться на 100% в автономном режиме и локально на вашем компьютере. Его аутентификация на основе токенов, включая пароль и потоки доступа/обновления JWT, обеспечивает безопасность ваших данных и контроль над ними.
С Unsloth Studio вы получаете удобный инструмент для локального обучения и запуска моделей. Он упрощает процесс работы с данными, предоставляя возможности для создания собственных наборов данных и экспорта моделей в различные форматы. Выбирая Unsloth Studio, вы получаете гибкость и контроль над своими моделями, обеспечивая конфиденциальность и безопасность данных.
