Grok 2.5 (OSS Ver.)
Menawarkan akses ke model bahasa yang kuat, memungkinkan pengguna untuk melakukan pengujian dan penelitian lanjutan.
Temukan Grok 2, model canggih dari xAI yang dilatih pada tahun 2024. Unduh dan gunakan model ini dengan SGLang untuk pengujian dan eksplorasi. Membutuhkan GPU dengan memori besar.
Lebih banyak tentang Grok 2.5 (OSS Ver.)
Grok 2.5 (OSS Ver.)
Grok 2 adalah model yang dilatih dan digunakan di xAI pada tahun 2024. Model ini menyediakan bobot yang dapat diunduh untuk inferensi. Anda dapat mengunduh bobot, meluncurkan server, dan mengirim permintaan untuk mendapatkan output dari model.
- •Unduh bobot model Grok 2:Unduh bobot model, dengan ukuran sekitar 500 GB dan 42 file. Pastikan unduhan berhasil untuk memastikan penggunaan yang tepat.
- •Luncurkan server inferensi:Luncurkan server inferensi menggunakan mesin inferensi SGLang terbaru. Konfigurasi ini memerlukan 8 GPU, masing-masing dengan memori > 40GB.
- •Kirim permintaan model:Kirim permintaan ke model menggunakan templat obrolan yang benar. Pelajari lebih lanjut tentang cara mengirim permintaan.
Dengan memilih model Grok 2, Anda mendapatkan akses ke model yang dilatih pada tahun 2024. Model ini menawarkan solusi untuk kebutuhan inferensi Anda, dengan kemampuan untuk menghasilkan output yang relevan. Ini memberikan kepercayaan diri dalam memilih model yang tepat untuk kebutuhan Anda.
