Thunder ComputeTeknologi Komputasi Awan untuk memvirtualisasikan GPU melalui TCP.

Thunder Compute telah menciptakan teknologi GPU-over-TCP virtual (yang kami sebut PCI-v) yang memungkinkan jenis instance cloud baru. Kita dapat langsung menghubungkan atau memutuskan koneksi sejumlah GPU dengan satu perintah, beralih di antara tugas secara efisien, dan berbagi satu GPU. Hal ini menciptakan satu instance cloud yang mengakomodasi alur kerja pengembangan apa pun. Untuk menjelaskan, satu lingkungan fleksibel ini dapat dimulai sebagai mesin dev CPU-only yang murah dan langsung diskalakan untuk menjadi cluster besar. Pengembang dapat mengakses langsung sumber daya yang mereka butuhkan untuk menghilangkan waktu yang dihabiskan untuk proses persetujuan birokrasi dan konfigurasi. Selain itu, teknologi ini memangkas biaya untuk organisasi dengan beberapa cara: 1) Kita dapat menempatkan beberapa beban kerja pada GPU pada saat yang sama dengan berbagi memori dinamis. Ini memungkinkan sistem yang mirip dengan vCPU yang Anda lihat di AWS saat ini, di mana setiap pengguna memiliki akses penuh ke seluruh GPU sambil memungkinkan kami untuk menggunakan kapasitas cadangan apa pun pada GPU fisik untuk pengguna lain. 2) Pengembang dapat berinteraksi dengan instance CPU-only yang berbagi sumber daya GPU yang dikelompokkan. Ini menghilangkan konsep reservasi dan menciptakan sistem di mana GPU tidak pernah terikat pada satu mesin. Hal menarik untuk dicatat, ini tampaknya menjadi teknologi paling efisien yang ada untuk komputasi GPU tanpa server. Kami telah mencapai start dingin yang secara efektif instan dengan memisahkan lingkungan GPU dari GPU fisik, yang memungkinkan GPU apa pun untuk beralih secara instan di antara tugas apa pun tanpa harus \"start dingin\" dengan memuat lingkungan baru.