Thunder ComputeТехнология облачных вычислений для виртуализации графических процессоров через TCP.

Thunder Compute разработала виртуальную технологию GPU-over-TCP (которую мы называем PCI-v), которая позволяет создавать новый тип облачных экземпляров. Мы можем мгновенно подключать или отключать любое количество графических процессоров одной командой, эффективно переключаться между задачами и совместно использовать один графический процессор. Это создает один облачный экземпляр, который подходит для любого рабочего процесса разработки. Подробнее, эта гибкая среда может начинаться как недорогая машина для разработки с использованием только процессора и мгновенно масштабироваться до огромного кластера. Разработчики могут напрямую получать доступ к необходимым ресурсам, исключая время, потраченное на бюрократические процессы утверждения и конфигурацию. Кроме того, эта технология позволяет организациям сократить расходы несколькими способами: 1) Мы можем размещать несколько рабочих нагрузок на графическом процессоре одновременно с динамическим разделением памяти. Это позволяет создавать систему, подобную vCPU, которую вы видите в AWS сегодня, где каждый пользователь имеет полный доступ ко всему графическому процессору, позволяя нам использовать любую свободную мощность на физическом графическом процессоре для других пользователей. 2) Разработчики могут взаимодействовать с экземплярами, использующими только процессор, которые совместно используют пул ресурсов графических процессоров. Это устраняет понятие резервирования и создает систему, в которой графический процессор никогда не привязан к одной машине. Следует отметить, что эта технология, по-видимому, является наиболее эффективной существующей технологией для бессерверных вычислений с использованием графического процессора. Мы добились фактически мгновенного холодного запуска, отделив среду графического процессора от физического графического процессора, что позволяет любому графическому процессору мгновенно переключаться между любыми задачами без необходимости \"холодного запуска\" путем загрузки новой среды.