发新帖

将原生TensorFlow运行在虚拟GPU之上

[复制链接]
453 0

快来加入 TensorFlowers 大家庭!

您需要 登录 才可以下载或查看,没有帐号?加入社区

x
Orion vGPU软件由VirtAI Tech 趋动科技开发,是一个为云或者数据中心内的AI应用、CUDA应用提供GPU资源池化、GPU虚拟化能力的系统软件。通过高效的通讯机制连接应用与GPU资源池,使得AI应用、CUDA应用可以不受GPU物理位置的限制,部署在云或者数据中心内任何一个物理机、Container或者VM内。
  • 兼容已有的AI应用和CUDA应用,无需修改已有应用程序。
  • 细粒度的GPU虚拟化支持。
  • 应用可使用远程物理节点上GPU,应用部署无需受GPU服务器位置、资源数量的约束。
  • vGPU资源动态分配动态释放。无需重启Container/VM/物理机。
  • 通过对GPU资源池的管理和优化,提高整个云和数据中心GPU的利用率和吞吐率。
  • 通过统一管理GPU,降低GPU的管理复杂度和成本。
Orion vGPU软件社区版下载链接:https://github.com/virtaitech/orion


在容器中将TensorFlow运行在Orion vGPU之上的教程: https://github.com/virtaitech/orion/blob/master/doc/quick-start/container.md


在KVM虚拟机中将TensorFlow运行在Orion vGPU之上的教程: https://github.com/virtaitech/orion/blob/master/doc/quick-start/kvm.md

在一台没有物理GPU的机器上运行TensorFlow使用远程Orion vGPU的教程:https://github.com/virtaitech/orion/blob/master/doc/quick-start/remote_rdma.md

如果您有任何反馈,请联系feedback@virtaitech.com

本楼点评(0) 收起
您需要登录后才可以回帖 登录 | 加入社区

本版积分规则

快速回复 返回顶部 返回列表