华为云GPU服务器NVIDIA P4推理加速型Pi1性能参数

2022年8月27日 华为云服务器 129 views 0

华为云GPU服务器推理加速型Pi1实例专为AI推理打造的NVIDIA Tesla P4 GPU，Pi1型GPU云服务器P4的INT8运算器，能够将推理延时降低15倍，Pi1实例的CPU采用Intel 至强处理器 E5-2697 v4，主频2.3GHz，睿频3.5GHz。gd服务器来详细说下华为云GPU服务器NVIDIA P4推理加速型Pi1实例性能参数：

华为云GPU服务器P4性能参数

华为云GPU服务器Pi1实例为推理加速型云服务器，Pi1型GPU实例硬件参数如下：

  • 处理器：英特尔® 至强® 处理器 E5-2697 v4，主频2.3GHz，睿频3.5GHz。
  • 支持NVIDIA Tesla P4 GPU卡，单实例最大支持4张P4 GPU卡。
  • 提供GPU硬件直通能力。
  • 单GPU单精度计算能力最高5.5 TFLOPS。
  • 单GPU INT8计算能力最高22 TOPS。
  • 单GPU提供8GiB ECC显存，带宽192GiB/s。
  • GPU内置硬件视频编解码引擎，能够同时进行35路高清视频解码与实时推理。

不同CPU内存规格的云服务器性能参数表如下：

规格名称 vCPU 内存（GiB） 最大带宽/基准带宽（Gbps） 最大收发包能力（万PPS） 网卡多队列数 GPU 显存（GiB） 本地盘 虚拟化类型
pi1.2xlarge.4 8 32 5/1.6 40 2 1×P4 1×8GiB - KVM
pi1.4xlarge.4 16 64 8/3.2 70 4 2×P4 2×8GiB - KVM
pi1.8xlarge.4 32 128 10/6.5 140 8 4×P4 4×8GiB - KVM

Pi1实例主要用于GPU推理计算场景，例如图片识别、语音识别、自然语言处理等场景，常用于运行Tensorflow、Caffe、PyTorch、MXNet等深度学习框架。

华为云GPU服务器Pi1实例支持的操作系统如下：

  • Windows Server 2019 Standard 64bit
  • Windows Server 2016 Standard 64bit
  • CentOS 7.3 64bit
  • Ubuntu Server 16.04 64bit
  • Ubuntu Server 14.04 64bit

更多关于华为云GPU云服务器说明，请以官方文档为准：

参考文档

官方文档：华为云GPU服务器官方详解