1.什么是 DPU

DPU 的英文全称叫做 Data Processing Unit 即数据处理器，属于高性能可编程的多核处理器。DPU 是 SoC（System on Chip）系统级芯片，具有专用目标的集成电路，包括完整系统并嵌入软件的全部内容。

SoC 的特点：
① 硬件规模庞大，通常基于 IP 设计模式。
② 软件比重大，需要进行软硬件协同设计。

DPU 是在 CPU、GPU 之后数据中心场景中的第三颗重要的算力芯片，为云平台等需要高带宽、低延迟、数据密集的计算场景提供计算能力。

2.DPU 的产生背景

计算机最初诞生的时候采用了冯诺依曼架构，以计算和存储为核心的架构， CPU 作为处理器单元负责完成各种算术和逻辑计算，而内存和硬盘负责存储数据，并与 CPU 交互。

image.png

由于游戏、3D 设计等多媒体图形软件的高速发展，计算机要处理的工作量越来越大，也越来越复杂。因此 CPU 忙不过来，就有了专门处理图像和图形相关运算的 GPU（Graphics Processing Unit）图形处理器。

问题：DPU 存在意义是啥，该问题的实质是 DPU 为 CPU 分担了哪些工作？
答：DPU（Data Processing Unit ）数据处理器是一个紧密围绕数据中心的概念，即主要用于云计算、数据中心这种大规模算力场景，可以提升算力基础设施的效率、减少资源消耗，达到降低成本的目的。因此 DPU 从四方面分担 CPU 的工作，分别是网络、存储、虚拟化和安全。

dpu应用场景.JPG

3.CPU、GPU 和 DPU 的区别

CPU 用于通用计算，GPU 用于加速计算，而 DPU 则进行数据处理。
DPU 和 CPU最大的区别是，CPU 擅长一般的计算任务，而 DPU 更擅长基础层应用任务，比如网络协议处理、交换路由计算、加密解密、数据压缩等。

CPU、GPU 和 DPU 差异信息汇总.JPG

3.1 CPU 初识

CPU 主要包括计算单元 ALU（ Arithmetic and Logic Unit）、控制单元 CU（Control Unit）、存储单元（CPU 片内缓存、寄存器组、高速缓存器Cache），及其它们之间通讯的数据、控制及状态的总线。相对于控制单元和存储单元，CPU 的计算单元在整个结构中占比较少，因此相对于大规模并行计算能力，CPU 更擅长于逻辑控制、串行运算。

image.png

• 计算单元：主要负责算术和逻辑运算。控制单元对运算器下达操作命令，即运算单元所进行的全部操作都是由控制单元发出的控制信号来指挥的。
• 控制单元：整个 CPU 的指挥控制中心，由指令寄存器 IR （Instruction Register）、指令译码器 ID（Instruction Decoder）和操作控制器 OC （Operation Controller）等构成，主要是对指令进行译码，并且发出为完成每条指令所要执行的各个操作的控制信号。
• 存储单元：主要包含 CPU 片内缓存和寄存器组，是 CPU 中暂时存放数据的地方，里面保存着那些等待处理或者已经处理过的数据。CPU 访问寄存器所用的时间要比访问内存的时间短，即采用寄存器可以减少 CPU 访问内存的次数提高工作速度。

如下所示，以个人电脑的 CPU 为例，CPU 与内存 RAM、硬盘驱动器和 NIC 网络接口控制器相连。添加 SSD 可以更快访问内存，添加 GPU 可以更好处理图形/视频。

CPU基础架构.JPG

3.2 GPU 初识

GPU 拥有一个由数以千计的更小、更高效的核心组成的大规模并行计算架构，而 CPU 专为顺序串行处理而优化的几个核心组成。

image.png

当涉及算术运算和逻辑运算等常规计算时，通常是 CPU 更快。然而当涉及到大型矩阵乘法和并行算法时，GPU 远远快于 CPU。GPU 拥有数千个内核并行进行运算，虽然这些内核的时钟速度较低或内核较弱，但在并行计算中效率很高并且每个核心都有独立的 ALU。GPU 需要协同 CPU 一起工作，不能单独使用。

3.3 DPU 初识

DPU（Data Processing Unit）数据处理单元是面向数据中心的专用处理器。随着数据中心建设、网络带宽和数据量急剧增长，由于 CPU 性能增长速度放缓，为了寻求效率更高的计算芯片，DPU 由此产生。DPU 解决的是大流量网络数据包处理占用 CPU 问题。

image.png