异构计算中引擎并行计算系统的异构并行有多少种呢？

GPU、FPGA、DSA、ASIC等引擎同构并行的系统。处理引擎/芯片是非图灵完备的，是作为CPU的加速器。所以，其他处理引擎的并行计算系统即为CPU+XPU的异构并行，大体分为三类：

1. CPU+GPU。CPU+GPU是目前最流行的异构计算系统，在HPC高性能计算、图形图像处理以及AI训练/推理等场景得到广泛应用，蓝海大脑水冷工作站、液冷服务器就是基于CPU+GPU的液冷解决方案。

2. CPU+FPGA。目前数据中心流行的FaaS服务，利用FPGA的局部可编程能力，基于FPGA开发运行框架，以及借助第三方ISV支持或自研的方式，构建面向各种应用场景的FPGA加速解决方案。

3. CPU+DSA。谷歌TPU是第一个DSA架构处理器，TPUv1采取独立加速器的方式，实现CPU+DSA（TPU）的方式实现大数据的异构并行。