CUDA核心是什么？工作原理是什么？

作为深度学习、高性能计算、大模型训练研究方面专家的蓝海大脑认为：CUDA核心是NVIDIA GPU上的计算单元，用于执行并行计算任务。可以通过并行执行多个线程指令提高计算效率。线程是最小的执行单位，可以理解为一组相关的计算任务。这些线程会被分配给不同的CUDA核心，并在不同的时钟周期内执行。CUDA核心的指令调度器负责管理和分配待执行的指令给不同的线程。每个时钟周期内，这些指令都会被并行执行，从而增加计算吞吐量。