影响模型inference速度的因素？

1.FLOPs（模型总的加乘运算）

2.MAC（内存访问成本）

3.并行度（模型inference时操作的并行度越高，速度越快）

4.计算平台（GPU，AI协处理器，CPU等）