transformer和CNN的区别是什么？

1、 Transformer模型的核心是self-attention机制，而CNN模型的核心是卷积和池化；

2、Transformer模型可以学习到数据中每个词之间的相关性，而CNN关注于二维局部数据之间的相互关联，随着层的加深，关注区域会更广。