Spark on Yarn 模式有哪些优点?

1)与其他计算框架共享集群资源(Spark 框架与 MapReduce 框架同时运行, 如果不用 Yarn 进行资源分配,MapReduce 分到的内存资源会很少,效率低下);资源按需分配,进而提高集群资源利用等。


2)相较于 Spark 自带的 Standalone 模式,Yarn 的资源分配更加细致。


3)Application 部署简化,例如 Spark,Storm 等多种框架的应用由客户端提交后,由 Yarn 负责资源的管理和调度,利用 Container 作为资源隔离的单位,以它为单位去使用内存,cpu 等。


4)Yarn 通过队列的方式,管理同时运行在 Yarn 集群中的多个服务,可根据不同类型的应用程序负载情况,调整对应的资源使用量,实现资源弹性管理。


蓝海大脑 京ICP备18017748号-1