Yarn 集群的架构和工作原理

这篇具有很好参考价值的文章主要介绍了Yarn 集群的架构和工作原理。希望对大家有所帮助。如果存在错误或未考虑完全的地方，请大家不吝赐教，您也可以点击"举报违法"按钮提交疑问。

Yarn 的基本设计思想是将 MapReduce V1 中的 JobTracker 拆分为两个独立的服务：ResourceManager 和 ApplicationMaster。

ResourceManager 负责整个系统的资源管理和分配，ApplicationMaster 负责单个应用程序的管理。

ResourceManager
RM 是一个全局的资源管理器，负责整个系统的资源管理和分配，它主要由两个部分组成：调度器（Scheduler）和应用程序管理器（Application Manager）。
调度器：根据容量、队列等限制条件，将系统中的资源分配给正在运行的应用程序，在保证容量、公平性和服务等级的前提下，优化集群资源利用率，让所有的资源都被充分利用；
应用程序管理器：负责管理整个系统中的所有的应用程序，包括应用程序的提交、与调度器协商资源以启动 ApplicationMaster、监控 ApplicationMaster 运行状态并在失败时重启它。
ApplicationMaster
用户提交的一个应用程序会对应于一个 ApplicationMaster，它的主要功能有：
- 与 RM调度器协商以获得资源，资源以 Container 表示。
- 将得到的任务进一步分配给内部的任务。
- 与 NN （NameNode）通信以启动/停止任务。
- 监控所有的内部任务状态，并在任务运行失败的时候重新为任务申请资源以重启任务。
NodeManager
NodeManager 是每个节点上的资源和任务管理器，
一方面，它会定期地向 RM 汇报本节点上的资源使用情况和各个 Container 的运行状态；
另一方面，它接收并处理来自 AM 的 Container 启动和停止请求。
Container
Container 是 Yarn 中的资源抽象，封装了各种资源。
一个应用程序会分配一个 Container，这个应用程序只能使用这个 Container 中描述的资源。
不同于 MapReduce V1 中槽位 slot 的资源封装，Container 是一个动态资源的划分单位，更能充分利用资源。