yarn的资源调度策服务器托管略
YARN(Yet Another Resource Negotiator)是Apache Hadoop的资源管理器。它负责集群资源的管理和作业调度。YARN的资源调度是通过几个关键组件来实现的:
-
ResourceManager(RM):RM是YARN集群的主要组件之一。它负责整个集群的资源管理和调度。RM有两个主要组件:调度器(Scheduler)和应用程序管理器(ApplicationManager)。
-
调度器(Scheduler):调度器负责将集群资源分配给不同的应用程序。它有不同的实现,如容量调度器(Capacity Scheduler)和公平调度器(Fair Scheduler),每种调度器都有不同的调度策略。
-
应用程序管理器(ApplicationManager):应用服务器托管程序管理器负责接收来自客户端的应用程序提交请求,并为每个应用程序分配一个应用程序主管(ApplicationMaster)。
-
NodeManager(NM):NM是每个节点上的代理,负责管理该节点上的资源和容器。它向RM报告节点的可用资源,并执行由RM分配的容器。
一、资源调度流程
1-mapreduce提交计算任务给ResourceManager
2-RM中的applicationmanager负责创建applicationMaster进程
3-applicationMaster和applicationmanager保持通讯
4-applicationMaster找RM中的ResourceScheduler(资源调度器)申请计算需要的资源
5-applicationMaster通知对应的NodeManger创建资源空间container
6-在资源空间中先运行map阶段的计算,先运行reduce阶段的计算
7-map和reduce运行期间会将自身状态信息汇报给applicationMaster
8-计算完成后,applicationMaster通知NodeManger释放资源
9-资源释放后再通知applicationmanager把自身(applicationMaster)关闭释放资源
二、yarn的资源调度策略
-
先进先出
-
谁先抢到资源谁使用所有资源
-
资源利用效率低
-
如果遇到一个计算时间较长的任务,保资源占用后。其他的任务就无法计算
-
-
容量调度
-
将资源分成多份,不同计算任务使用不同的资源大小
-
-
公平调度
-
资源全部给一个计算任务使用,但是当计算任务中的某个map或reduce计算完成后,可以将自身资源释放掉给其他计算任务使用
-
服务器托管,北京服务器托管,服务器租用 http://www.fwqtg.net
相关推荐: 【JavaEE进阶】 Linux搭建Java部署环境
文章目录 前言 Linux权限 用户操作 三种角色 文件类型和访问权限 文件类型 基本权限 修改文件权限 搭建Java部署环境 apt apt常用命令 安装JDK 安装MySQL ⭕总结 前言 本篇博客主要内容如下: 了解Linux权限基本操作 搭建Java部…