YARN的入门学习心得:

YARN的入门学习心得:

在观看超人学院吴超老师的视频后,我又对Hadoop家族有了进一步的认识,虽然还是入门级别的认识。在了解了HDFS(Hadoop Distribution File System)和MapReduce有初步的认知之后现在又看到了YARN。那么什么是YARN。不论是HDFS还是MapReduce都是在计算机上运行的。计算运行时候会有个资源管理器,来监管和调度使用计算机的CPU,内存,硬盘等资源的。那么又回到原来发现的问题,单机的资源管理器肯定是不够用的。所以YARN就是一个分布式的资源管理器。

那么YARN这个分布式资源管理器又是怎么进行分布式管理的呢,在视频中提到YARN是一个主从结构的资源管理器。一个主节点,ResourceManager。和多个从节点NodeManager。那么这个ResourceManager和NodeManager相互之间又是如何运作的呢。ResourceManager作为一个独裁,管理着机群的资源的分配和调度。当用户请求计算一个东西的时候会先找到ResourceManger,ResourceManager在审查自己手下的机群中还有那些个机器有资源可以使用那么就将用户的请求转给那个机器的NodeManager,NodeManager就是一个机器上的资源管理,在接到一个请求之后就会开始对将本机的资源进行调度真正的让用户请求的计算在机器中算起来。所以YARN这样对分布式系统进行资源管理和分配就是找一个主管,和工程师们。客户请求找到主管,主管检查工程师们谁手头活不多,就将这这个任务派给这个工程师。工程师将问题具体解决。

你可能感兴趣的:(YARN的入门学习心得:)