网站首页
手机版

hdfs工作原理(hdfs工作原理简练)

更新时间:2022-06-22 09:58:08作者:未知

hdfs工作原理(hdfs工作原理简练)

hdfs工作原理如下:


  1、客户端通过调用FileSystem对象的open括号来读取希望打开的文件。对于HDFS来说,这个对象是分布式文件系统的一个实例。


  2、DistributedFileSystem通过RPC来调用namenode,以确定文件的开头部分的块位置。对于每一块,namenode返回具有该块副本的datanode地址。此外,这些datanode根据他们与client的距离来排序(根据网络集群的拓扑)。如果该client本身就是一个datanode,便从本地datanode中读取。DistributedFileSystem返回一个FSDataInputStream对象给client读取数据,FSDataInputStream转而包装了一个DFSInputStream对象。


  3、接着client对这个输入流调用read()。存储着文件开头部分的块的数据节点的地址DFSInputStream随即与这些块最近的datanode相连接。


  4、通过在数据流中反复调用read(),数据会从datanode返回client。


  5、到达块的末端时,DFSInputStream会关闭与datanode间的联系,然后为下一个块找到最佳的datanode。client端只需要读取一个连续的流,这些对于client来说都是透明的。


  6、在读取的时候,如果client与datanode通信时遇到一个错误,那么它就会去尝试对这个块来说下一个最近的块。它也会记住那个故障节点的datanode,以保证不会再对之后的块进行徒劳无益的尝试。 client也会确认datanode发来的数据的校验和。如果发现一个损坏的块,它就会在client试图从别的datanode中读取一个块的副本之前报告给namenode。


  7、这个设计的一个重点是,client直接联系datanode去检索数据,并被namenode指引到块中最好的datanode。因为数据流在此集群中是在所有datanode分散进行的。


  

本文标签: 工作原理  标签  简介  hdfs  

为您推荐

怎么修改电脑桌面图标的大小(如何改电脑桌面图标的大小)

电脑桌面的图标大小有时候会对我们用电脑的心情产生一定的影响,怎么修改桌面图标的大小呢?方法很简单,下面一起来看一下。方法一、打开

2023-04-12 17:40

春天小草的特点是什么(春天小草的特点是什么风的特点是什么)

1、春天小草的特点是嫩嫩的,绿绿的,春天草翠花开,小草像嫩芽一样可爱。每当春天来临之际,嫩绿的小草就被春风吹醒了。新生的小草吸收着春天的雨露,在春风中茁壮的成长着。2、冰雪刚刚融化,小草就像一群活泼可爱的孩子,从大地母亲

2023-04-12 17:38

为什么北极没有企鹅 为什么北极没有企鹅呢

1、北极在17世纪时是有企鹅的,欧洲一些船员到了北极后发现了黑白分明,体型巨大的物种,它们不害怕人类。企鹅的羽毛又可以做成衣服御寒,身上的脂肪可以当燃料点火用,因此上岛的很多船员对北极企鹅有了杀心。导致许多北极企鹅惨遭毒

2023-04-12 17:38

什么龟不需要晒台 养龟必须要有晒台吗

猪鼻龟是不需要晒台的深水龟。它很少上岸,主要在深水里面生活。用缸饲养猪鼻龟的时候,要在缸底放置一些石头或者是种一些水草。因为它

2023-04-12 17:37

怎么取已坐过的高铁票(高铁站可以取已经坐过的车票吗)

换取已坐过的高铁票,按如下规定办理:1、使用二代居民身份证购票的,可凭购票时所使用的乘车人有效二代居民身份证原件到车站售票窗口、铁

2023-04-12 17:35

周公解梦鱼

1、因为“鱼”和“余”谐音,在中国传统的解梦观点中,梦见鱼一直和财富密切相关。2、梦见鱼在清水中游动,象征你将得到财富和权力,或表示你现在的心情和处境很好,也可能预示你会有意外的收入或地位得到提升。3、梦里见到一群鱼在游

2023-04-12 17:35