程序员社区

HDFS设置BLOCK的目的

先看两个问题...

一、在HDFS里面,文件存储为什么要以Block块的方式存储?

主要是减少硬盘寻道时间,HDFS设计前提是支持大容量的流式数据操作,所以即使是一般的数据读写操作,涉及到的数据量都是比较大的。假如数据块设置过少,那需要读取的数据块就比较多,由于数据块在硬盘上非连续存储,普通硬盘因为需要移动磁头,所以随机寻址较慢,读越多的数据块就增大了总的硬盘寻道时间。当硬盘寻道时间比io时间还要长的多时,那么硬盘寻道时间就成了系统的一个瓶颈。合适的块大小有助于减少硬盘寻道时间,提高系统吞吐量。

二、DataNode上的块大小默认是128MB,为什么128MB是最优选择?

HDFS的块比磁盘块大,其目的是为了最小化寻址开销。如果块设置得足够大,从磁盘传输数据的时间可以明显大于定位这个块开始位置所需的时间。这样,传输一个由多个块组成的文件的时间取决于磁盘传输速率。

我们来做一个速算,如果寻址时间为10ms左右,而传输速率为100MB/s,为了使寻址时间仅占传输时间的1%,我们需要设置块大小为100MB左右。因此很多情况下HDFS使用128MB的块设置。以后随着新一代磁盘驱动器传输速率的提升,块的大小将被设置得更大,例如现在支持PCI-E通道和Nvme协议固态硬盘的读写速度可以达到2000MB/s,如果公司采用这种高端的固态硬盘,块的大小可以设置为GB级别。

但是该参数也不会设置得过大。MapReduce中的map任务通常一次处理一个块中的数据,因此如果任务数太少(少于集群中的节点数量),就没有办法充分利用集群资源,而且Cpu的负担会较大。

赞(0) 打赏
未经允许不得转载:IDEA激活码 » HDFS设置BLOCK的目的

相关推荐

  • 暂无文章

一个分享Java & Python知识的社区