gpt4 book ai didi

hdfs - HDFS 文件如何存储在底层操作系统文件系统上?

转载 作者:行者123 更新时间:2023-12-02 03:32:14 25 4
gpt4 key购买 nike

HDFS 是 Hadoop 中的逻辑文件系统,块大小为 64MB。 HDFS 上的文件依次保存在底层操作系统文件系统上,比如 ext4,块大小为 4KiB。

据我所知,对于本地文件系统上的文件,操作系统使用 4KiB 块的物理硬盘的开始和结束柱面进行检索。由于 HDFS 文件也保存在 ext4 底层文件系统上,因此也只能借助 4KiB 块开始和结束柱面来检索 HDFS 文件。

如果是这种情况,这不会提高数据检索的速度。现在的问题是 HDFS wrt 硬盘中使用什么技术来提高其检索速度?

提前致谢

最佳答案

ext 文件系统的检索速度没有改变,因为您的想法非常正确。
但是发生的情况是将一个大文件分成 64Mb 的碎片,它们存储在不同的机器上。因此,在进行检索调用时,多台机器同时读取文件碎片并报告给主机(名称节点)。这样事情就加快了。就像 10 个人在 1 天内完成建筑任务而不是 1 个人在 10 天内完成一样。

关于hdfs - HDFS 文件如何存储在底层操作系统文件系统上?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/25909547/

25 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com