gpt4 book ai didi

hadoop - fsimage 和 edit log 文件实际存储在哪个文件夹或什么位置,供 namenode 在启动期间读取和合并?

转载 作者:可可西里 更新时间:2023-11-01 14:14:59 28 4
gpt4 key购买 nike

当名称节点启动时,它从图像文件 fsimage 读取 HDFS 状态,然后应用编辑日志文件中的编辑。

如果我没记错的话,Name节点启动就是我们写start-all.sh的时候。因此,在启动期间,我认为它读取 fsimage 并编辑日志并将它们合并。但它实际上是从哪个文件夹或哪个位置读取这两个内容的?

最佳答案

在 hadoop-1.x 中,start-all.sh 脚本内部执行两个操作 start-dfs.shstart-mapred.sh。 start-dfs.sh 将启动 hdfs 所需的所有守护进程,即:datanode、namenode、secondary namenode

检查点操作(将编辑日志应用于 fsimage)发生在名称节点启动期间,并且可以在名称节点运行期间通过调整参数 hdfs-site.xml --> dfs.namenode.checkpoint.period

在 namenode 启动期间,namenode 守护进程从 hdfs-site.xml -> dfs.name.dir 中指定的目录加载 fsimage。 这个属性应该被覆盖,否则它将采用默认值 (file:///tmp/dfs/name/)

可以通过检查 hdfs-site.xml -> dfs.name.edits.dir 的值找到编辑日志的位置。 dfs.name.edits.dir 的默认值是 ${dfs.name.dir}。

上述属性名称在hadoop-2.0中有改动

关于hadoop - fsimage 和 edit log 文件实际存储在哪个文件夹或什么位置,供 namenode 在启动期间读取和合并?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/22657431/

28 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com