- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在4个节点(3个从属)上建立一个Hadoop集群,VPC中的所有单个EC2都在其中。大致遵循以下步骤(但安装了Hadoop 2.8.1):http://arturmkrtchyan.com/how-to-setup-multi-node-hadoop-2-yarn-cluster
我格式化了名称节点,它给出了以下响应:
$ hdfs namenode -format
17/09/26 07:05:34 INFO namenode.NameNode: STARTUP_MSG:
/************************************************************
STARTUP_MSG: Starting NameNode
STARTUP_MSG: user = hduser
STARTUP_MSG: host = ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com/10.0.0.190
STARTUP_MSG: args = [-format]
STARTUP_MSG: version = 2.8.1
STARTUP_MSG: classpath = /usr/...
STARTUP_MSG: build = Unknown -r Unknown; compiled by 'hduser' on 2017-09-22T14:53Z
STARTUP_MSG: java = 1.8.0_144
************************************************************/
17/09/26 07:07:33 INFO namenode.NameNode: registered UNIX signal handlers for [TERM, HUP, INT]
17/09/26 07:07:33 INFO namenode.NameNode: createNameNode [-format]
Formatting using clusterid: CID-15524170-7dfa-481b-add9-4c2542a55ca5
17/09/26 07:07:33 INFO namenode.FSEditLog: Edit logging is async:false
17/09/26 07:07:33 INFO namenode.FSNamesystem: KeyProvider: null
17/09/26 07:07:33 INFO namenode.FSNamesystem: fsLock is fair: true
17/09/26 07:07:33 INFO namenode.FSNamesystem: Detailed lock hold time metrics enabled: false
17/09/26 07:07:33 INFO blockmanagement.DatanodeManager: dfs.block.invalidate.limit=1000
17/09/26 07:07:33 INFO blockmanagement.DatanodeManager: dfs.namenode.datanode.registration.ip-hostname-check=false
17/09/26 07:07:33 INFO blockmanagement.BlockManager: dfs.namenode.startup.delay.block.deletion.sec is set to 000:00:00:00.000
17/09/26 07:07:33 INFO blockmanagement.BlockManager: The block deletion will start around 2017 Sep 26 07:07:33
17/09/26 07:07:33 INFO util.GSet: Computing capacity for map BlocksMap
17/09/26 07:07:33 INFO util.GSet: VM type = 64-bit
17/09/26 07:07:33 INFO util.GSet: 2.0% max memory 889 MB = 17.8 MB
17/09/26 07:07:33 INFO util.GSet: capacity = 2^21 = 2097152 entries
17/09/26 07:07:33 INFO blockmanagement.BlockManager: dfs.block.access.token.enable=false
17/09/26 07:07:33 INFO blockmanagement.BlockManager: defaultReplication = 3
17/09/26 07:07:33 INFO blockmanagement.BlockManager: maxReplication = 512
17/09/26 07:07:33 INFO blockmanagement.BlockManager: minReplication = 1
17/09/26 07:07:33 INFO blockmanagement.BlockManager: maxReplicationStreams = 2
17/09/26 07:07:33 INFO blockmanagement.BlockManager: replicationRecheckInterval = 3000
17/09/26 07:07:33 INFO blockmanagement.BlockManager: encryptDataTransfer = false
17/09/26 07:07:33 INFO blockmanagement.BlockManager: maxNumBlocksToLog = 1000
17/09/26 07:07:33 INFO namenode.FSNamesystem: fsOwner = hduser (auth:SIMPLE)
17/09/26 07:07:33 INFO namenode.FSNamesystem: supergroup = supergroup
17/09/26 07:07:33 INFO namenode.FSNamesystem: isPermissionEnabled = false
17/09/26 07:07:33 INFO namenode.FSNamesystem: HA Enabled: false
17/09/26 07:07:33 INFO namenode.FSNamesystem: Append Enabled: true
17/09/26 07:07:34 INFO util.GSet: Computing capacity for map INodeMap
17/09/26 07:07:34 INFO util.GSet: VM type = 64-bit
17/09/26 07:07:34 INFO util.GSet: 1.0% max memory 889 MB = 8.9 MB
17/09/26 07:07:34 INFO util.GSet: capacity = 2^20 = 1048576 entries
17/09/26 07:07:34 INFO namenode.FSDirectory: ACLs enabled? false
17/09/26 07:07:34 INFO namenode.FSDirectory: XAttrs enabled? true
17/09/26 07:07:34 INFO namenode.NameNode: Caching file names occurring more than 10 times
17/09/26 07:07:34 INFO util.GSet: Computing capacity for map cachedBlocks
17/09/26 07:07:34 INFO util.GSet: VM type = 64-bit
17/09/26 07:07:34 INFO util.GSet: 0.25% max memory 889 MB = 2.2 MB
17/09/26 07:07:34 INFO util.GSet: capacity = 2^18 = 262144 entries
17/09/26 07:07:34 INFO namenode.FSNamesystem: dfs.namenode.safemode.threshold-pct = 0.9990000128746033
17/09/26 07:07:34 INFO namenode.FSNamesystem: dfs.namenode.safemode.min.datanodes = 0
17/09/26 07:07:34 INFO namenode.FSNamesystem: dfs.namenode.safemode.extension = 30000
17/09/26 07:07:34 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.window.num.buckets = 10
17/09/26 07:07:34 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.num.users = 10
17/09/26 07:07:34 INFO metrics.TopMetrics: NNTop conf: dfs.namenode.top.windows.minutes = 1,5,25
17/09/26 07:07:34 INFO namenode.FSNamesystem: Retry cache on namenode is enabled
17/09/26 07:07:34 INFO namenode.FSNamesystem: Retry cache will use 0.03 of total heap and retry cache entry expiry time is 600000 millis
17/09/26 07:07:34 INFO util.GSet: Computing capacity for map NameNodeRetryCache
17/09/26 07:07:34 INFO util.GSet: VM type = 64-bit
17/09/26 07:07:34 INFO util.GSet: 0.029999999329447746% max memory 889 MB = 273.1 KB
17/09/26 07:07:34 INFO util.GSet: capacity = 2^15 = 32768 entries
Re-format filesystem in Storage Directory /usr/local/hadoop/data/namenode ? (Y or N)
$ Y
17/09/26 07:09:21 INFO namenode.FSImage: Allocated new BlockPoolId: BP-793961451-10.0.0.190-1506409761821
17/09/26 07:09:21 INFO common.Storage: Storage directory /usr/local/hadoop/data/namenode has been successfully formatted.
17/09/26 07:09:21 INFO namenode.FSImageFormatProtobuf: Saving image file /usr/local/hadoop/data/namenode/current/fsimage.ckpt_0000000000000000000 using no compression
17/09/26 07:09:21 INFO namenode.FSImageFormatProtobuf: Image file /usr/local/hadoop/data/namenode/current/fsimage.ckpt_0000000000000000000 of size 323 bytes saved in 0 seconds.
17/09/26 07:09:21 INFO namenode.NNStorageRetentionManager: Going to retain 1 images with txid >= 0
17/09/26 07:09:21 INFO util.ExitUtil: Exiting with status 0
17/09/26 07:09:21 INFO namenode.NameNode: SHUTDOWN_MSG:
/************************************************************
SHUTDOWN_MSG: Shutting down NameNode at ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com/10.0.0.190
************************************************************/
$ start-dfs.sh
Starting namenodes on [ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com]
ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com: starting namenode, logging to ...
10.0.0.185: starting datanode, logging to ...
10.0.0.244: starting datanode, logging to ...
10.0.0.83: starting datanode, logging to ...
Starting secondary namenodes [ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com]
ec2-xx-xx-xx-01.eu-central-1.compute.amazonaws.com: starting secondarynamenode, logging to ...
$ start-yarn.sh
starting yarn daemons
starting resourcemanager, logging to ...
10.0.0.185: starting nodemanager, logging to ...
10.0.0.83: starting nodemanager, logging to ...
10.0.0.244: starting nodemanager, logging to ...
$ jps
14326 NameNode
14998 Jps
14552 SecondaryNameNode
14729 ResourceManager
15880 Jps
15563 DataNode
15693 NodeManager
$ hdfs dfs -put pg1661.txt /samples/input
WARN hdfs.DataStreamer: DataStreamer Exception
org.apache.hadoop.ipc.RemoteException(java.io.IOException): File /samples/input/pg1661.txt._COPYING_ could only be replicated to 0 nodes instead of minReplication (=1). There are 0 datanode(s) running and no node(s) are excluded in this operation.
$ hdfs dfsadmin -report
Configured Capacity: 0 (0 B)
Present Capacity: 0 (0 B)
DFS Remaining: 0 (0 B)
DFS Used: 0 (0 B)
DFS Used%: NaN%
Under replicated blocks: 0
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0
Pending deletion blocks: 0
最佳答案
从“hdfs dfsadmin -report”命令输出中,容量显示为0。好像您已经忘记格式化namenode了。在启动HDFS之前,您需要运行以下命令。
hdfs namenode -format
Configured Capacity: 32195477504 (29.98 GB)
Present Capacity: 29190479872 (27.19 GB)
DFS Remaining: 29190471680 (27.19 GB)
DFS Used: 8192 (8 KB)
DFS Used%: 0.00%
Under replicated blocks: 0
Blocks with corrupt replicas: 0
Missing blocks: 0
Missing blocks (with replication factor 1): 0
Pending deletion blocks: 0
关于hadoop - HDFS未格式化,但没有错误,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/46407291/
HDFS 是 Hadoop 中的逻辑文件系统,块大小为 64MB。 HDFS 上的文件依次保存在底层操作系统文件系统上,比如 ext4,块大小为 4KiB。 据我所知,对于本地文件系统上的文件,操作系
哪种工具最适合测量 HDFS 空间消耗? 当我总结“hdfs dfs -du/”的输出时,与“hdfs dfsadmin -report”(“DFS Used”行)相比,我总是消耗更少的空间。是否有
我正在尝试编写一个简单的脚本来验证 HDFS 和本地文件系统校验和。 在 HDFS 上我得到 - [m@x01tbipapp3a ~]$ hadoop fs -checksum /user/m/fil
我从 HDFS 中删除了一个文件夹,我在下面找到了它 /user/hdfs/.Trash/Current/ 但我无法恢复它。我查看了论坛,但没有找到好的解决方案。 请有人有解决方案我可以帮助我如何在最
在 5 个节点的集群上运行 Presto 大型扫描查询,看起来只有一个节点是查询协调器,并通过网络从 5 个 hdfs 节点读取数据。 所有 presto 进程都在数据节点上运行。 有没有办法让5个节
我有一个名为 file name(1).zip 的文件(里面有空格和括号),我想把这个文件放在 HDFS 上。但是每次我尝试通过 hadoop fs -put ... 放置它时,我都会遇到异常。 我什
在 5 个节点集群上运行 Presto 大扫描查询,看起来只有一个节点是查询协调器,并通过网络从 5 个 hdfs 节点读取数据。 所有presto进程都在数据节点上运行。 有没有办法让5个节点使用s
所以我在 CentOS 5 上通过 Cloudera Manager cdh3u5 安装了 Hadoop。当我运行 cmd 时 hadoop fs -ls/ 我希望看到 hdfs://localhos
我用命令在hadoop上运行flume flume-ng agent -c conf -f conf/flume-twitter.conf -n TwitterAgent 现在我无法保存推特数据。它显
我使用两台主机(hadoop-coc-1 和 hadoop-coc-2)尝试在其中配置 HDFS 联合。因此,我在两个主机(hadoop-coc-1 和 hadoop-coc-2)中配置了 $ cat
我需要将大量文件从一个 hdfs 目录移动(而不是复制)到同一集群中的另一个 hdfs 目录。 我可以使用 distcp,但它似乎有点矫枉过正,因为它正在复制文件(复制它)我只想移动它。两个问题: A
当我尝试将文件从我的 本地目录 复制到 HDFS 时,出现以下错误: [cloudera@localhost ~]$ hadoop fs -copyFromLocal hello.txt /user/
据我所知,在从一个 HDFS 位置移动到另一个位置时,没有直接选项可以覆盖 HDFS 中的文件,复制 cp 可以选择强制执行。我试图找出是否有任何黑客可以做到这一点? 我们能做的是 hdfs dfs
我有两个 HDFS 设置,想将一些表从 HDFS1 复制(而不是迁移或移动)到 HDFS2。如何将数据从一个 HDFS 复制到另一个 HDFS?是否可以通过 Sqoop 或其他命令行实现? 最佳答案
目前尚不清楚您是否可以像在 Flume 中那样在 Kafka 中进行扇出(复制)。 我想让 Kafka 将数据保存到 HDFS 或 S3,并将该数据的副本发送到 Storm 进行实时处理。 Storm
如何发出 hdfs 命令作为 EMR 集群中的一个步骤?将步骤添加为 script_runner.jar 任务似乎奇怪地失败了。 最佳答案 使用 command-runner.jar 并调出 bash
如何发出 hdfs 命令作为 EMR 集群中的一个步骤?将步骤添加为 script_runner.jar 任务似乎奇怪地失败了。 最佳答案 使用 command-runner.jar 并调出 bash
我是 Hadoop 和 HDFS 的新手,所以当我从本地 (Ubuntu 10.04) 复制到本地主机上单个节点上的 HDFS 时,可能是我做错了什么。初始副本工作正常,但当我修改我的本地输入文件夹并
根据我在 Hadoop HDFS 上的实践,我了解到在创建用户 say u1 并尝试将文件从本地文件系统放入 HDFS 时,它会搜索目录 /user/u1 (默认情况下)对 HDFS 文件系统具有写入
我想将一个 70G 的文件放入 hdfs,所以我使用“put”命令来完成此操作。但是,我得到以下异常。我用相同的命令尝试了小尺寸文件,它有效。有谁知道是什么问题?谢谢! WARN [DataStre
我是一名优秀的程序员,十分优秀!