gpt4 book ai didi

networking - 网络流量嗅探时有什么办法可以过滤Hadoop数据包吗?

转载 作者:可可西里 更新时间:2023-11-01 02:34:45 26 4
gpt4 key购买 nike

我的目标是识别与 Hadoop 集群相关的网络数据包,因为在我使用的集群中还有其他服务产生与 Hadoop 无关的网络流量。
我假设我的 Hadoop 集群唯一使用 HDFS 和 MapReduce,而不是其他应用程序,如 HBase、Pig、Hive 等...
有没有办法过滤Hadoop数据包?例如,如果 Hadoop 使用固定源或目标端口(至少一个,源或目标)

更新:我正在使用 Apache Hadoop 1.0.3 和 libpcap 来嗅探数据包

最佳答案

我不确定您使用的是哪个 Hadoop 发行版,或者哪个数据包嗅探器,但您应该能够在这里采用几种不同的方法。

假设您正在使用 Hadoop 服务的默认端口,您应该能够为 NameNode 和 DataNode 流量以及 JobTracker/TaskTracker 指定目标端口。 This link由 Cloudera 发布,但它们使用与 Hortonworks 或任何其他 Apache Hadoop 发行版相同的默认端口,因此该信息应该适用于您的用例。

此外,Wireshark似乎有一个 HDFS 协议(protocol) dissector ,这意味着它应该是开箱即用的类型之一。如果您不熟悉 Wireshark 作为网络数据包分析器,我建议您检查一下。

希望这对您有所帮助 - 祝您好运!

关于networking - 网络流量嗅探时有什么办法可以过滤Hadoop数据包吗?,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/18310136/

26 4 0
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com