hadoop - ambari-agent 不再能够联系位于 http ://:8440? 的服务器

Question

我们目前正在运行 Hortonworks 2.6.5.0:

$ hadoop version
Hadoop 2.7.3.2.6.5.0-292
Subversion git@github.com:hortonworks/hadoop.git -r 3091053c59a62c82d82c9f778c48bde5ef0a89a1
Compiled by jenkins on 2018-05-11T07:53Z
Compiled with protoc 2.5.0
From source with checksum abed71da5bc89062f6f6711179f2058
This command was run using /usr/hdp/2.6.5.0-292/hadoop/hadoop-common-2.7.3.2.6.5.0-292.jar

操作系统为CentOS 7:

$ cat /etc/redhat-release
CentOS Linux release 7.5.1804 (Core)

我们最近开始在 ambari-agent 的日志文件中注意到这些问题:

$ grep -i "error|warn" /var/log/ambari-agent/*
/var/log/ambari-agent/ambari-agent.log:WARNING 2018-07-30 14:03:50,982 NetUtil.py:124 - Server at https://hbase26-2.mydom.com:8440 is not reachable, sleeping for 10 seconds...
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:00,986 NetUtil.py:96 - EOF occurred in violation of protocol (_ssl.c:579)
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:00,990 NetUtil.py:97 - SSLError: Failed to connect. Please check openssl library versions.
/var/log/ambari-agent/ambari-agent.log:WARNING 2018-07-30 14:04:00,990 NetUtil.py:124 - Server at https://hbase26-2.aa.mydom.com:8440 is not reachable, sleeping for 10 seconds...
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:10,993 NetUtil.py:96 - EOF occurred in violation of protocol (_ssl.c:579)
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:10,994 NetUtil.py:97 - SSLError: Failed to connect. Please check openssl library versions.
/var/log/ambari-agent/ambari-agent.log:WARNING 2018-07-30 14:04:10,994 NetUtil.py:124 - Server at https://hbase26-2.aa.mydom.com:8440 is not reachable, sleeping for 10 seconds...
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:20,996 NetUtil.py:96 - EOF occurred in violation of protocol (_ssl.c:579)
/var/log/ambari-agent/ambari-agent.log:ERROR 2018-07-30 14:04:20,997 NetUtil.py:97 - SSLError: Failed to connect. Please check openssl library versions.

当这些开始发生时，我们无法再通过 Ambari 管理 Hadoop 集群的任何方面。所有的服务都出现了黄色的小问号和“heartbeat lost”。

多次重启将不允许我们恢复 Ambari，并最终重新控制我们的集群。

Answer 1

这个问题原来是由于服务器在尝试连接到端口 8440 上的 CA 服务时无法处理 TLSv1.1 证书。

我们注意到该服务实际上正在运行:

$ netstat -tapn|grep 8440
tcp        0      0 0.0.0.0:8440            0.0.0.0:*               LISTEN      1203/java

但是 curl 将失败，除非我们通过 --insecure 开关禁用 TLS 检查。这是我们的第一个线索，它似乎与 TLS 相关。

进一步的调查使我们找到了 NetUtil.py(Ambari 的一部分)，它似乎没问题。其他线索包括:

$ cat /etc/ambari-agent/conf/ambari-agent.ini
...
[security]
ssl_verify_cert = 0
...

还有这个:

$ grep -E '\[https|verify' /etc/python/cert-verification.cfg
[https]
#verify=platform_default
verify=disable

这些都不起作用。最终起作用的是，强制 ambari-agent 使用 TLSv1.2 与 TLS1.1:

$ grep -E "\[security|force" /etc/ambari-agent/conf/ambari-agent.ini
[security]
force_https_protocol=PROTOCOL_TLSv1_2

然后重启，ambari-agent restart。

我能够使用散布在 Internet 上的一缕缕提示将这一切拼凑在一起。我把它放在这里是希望它能帮助任何其他遇到这种情况的 Hadoop/Hortonworks 集群的可怜人。

引用资料

• Ambari agent- [SSL: CERTIFICATE_VERIFY_FAILED] certificate verify failed
• Java/Python Updates and Ambari Agent TLS Settings
• Openssl error upon host registration
• Cleaning up Ambari Metrics System Data

为什么会这样？

进一步调试/挖掘我发现这个标题为:Disabling TLSv1 & TLS1.1 - Enabling TLSv1.2 的线程.显然，您现在必须将 Ambari 代理配置为使用 TLSv1.2。