Python 扭曲 : Reverse Proxy to HTTPS API: Could not connect

Question

我正在尝试构建一个反向代理来与某些 API(如 Twitter、Github、Instagram)对话，然后我可以使用我的反向代理调用我想要的任何(客户端)应用程序(将其视为 API -经理)。

此外，我正在使用 LXC 容器来执行此操作。

例如，这是我从 Twisted Docs 上的示例中破解的最简单的代码:

from twisted.internet import reactor
from twisted.web import proxy, server
from twisted.python.log import startLogging
from sys import stdout
startLogging(stdout)

site = server.Site(proxy.ReverseProxyResource('https://api.github.com/users/defunkt', 443, b''))
reactor.listenTCP(8080, site)
reactor.run()

当我在容器内执行 CURL 操作时，我得到了一个有效请求(意味着我得到了适当的 JSON 响应)。

这是我使用 CURL 命令的方式:

curl https://api.github.com/users/defunkt

这是我得到的输出:

{
  "login": "defunkt",
  "id": 2,
  "avatar_url": "https://avatars.githubusercontent.com/u/2?v=3",
  "gravatar_id": "",
  "url": "https://api.github.com/users/defunkt",
  "html_url": "https://github.com/defunkt",
  "followers_url": "https://api.github.com/users/defunkt/followers",
  "following_url": "https://api.github.com/users/defunkt/following{/other_user}",
  "gists_url": "https://api.github.com/users/defunkt/gists{/gist_id}",
  "starred_url": "https://api.github.com/users/defunkt/starred{/owner}{/repo}",
  "subscriptions_url": "https://api.github.com/users/defunkt/subscriptions",
  "organizations_url": "https://api.github.com/users/defunkt/orgs",
  "repos_url": "https://api.github.com/users/defunkt/repos",
  "events_url": "https://api.github.com/users/defunkt/events{/privacy}",
  "received_events_url": "https://api.github.com/users/defunkt/received_events",
  "type": "User",
  "site_admin": true,
  "name": "Chris Wanstrath",
  "company": "GitHub",
  "blog": "http://chriswanstrath.com/",
  "location": "San Francisco",
  "email": "chris@github.com",
  "hireable": true,
  "bio": null,
  "public_repos": 107,
  "public_gists": 280,
  "followers": 15153,
  "following": 208,
  "created_at": "2007-10-20T05:24:19Z",
  "updated_at": "2016-02-26T22:34:27Z"
}

但是，当我尝试使用 Firefox 获取代理时:

http://10.5.5.225:8080/

我得到:“无法连接”

这是我的 Twisted 日志的样子:

2016-02-27 [-] Log opened.

2016-02-27 [-] Site starting on 8080

2016-02-27 [-] Starting factory

2016-02-27 [-] Starting factory

2016-02-27 [-] "10.5.5.225" - - [27/Feb/2016: +0000] "GET / HTTP/1.1" 501 26 "-" "Mozilla/5.0 (X11; Debian; Linux x86_64; rv:44.0) Gecko/20100101 Firefox/44.0"

2016-02-27 [-] Stopping factory

我如何使用 Twisted 进行 API 调用(无论如何现在大多数 API 都是 HTTPS)并获得所需的响应(基本上，“200”响应/JSON 应该是什么)？

我试着看这个问题:Convert HTTP Proxy to HTTPS Proxy in Twisted

但从编码的角度(或提及任何有关反向代理的内容)来看，它并没有多大意义。

**编辑:我还尝试使用以下方式将 HTTPS API 调用切换为常规 HTTP 调用:

curl http[colon][slash][slash]openlibrary[dot]org[slash]authors[slash]OL1A.json

(上面的 URL 已经过格式化以避免链接冲突问题)

但是，我的浏览器仍然出现同样的错误(如上所述)。

**Edit2:我试过运行你的代码，但我得到这个错误:

Error-screenshot

如果您查看图像，您将看到错误(在运行代码时):

builtins.AttributeError: 'str' object has no attribute 'decode'

Answer 1

如果您阅读 API documentation for ReverseProxyResource ，你会看到__init__的签名是:

def __init__(self, host, port, path, reactor=reactor):

并且“host”记录为“要代理的 Web 服务器的主机”。

因此，您正在传递 Twisted 需要主机的 URI。

更糟糕的是，ReverseProxyResource 是为在网络服务器上本地使用而设计的，完全不支持 https:// URLs的盒子。

它确实有一个(非常有限的)可扩展性 Hook - proxyClientFactoryClass - 并且为 ReverseProxyResource 没有你需要的东西而道歉框，我将向您展示如何使用它来扩展 ReverseProxyResource 以添加 https:// 支持，以便您可以使用 GitHub API :)。

from twisted.web import proxy, server
from twisted.logger import globalLogBeginner, textFileLogObserver
from twisted.protocols.tls import TLSMemoryBIOFactory
from twisted.internet import ssl, defer, task, endpoints
from sys import stdout
globalLogBeginner.beginLoggingTo([textFileLogObserver(stdout)])

class HTTPSReverseProxyResource(proxy.ReverseProxyResource, object):
    def proxyClientFactoryClass(self, *args, **kwargs):
        """
        Make all connections using HTTPS.
        """
        return TLSMemoryBIOFactory(
            ssl.optionsForClientTLS(self.host.decode("ascii")), True,
            super(HTTPSReverseProxyResource, self)
            .proxyClientFactoryClass(*args, **kwargs))
    def getChild(self, path, request):
        """
        Ensure that implementation of C{proxyClientFactoryClass} is honored
        down the resource chain.
        """
        child = super(HTTPSReverseProxyResource, self).getChild(path, request)
        return HTTPSReverseProxyResource(child.host, child.port, child.path,
                                         child.reactor)

@task.react
def main(reactor):
    import sys
    forever = defer.Deferred()
    myProxy = HTTPSReverseProxyResource('api.github.com', 443,
                                        b'/users/defunkt')
    myProxy.putChild("", myProxy)
    site = server.Site(myProxy)
    endpoint = endpoints.serverFromString(
        reactor,
        dict(enumerate(sys.argv)).get(1, "tcp:8080:interface=127.0.0.1")
    )
    endpoint.listen(site)
    return forever

如果你运行它，curl http://localhost:8080/ 应该会如你所愿。

我冒昧地对您的 Twisted 代码进行了一些现代化改造； endpoints而不是 listenTCP，logger而不是 twisted.python.log，和 react而不是自己启动 react 器。

末尾奇怪的小 putChild 部分是因为当我们将 b"/users/defunkt" 作为路径传递时，这意味着对 的请求/ 将导致客户端请求 /users/defunkt/(注意尾部斜杠)，这是 GitHub 的 API 中的 404。如果我们明确代理空子段路径，就好像它没有尾随段一样，我相信它会达到您的预期。

请注意:从纯文本 HTTP 代理到加密 HTTPS 可能极其危险，所以我这里添加了一个默认的 localhost-only 监听接口(interface)。如果您的字节通过实际网络传输，您应该确保它们使用 TLS 正确加密。