java - 无法从返回重定向的 URL 下载文件

Question

我正在尝试将一组文件从远程服务器下载到本地文件。

这应该非常简单，我尝试了两种不同的方法，但每种方法都有优点和缺点。

第一种方法 - Apache HttpGet/CloseableHttpResponse

CloseableHttpClient closeableHttpClient = HttpClients.createDefault();

URL encodeUrl = new URL(UriUtils.encodePath(documentUrl, StandardCharsets.UTF_8.name()));

File file = new File(tmpdir + File.separator + FilenameUtils.getName(doc.getDocumentURL()));

HttpGet httpget = new HttpGet(encodeUrl.toString());

HttpEntity entity = null;

try(CloseableHttpResponse response = closeableHttpClient.execute(httpget) {

    entity = response.getEntity();

    FileUtils.copyInputStreamToFile(entity.getContent(), file);

} finally {
    EntityUtils.consumeQuietly(entity);
}

第二种方法 - FileUtils.copyURLToFile

URL encodeUrl = new URL(UriUtils.encodePath(documentUrl, StandardCharsets.UTF_8.name()));

String filename = FilenameUtils.getName(documentUrl);

File file = new File(tmpdir + File.separator + filename);

FileUtils.copyURLToFile(encodeUrl, file, 10000, 30000);

这两种方法我都遇到问题。

<强>1。使用 Apache HttpGet/CloseableHttpResponse:

某些 URL 的名称中包含空格甚至奇怪的字符，例如:

http://download-service/文档编号 2015 .pdf

所有名称正确的文件都会正确下载，但名称不正确的文件会出现此错误:

org.apache.http.client.ClientProtocolException: null
        ...
Caused by: org.apache.http.ProtocolException: Invalid redirect URI: http://download-service/Document Number 2015 .pdf
        at org.apache.http.impl.client.DefaultRedirectStrategy.createLocationURI(DefaultRedirectStrategy.java:200) ~[httpclient-4.5.5.jar:4.5.5]
        at org.apache.http.impl.client.DefaultRedirectStrategy.getLocationURI(DefaultRedirectStrategy.java:148) ~[httpclient-4.5.5.jar:4.5.5]
        at org.apache.http.impl.client.DefaultRedirectStrategy.getRedirect(DefaultRedirectStrategy.java:221) ~[httpclient-4.5.5.jar:4.5.5]
        at org.apache.http.impl.execchain.RedirectExec.execute(RedirectExec.java:122) ~[httpclient-4.5.5.jar:4.5.5]
        at org.apache.http.impl.client.InternalHttpClient.doExecute(InternalHttpClient.java:185) ~[httpclient-4.5.5.jar:4.5.5]
        ... 108 common frames omitted
Caused by: java.net.URISyntaxException: Illegal character in path at index 48: http://download-service/Document Number 2015 .pdf
        at java.net.URI$Parser.fail(URI.java:2848) ~[na:1.8.0_131]
        at java.net.URI$Parser.checkChars(URI.java:3021) ~[na:1.8.0_131]
        at java.net.URI$Parser.parseHierarchical(URI.java:3105) ~[na:1.8.0_131]
        at java.net.URI$Parser.parse(URI.java:3053) ~[na:1.8.0_131]
        at java.net.URI.<init>(URI.java:588) ~[na:1.8.0_131]
        at org.apache.http.impl.client.DefaultRedirectStrategy.createLocationURI(DefaultRedirectStrategy.java:189) ~[httpclient-4.5.5.jar:4.5.5]
        ... 112 common frames omitted

<强>2。使用 FileUtils.copyURLToFile:

在这种情况下，不会发生上述错误，所有文件似乎都已正确下载，但所有文件都是空的。

我已阅读有关这两种方法的文档，但我无法理解这两种方法的失败原因。

Answer 1

我研究了以下错误，并开始怀疑该问题可能与服务器执行的重定向有关:

Caused by: org.apache.http.ProtocolException: Invalid redirect URI:

因此，我创建了一个 CustomRedirectStrategy，它将在重定向上执行 URI 编码:

public class CustomRedirectStrategy extends DefaultRedirectStrategy {

    @Override
    public URI getLocationURI(HttpRequest request, HttpResponse response, HttpContext context) throws ProtocolException {
        try {
            String uri = response.getFirstHeader("location").getValue();
            URL url = new URL(uri);
            return new URI(url.getProtocol(), url.getUserInfo(), url.getHost(), url.getPort(), url.getPath(), url.getQuery(), url.getRef());
        } catch (Exception ex){
            throw new ProtocolException(ex.getMessage());
        }
    }
}

他们将此策略应用于 CloseableHttpClient:

CloseableHttpClient client = HttpClients.custom().setRedirectStrategy(new CustomRedirectStrategy()).build();

通过此更改，现在所有文件都已正确下载。