javascript - NodeJS - 请求文件并将其压缩

Question

我目前正在为我的个人网站创建 REST API。我想包括一些下载，我想提供选择多个下载并将它们下载为 zip 文件的可能性。我的第一种方法非常简单:带有 url 的数组，请求每个 url，压缩它，发送给用户，删除。但是，我认为这种方法太脏了，因为周围有像流这样的东西似乎很适合这个东西。

现在，我四处尝试，目前正在努力解决在不同范围内处理流和事件的基本概念。

以下有效:

const r = request(url, options);
r.on('response', function(res) {
    res.pipe(fs.createWriteStream('./file.jpg'));
});

根据我的理解，在这种情况下 r 是一个传入流，我会监听它的响应事件，一旦它发生，我就会将它通过管道传输到一个流，我用它来写入文件系统。

我的第一步是重构它，使其更适合我的情况，但我在这里已经失败了:

async function downloadFile(url) {
    return request({ method: 'GET', uri: url });
}

现在我想使用一个调用不同 url 的“downloadFile()”的函数，并再次使用 createWriteStream() 将所有这些文件保存到磁盘:

const urls = ['https://download1', 'https://download2', 'https://download3'];
urls.forEach(element => {
    downloadFile(element).then(data => {
        data.pipe(fs.createWriteStream('file.jpg'));
    });
});

使用调试器我发现数据对象中不存在“响应”事件——也许这已经是问题所在了？此外，我认为 data.body 包含我下载的文档(在本例中为 pdf)的字节，所以我想知道是否可以将其流式传输到其他地方？

在阅读了一些 stackoveflow 线程后，我发现了以下模块:archiver

正在阅读此线程:Dynamically create and stream zip to client

@dankohn 建议采用这样的方法:

archive
  .append(fs.createReadStream(file1), { name: 'file1.txt' })
  .append(fs.createReadStream(file2), { name: 'file2.txt' });

让我假设我需要能够从我的数据对象中提取流才能继续。

我是走错了路还是从根本上犯了错误？

编辑:lmao 感谢您解决我的问题，我不知道发生了什么

Answer 1

使用存档器似乎是一种有效的方法，但是在将大量数据从网络输入到 zip 存档时，建议使用流。否则，整个存档数据将需要保存在内存中。

archiver 不支持从流中添加文件，但是 zip-stream做。要从网络上读取流，request派上用场。

例子

// npm install -s express zip-stream request

const request = require('request');
const ZipStream = require('zip-stream');
const express = require('express');

const app = express();

app.get('/archive.zip', (req, res) => {
    var zip = new ZipStream()
    zip.pipe(res);

    var stream = request('https://loremflickr.com/640/480')
    zip.entry(stream, { name: 'picture.jpg' }, err => {
        if(err)
            throw err;          
    })

    zip.finalize()
});

app.listen(3000)

更新:使用多个文件的例子

在zip.entry()的回调函数中添加递归处理下一个文件的例子。

app.get('/archive.zip', (req, res) => {
    var zip = new ZipStream()
    zip.pipe(res);

    var queue = [
        { name: 'one.jpg', url: 'https://loremflickr.com/640/480' },
        { name: 'two.jpg', url: 'https://loremflickr.com/640/480' },
        { name: 'three.jpg', url: 'https://loremflickr.com/640/480' }
    ]

    function addNextFile() {
        var elem = queue.shift()
        var stream = request(elem.url)
        zip.entry(stream, { name: elem.name }, err => {
            if(err)
                throw err;
            if(queue.length > 0)
                addNextFile()
            else
                zip.finalize()
        })
    }

    addNextFile()
})