- mongodb - 在 MongoDB mapreduce 中,如何展平值对象?
- javascript - 对象传播与 Object.assign
- html - 输入类型 ="submit"Vs 按钮标签它们可以互换吗?
- sql - 使用 MongoDB 而不是 MS SQL Server 的优缺点
我需要即时进行 lzma 压缩和解压缩。我正在通过 Qt 中的 qnetworkmanager 接收一个大文件,我需要在数据流下载时对其进行解压缩。
当我收到部分数据流时,我需要将其解压缩,附加到文件中,然后在此过程中释放任何已使用的内存。最好的方法是什么?
现在我正在尝试使用 xz-utils,纯 c api,也许有人可以提出更好的方法?
以下代码基于 this例子
UPD2:
extern "C" void *lz_alloc(void *opaque, size_t nmemb, size_t size)
{
void *p = NULL;
try{
p = new char [size];
}
catch(std::bad_alloc &ba)
{
p = NULL;
}
return p;
}
extern "C" void lz_free(void *opaque, void *ptr)
{
delete [] (char*)ptr;
}
QByteArray lzCompress(QByteArray data)
{
QByteArray arr;
lzma_check check = LZMA_CHECK_CRC64;
lzma_stream strm = LZMA_STREAM_INIT; /* alloc and init lzma_stream struct */
lzma_allocator al;
al.alloc = lz_alloc;
al.free = lz_free;
strm.allocator = &al;
byte *in_buf;
byte out_buf [OUT_BUF_MAX];
size_t in_len; /* length of useful data in in_buf */
size_t out_len; /* length of useful data in out_buf */
lzma_ret ret_xz;
/* initialize xz encoder */
ret_xz = lzma_easy_encoder (&strm, 9 | LZMA_PRESET_EXTREME, check);
if (ret_xz != LZMA_OK) {
return QByteArray();
}
in_len = data.size();
in_buf = (byte*)data.data();
strm.next_in = in_buf;
strm.avail_in = in_len;
do {
strm.next_out = out_buf;
strm.avail_out = OUT_BUF_MAX;
ret_xz = lzma_code (&strm, LZMA_FINISH);
out_len = OUT_BUF_MAX - strm.avail_out;
arr.append((char*)out_buf, out_len);
out_buf[0] = 0;
} while (strm.avail_out == 0);
lzma_end (&strm);
return arr;
}
我已经睡了几个小时,现在我想得更清楚了,修复了我的错误代码,更新了它(它的行为就像 qCompress 一样)
UPD3:
解压代码(qUncompress like behavior)
QByteArray lzUncompress(QByteArray data)
{
lzma_stream strm = LZMA_STREAM_INIT; /* alloc and init lzma_stream struct */
const uint32_t flags = LZMA_TELL_UNSUPPORTED_CHECK | LZMA_CONCATENATED;
const uint64_t memory_limit = UINT64_MAX; /* no memory limit */
byte *in_buf;
uint8_t out_buf [OUT_BUF_MAX];
size_t in_len; /* length of useful data in in_buf */
size_t out_len; /* length of useful data in out_buf */
lzma_ret ret_xz;
QByteArray arr;
ret_xz = lzma_stream_decoder (&strm, memory_limit, flags);
if (ret_xz != LZMA_OK) {
return QByteArray();
}
in_len = data.size();
in_buf = (byte*)data.data();
strm.next_in = in_buf;
strm.avail_in = in_len;
do {
strm.next_out = out_buf;
strm.avail_out = OUT_BUF_MAX;
ret_xz = lzma_code (&strm, LZMA_FINISH);
out_len = OUT_BUF_MAX - strm.avail_out;
arr.append((char*)out_buf, out_len);
out_buf[0] = 0;
} while (strm.avail_out == 0);
lzma_end (&strm);
return arr;
}
UPD4:
基本的流解压类,下面的代码只是解压从http服务器下载的xz流,正是我需要的:
class lz_stream_decompressor : public QObject
{
Q_OBJECT
public:
lz_stream_decompressor(QNetworkReply *r, QNetworkAccessManager *q, const QString &str, unsigned long sz): flags(LZMA_TELL_UNSUPPORTED_CHECK | LZMA_CONCATENATED), memory_limit(UINT64_MAX), state(0), total_upd_size(sz)
{
repl = r;
qnm = q;
path = str;
strm.next_in = NULL;
strm.avail_in = 0;
strm.total_in = 0;
strm.next_out = NULL;
strm.avail_out = 0;
strm.total_out = 0;
strm.allocator = NULL;
strm.internal = NULL;
strm.reserved_ptr1 = NULL;
strm.reserved_ptr2 = NULL;
strm.reserved_ptr3 = NULL;
strm.reserved_ptr4 = NULL;
strm.reserved_int1 = 0;
strm.reserved_int2 = 0;
strm.reserved_int3 = 0;
strm.reserved_int4 = 0;
strm.reserved_enum1 = LZMA_RESERVED_ENUM;
strm.reserved_enum2 = LZMA_RESERVED_ENUM;
ret_xz = lzma_stream_decoder (&strm, memory_limit, flags);
if (ret_xz != LZMA_OK)
{
state = -1;
repl->abort();
}
else
{
connect(repl, SIGNAL(downloadProgress(qint64,qint64)), SLOT(handle_new_data(qint64,qint64)));
connect(q, SIGNAL(finished(QNetworkReply*)), SLOT(compressed_file_request_finished(QNetworkReply*)));
QFile(path).rename(path + ".tmp");
}
}
~lz_stream_decompressor()
{
/* if(repl)
delete repl; */
lzma_end (&strm);
}
const short get_state()
{
return state;
}
signals:
void finished();
public slots:
void handle_new_data(qint64 bytesReceived, qint64 bytesTotal);
void compressed_file_request_finished(QNetworkReply*);
private:
QNetworkReply *repl;
QNetworkAccessManager *qnm;
lzma_stream strm;
const uint32_t flags;
const uint64_t memory_limit; /* no memory limit */
short state;
byte *in_buf;
byte out_buf [OUT_BUF_MAX];
size_t in_len; /* length of useful data in in_buf */
size_t out_len; /* length of useful data in out_buf */
lzma_ret ret_xz;
QString path;
unsigned long &total_upd_size;
};
和实现:
void lz_stream_decompressor::handle_new_data(qint64 bytesReceived, qint64 bytesTotal)
{
if(repl->error() != QNetworkReply::NoError)
{//TODO: handle error here
QFile(path).remove();
QFile(path + ".tmp").rename(path);
return;
}
total_upd_size -= repl->bytesAvailable();
QByteArray data = repl->readAll();
in_len = data.size();
in_buf = (byte*)data.data();
strm.next_in = in_buf;
strm.avail_in = in_len;
do {
strm.next_out = out_buf;
strm.avail_out = OUT_BUF_MAX;
ret_xz = lzma_code (&strm, LZMA_RUN);
out_len = OUT_BUF_MAX - strm.avail_out;
QFile file(path);
if(file.open(QIODevice::WriteOnly | QIODevice::Append))
{
file.write(QByteArray((char*)out_buf, (int)out_len));
file.close();
}
out_buf[0] = 0;
} while (strm.avail_out == 0);
}
void lz_stream_decompressor::compressed_file_request_finished(QNetworkReply* repl)
{
if(repl->error() != QNetworkReply::NoError)
{//TODO: handle error here
QFile(path).remove();
QFile(path + ".tmp").rename(path);
emit finished();
return;
}
total_upd_size -= repl->bytesAvailable();
QByteArray data = repl->readAll();
in_len = data.size();
in_buf = (byte*)data.data();
strm.next_in = in_buf;
strm.avail_in = in_len;
do {
strm.next_out = out_buf;
strm.avail_out = OUT_BUF_MAX;
ret_xz = lzma_code (&strm, LZMA_FINISH);
out_len = OUT_BUF_MAX - strm.avail_out;
QFile file(path);
if(file.open(QIODevice::WriteOnly | QIODevice::Append))
{
file.write(QByteArray((char*)out_buf, (int)out_len));
file.close();
}
out_buf[0] = 0;
} while (strm.avail_out == 0);
repl->deleteLater();
QFile(path + ".tmp").remove();
emit finished();
}
所有这些都基于第一个链接中的示例,您需要用您的代码替换注释的代码部分,以对未压缩的数据执行某些操作。
我希望看到对此代码的任何建议
您还需要将“compressed_file_request_finished”插槽连接到 qnetworkmanager 的完成信号以完成未压缩数据。
UPD5:
修复了 lzCompress 和 lzUncompress,现在看起来工作正常,不确定在 handle_new_data 中使用 LZMA_FULL_FLUSH,因为我读到这是我需要的,但仍然不确定,现在我正在调整现有代码以使用它...
UPD6:
你还需要这样的东西:
/* read/write buffer sizes */
#define IN_BUF_MAX 409600
#define OUT_BUF_MAX 409600
/* analogous to xz CLI options: -0 to -9 */
#define COMPRESSION_LEVEL 7
/* boolean setting, analogous to xz CLI option: -e */
#define COMPRESSION_EXTREME true
在此代码的可见范围内。
UPD7:
更新的代码,所有测试和工作,我发现 liblzma 不是完全线程安全的,我试图对文件列表进行多线程压缩。而且它经常崩溃。
最佳答案
在此页面上,您将找到 lzma SDK,它提供不同语言的源代码和一些二进制文件:http://www.7-zip.org/sdk.html
您有两种解决方案:
关于C++ lzma分部压缩和解压大流,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/6486745/
这个问题在这里已经有了答案: Why filter() after flatMap() is "not completely" lazy in Java streams? (8 个答案) 关闭 6
我正在创建一个应用程序来从 Instagram 收集数据。我正在寻找像 Twitter 流 API 这样的流 API,这样我就可以自动实时收集数据而无需发送请求。 Instagram 有类似的 API
我正在使用 Apache Commons 在 Google App Engine 中上传一个 .docx 文件,如此链接中所述 File upload servlet .上传时,我还想使用 Apach
我尝试使用 DynamoDB 流和 AWS 提供的 Java DynamoDB 流 Kinesis 适配器捕获 DynamoDB 表更改。我正在 Scala 应用程序中使用 AWS Java 开发工具
我目前有一个采用 H.264 编码的 IP 摄像机流式视频 (RTSP)。 我想使用 FFmpeg 将此 H.264 编码流转换为另一个 RTSP 流,但 MPEG-2 编码。我该怎么做?我应该使用哪
Redis 流是否受益于集群模式?假设您有 10 个流,它们是分布在整个集群中还是都分布在同一节点上?我计划使用 Redis 流来实现真正的高吞吐量(200 万条消息/秒),所以我担心这种规模的 Re
这件事困扰了我一段时间。 所以我有一个 Product 类,它有一个 Image 列表(该列表可能为空)。 我想做 product.getImages().stream().filter(...) 但
是否可以使用 具有持久存储的 Redis 流 还是流仅限于内存数据? 我知道可以将 Redis 与核心数据结构的持久存储一起使用,但我已经能够理解是否也可以使用 Redis 中的流的持久存储。 最佳答
我开始学习 Elixir 并遇到了一个我无法轻松解决的挑战。 我正在尝试创建一个函数,该函数接受一个 Enumerable.t 并返回另一个 Enumerable.t ,其中包含下 n 个项目。它与
我试图从 readLine 调用创建一个无限的字符串流: import java.io.{BufferedReader, InputStreamReader} val in = new Buffere
你能帮我使用 Java 8 流 API 编写以下代码吗? SuperUser superUser = db.getSuperUser; for (final Client client : super
我正在尝试服用补品routeguide tutorial,并将客户端变成rocket服务器。我只是接受响应并将gRPC转换为字符串。 service RouteGuide { rpc GetF
流程代码可以是run here. 使用 flow,我有一个函数,它接受一个键值对对象并获取它的值 - 它获取的值应该是字符串、数字或 bool 值。 type ValueType = string
如果我有一个函数返回一个包含数据库信息的对象或一个空对象,如下所示: getThingFromDB: async function(id:string):Promise{ const from
我正在尝试使用javascript api和FB.ui将ogg音频文件发布到流中, 但是我不知道该怎么做。 这是我给FB.ui的电话: FB.ui( { method: '
我正在尝试删除工作区(或克隆它以使其看起来像父工作区,但我似乎两者都做不到)。但是,当我尝试时,我收到此消息:无法删除工作区 test_workspace,因为它有一个非空的默认组。 据我所知,这意味
可以使用 Stream|Map 来完成此操作,这样我就不需要将结果放入外部 HashMap 中,而是使用 .collect(Collectors.toMap(...)); 收集结果? Map rep
当我们从集合列表中获取 Stream 时,幕后到底发生了什么?我发现很多博客都说Stream不存储任何数据。如果这是真的,请考虑代码片段: List list = new ArrayList(); l
我对流及其工作方式不熟悉,我正在尝试获取列表中添加的特定对象的出现次数。 我找到了一种使用Collections来做到这一点的方法。其过程如下: for (int i = 0; i p.conten
我希望将一个 map 列表转换为另一个分组的 map 列表。 所以我有以下 map 列表 - List [{ "accId":"1", "accName":"TestAcc1", "accNumber
我是一名优秀的程序员,十分优秀!