python - 如何使用 struct.unpack 将 POpen 的输出作为流处理？

Question

这个问题已经有答案了:

已关闭 10 年前。

Possible Duplicate:
subprocess.Popen.stdout - reading stdout in real-time, again!

我正在处理二进制文件的输出，但我使用临时字符串来表示输出。由于理论上输出可能相当大，因此我更愿意使用 unpack 或 unpack_from 将输出作为流处理。

代码是这样的:

file = '/home/t/FinancialData/GBPUSD/2007/05/01/20070501_01h_ticks.bi5';
command = ('lzma', '-kdc', '-S', 'bi5', file);
p = subprocess.Popen(command, stdout=subprocess.PIPE);
out, err = p.communicate();
for s in (out[x:x+20] for x in range(0, len(out), 20)):
    values = struct.unpack(">3L2f", s)
    with open(csvfilename, 'wb') as csvfile:
        csvwriter = csv.writer(csvfile, delimiter=',',
                               quotechar='|', quoting=csv.QUOTE_MINIMAL)
        csvwriter.writerow(values);

有没有办法重写它，这样它就不必将整个输出存储在 out 中，而是将其作为流处理？

Answer 1

您可以在 stdout 属性周围放置一个 select 调用Popen 对象并轮询直到进程完成。例如:

from subprocess import Popen, PIPE
from select import select

cmd = ('lzma', '-kdc', '-S', 'bi5', 'path/to/datafile')
p = Popen(cmd, stdout=PIPE)

while p.poll() == None:
    r,w,e = select([p.stdout], [], [])
    if r:
        data = p.stdout.read(512)
        # unpack and append to csv file ...

干杯，