个人中心
gpt4 book ai didi

mysql - createWriteStream 创建空文件，完成事件(在 stream.Writable 中)不触发

转载 作者：可可西里 更新时间：2023-11-01 09:04:09 29 4
gpt4 key购买 nike

编辑 2:我认为，这可能是该主题与此链接中的其他主题之间的关系: https://stackoverflow.com/questions/34600126/在该链接中，我将所有图像的 url 存储在一个文件中，并尝试通过 node.js 读取它们并下载它们，但我在某些文件上遇到了超时错误，(不是大多数文件)

我有一些 html，其中包含 mySql 数据库中每个 html 文件中的一些图像，我用 Node.Js 编写了一个脚本来获取 html 文件，还获取图像并将它们下载到本地(图像是远程 url，比如http://myServer/whmis_d2.gif ) ，我使用 createWriteStream ，它会创建图像文件，但它们是空文件。我想问题是下载时文件没有关闭，我尝试使用完成事件，但我注意到完成事件没有启动。我的目标是搜索 html 内容并将带有远程 url 的图像下载到我的本地计算机。将不胜感激，这是我的代码:谢谢!

这里我放了所有的代码，但是路径是硬编码的，你需要用你的本地路径来改变，

#!/usr/bin/env node
"use strict";

// dependencies
// npm install mysql
// npm install cheerio

var fs = require('fs');

var mysql = require('mysql');
var cheerio = require('cheerio');
var path = require('path');
var _ = require('underscore');

var async = require('async');
var url = require('url');
var request = require('request');


var lunr = require(__dirname + '/lunr.js');

var db = null;
var myTable = {};
var lunr_index = null;

var open_db = function (callback) {
  var mysql_conf = {
        host: "myHose",
        user: "myUser",
        password: "MyPass",
        database: "MyServer" 
          };
  db = mysql.createConnection(mysql_conf);
  db.connect(function (error) {
    if (error) {
      exit_with_error('problem connecting to database: ' + error);
    }
    callback();
  });
};

  var ensure_directory_exists = function (directory) {
    var directories = _.reduce(directory.split('/').slice(1), function (memo, subdir, index) {
      memo.push(path.normalize(memo[index] + '/' + subdir));
      return memo;
    }, ['/']);
    _.each(directories, function (subdir) {
      if (!fs.existsSync(subdir)) {
        fs.mkdirSync(subdir);
      }
    });
  };

var get_myosh = function (callback) {
  var make_full_markup = function (text) {
  return text;

  };

  var get_images = function (text) {

                     var $ = null;
                      $ = cheerio.load(text, {decodeEntities: false});

                      $('img').each(function (i, img) {
              var img_url = $(img).attr('src');
              var img_src = path.basename(img_url);


        console.log('requesting image ' + img_url + ' ...');
        ensure_directory_exists(path.dirname('/Users/Documents/documents/'));

var file = fs.createWriteStream(img_src);
var stream = request(img_url).pipe(file);


 file.on('finish', function () { 
     // this finish event seems not fire at all     
console.log('finish streaming' + img_src);
             file.close();
 });

           });

  }


  db.query('SELECT path,title,qatext FROM myTable', function (error, results) {
    var $ = null;
    if (error) {
      exit_with_error('problem reading from database: ' + error);
    }
    for (var i in results) {
      $ = cheerio.load('<template>' + results[i].qatext.replace(/<\//g, ' </') + '</template>');
      myTable[results[i].path] = {
        title: results[i].title,
        summary: $('template').text().trim().replace(/\s{2,}/g, '  '),
         images : get_images(results[i].qatext),
        full_markup: make_full_markup(results[i].qatext)

      };

    }
  callback();
  });

};

var build_content = function (callback) {

  for (var id in myTable) {

    ensure_directory_exists(path.dirname('/Users/Documents/documents/' + id));
    fs.writeFileSync('/Users/Documents/documents/' + id, myTable[id].full_markup);

    console.log('indexed %s', id);
  }

  callback();
};

var close_db = function () {
  try {
    db.end();
  } catch (e) {
  }
};

var exit_with_error = function (error) {
  console.log('\nERROR : %s\n', error);
  process.exit(-1);
};

open_db(function () {
  get_myosh(function () {
    build_content(function () {
      close_db();
      process.exit(0);
    });
});
});

我还放置了一个从 mysql 数据库中获取的 html 文件内容。 html文本和h​​tml文件名和html文件相对路径，存储在mysql的表中，我们不仅有一个html，我们有一堆，所以目标是搜索html文件，并下载img文件(是 href 图片链接)到本地计算机。

<!DOCTYPE html>
<html>
<head>
<meta content="text/html;charset=utf-8" http-equiv="Content-Type">
<meta content="utf-8" http-equiv="encoding">
<meta name = "viewport" content = "width = device-width">
<style type="text/css">
body {
font-family: '-apple-system-font', 'San Francisco', 'Helvetica Neue', 'Helvetica', 'Arial', 'Verdana', 'sans-serif';
margin-left:10px; margin-right:0px; margin-top:0px; margin-bottom:0px;}
</style>
</head>
<body><a name="_1_1"></a><div class="center"><img src="http://images.ccohs.ca/oshanswers/whmis_b.gif" width="108" height="106" alt="Symbol for Class B" /><br />Class B2</div><div class="center"><img src="http://images.ccohs.ca/oshanswers/whmis_d2.gif" width="108" height="107" alt="Symbol for Class D2" /><br />Class D2B</div><br /><a name="_1_3"></a><a name="_1_4"></a>
</body>
</html>

最佳答案

您不需要手动关闭 WriteStream，管道就足够了。可能存在互联网访问问题——您是否检查了请求响应状态？您没有向 img_src 添加路径，因此它应该根据环境尝试将文件写入您的 home/process 目录。只是为了简化您的代码并减少可能的错误，使用 mkdirp 模块在一行中创建子文件夹链。和 here是一个很好的答案如何检查目录是否存在。

关于mysql - createWriteStream 创建空文件，完成事件(在 stream.Writable 中)不触发，我们在Stack Overflow上找到一个类似的问题： https://stackoverflow.com/questions/34516637/

29 4 0
文章推荐： mysql - 是否可以在 MySQL 中设置多个自动 TIMESTAMP 列以跟踪每一列中所做的更改？
文章推荐： c# - Entity Framework 6.1.0 SaveChangesAsync
文章推荐： java - Android WiFi 接入点可用事件
文章推荐： c# - 并行使用 Effort 和 SQL CE 进行单元测试失败
可可西里
个人简介

我是一名优秀的程序员,十分优秀！

滴滴打车优惠券免费领取
滴滴打车优惠券
Copyright 2021 - 2024 cfsdn All Rights Reserved 蜀ICP备2022000587号
广告合作:1813099741@qq.com 6ren.com