- html - 出于某种原因,IE8 对我的 Sass 文件中继承的 html5 CSS 不友好?
- JMeter 在响应断言中使用 span 标签的问题
- html - 在 :hover and :active? 上具有不同效果的 CSS 动画
- html - 相对于居中的 html 内容固定的 CSS 重复背景?
我正在 Node.js 中使用 Cheerio。我有一个抓取文章列表的抓取器,抓取所有文章的 URLS,然后转到每篇文章并抓取标题和 url。一切正常,除了当我尝试将结果更新到我的 Mongodb 时,我得到了 undefined。
我假设它在定义值之前尝试更新插入...但即使使用请求-响应我也无法让它工作。任何帮助将不胜感激!由于代码不是太长,我只是粘贴整个代码,以便更容易看到我正在尝试做什么。同样,主要问题是让 upsertArticle
实际更新插入变量。
const request = require('request');
const cheerio = require('cheerio');
const rp = require('request-promise');
const mongoose = require('mongoose');
const Article = require('./models/article');
var urls = [];
//get the list of articles to scrape
rp('https://www.somesite.com/', function(error, response, html) {
if (!error && response.statusCode == 200) {
var $ = cheerio.load(html);
$('.c-entry-box--compact__title').each(function(i, element) {
var a = $(this);
urls.push(a.children().attr('href'));
}); } })
//scrape over each article individually
.then(function(getStuff) {
var arrayLength = urls.length;
//get the list of articles to scrape and upsert each one
for (var i = 0; i < arrayLength; i++) {
const result = rp(urls[i], function(error, response, html) {
if (!error && response.statusCode == 200) {
var $ = cheerio.load(html);
var parsedResults = [];
$('.l-main-content').each(function(n, element) {
var a = $(this);
var title = a.find('.c-page-title').text();
var url = response.request.uri.href;
//I also tried upserting the variables right here, that didn't work
return { title, url };
});
} else {console.log(error);}
}).then(function(upsertStuff) {
//also tried returning and upserting stuff here... but nothing gets upserted
upsertArticle({
title: result.title,
source: result.url,
dateCrawled: new Date()
});
console.log('Upserted ' + result.title);
}).catch(function(err) {console.log(err); }); }
}) .catch(function(err) {console.log(err); });
function upsertArticle(userObj) {
const DB_URL = 'mongodb://localhost/articles';
if (mongoose.connection.readyState == 0) {
mongoose.connect(DB_URL, {
useMongoClient: true
});
}
let conditions = {
title: userObj.title
};
let options = {
upsert: true,
new: true,
setDefaultsOnInsert: true
};
Article.findOneAndUpdate(conditions, userObj, options, (err, result) => {
if (err) throw err;
});
}
最佳答案
我对提供的代码做了一些修改。也就是说,我使用 promises 而不是回调来让您的逻辑保持一致并确保一切都在应有的时间运行。
对于 for
循环,我将 upsertArticle({...})
移回到 each
函数内部,所以title
和 url
是在运行时定义的。
最后,我使用 Bluebird 的 Promise.all
(request-promise
已经依赖于 Bluebird)在所有链接都已更新时发出信号。此更改是可选的,但我认为在完成所有操作后获得反馈会很有用:
试一试:
const request = require('request');
const cheerio = require('cheerio');
const rp = require('request-promise');
const mongoose = require('mongoose');
const Article = require('./models/article');
const Promise = require("bluebird");
var urls = [];
rp({uri: 'https://www.somesite.com', resolveWithFullResponse: true}).then(function(response) {
if(response.statusCode != 200) throw "Response: " + response.statusCode;
var html = response.body;
var $ = cheerio.load(html);
$('.c-entry-box--compact__title').each(function(i, element) {
var a = $(this);
urls.push(a.children().attr('href'));
});
}).then(function(getStuff) {
var arrayLength = urls.length;
var promiseArray = [];
for(var i = 0; i < arrayLength; i++) {
const p = rp({uri: urls[i], resolveWithFullResponse: true}).then(function(response) {
if(response.statusCode != 200) throw "Response: " + response.statusCode;
var html = response.body;
var $ = cheerio.load(html);
var parsedResults = [];
$('.l-main-content').each(function(n, element) {
var a = $(this);
var title = a.find('.c-page-title').text();
var url = response.request.uri.href;
upsertArticle({
title: title,
source: url,
dateCrawled: new Date()
});
console.log('Upserted ' + title);
});
});
promiseArray.push(p);
}
return Promise.all(promiseArray);
}).then(function() {
console.log("Done upserting!");
})
.catch(function(err) {
console.log(err);
});
function upsertArticle(userObj) {
const DB_URL = 'mongodb://localhost/articles';
if (mongoose.connection.readyState == 0) {
mongoose.connect(DB_URL, {
useMongoClient: true
});
}
let conditions = {
title: userObj.title
};
let options = {
upsert: true,
new: true,
setDefaultsOnInsert: true
};
Article.findOneAndUpdate(conditions, userObj, options, (err, result) => {
if (err) throw err;
});
}
我无法在不知道 https://www.somesite.com
的真实值的情况下测试代码,所以如果代码给您带来任何新错误,请告诉我。
关于javascript - 上传 Node 请求-响应响应到 MongoDB,我们在Stack Overflow上找到一个类似的问题: https://stackoverflow.com/questions/47536596/
我正在尝试从该网站抓取历史天气数据: http://www.hko.gov.hk/cis/dailyExtract_uc.htm?y=2016&m=1 在阅读了 AJAX 调用后,我发现请求数据的正确
我有两个 postman 请求 x,y,它们命中了两个不同的休息 api X,Y 中的端点。 x 会给我一个身份验证 token ,这是发出 y 请求所必需的。如何在请求 y 中发出请求 x ?也就是
我使用请求库通过 API 与其他服务器进行通信。但现在我需要同时发送多个(10 个或更多)POST 请求,并且只有在所有响应都正确的情况下才能进一步前进。通常语法看起来有点像这样: var optio
背景:当用户单击按钮时,其类会在class1和class2之间切换,并且此数据是通过 AJAX 提交。为了确认此数据已保存,服务器使用 js 进行响应(更新按钮 HTML)。 问题:如果用户点击按钮的
我正在将 Node.js 中的请求库用于 Google 的文本转语音 API。我想打印出正在发送的请求,如 python example . 这是我的代码: const request = requi
我经常使用requests。最近我发现还有一个 requests2 和即将到来的 requests3 虽然有一个 page其中简要提到了 requests3 中的内容,我一直无法确定 requests
我正在尝试将图像发送到我的 API,然后从中获取结果。例如,我使用发送一个 bmp 图像文件 file = {"img": open("img.bmp)} r = requests.post(url,
我发现 Google Cloud 确保移出其物理环境的任何请求都经过强制加密,请参阅(虚拟机到虚拟机标题下的第 6 页)this link Azure(和 AWS)是否遵循类似的程序?如果有人能给我指
我有一个 ASP.NET MVC 应用程序,我正在尝试在 javascript 函数中使用 jQuery 来创建一系列操作。该函数由三部分组成。 我想做的是:如果满足某些条件,那么我想执行同步 jQu
我找不到如何执行 get http 请求,所以我希望你们能帮助我。 这个想法是从外部url(例如 https://api.twitter.com/1.1/search/tweets.json?q=tw
我的应用只需要使用“READ_SMS”权限。我的问题是,在 Android 6.0 上,当我需要使用新的权限系统时,它会要求用户“发送和查看短信”。 这是我的代码: ActivityCompat.re
我的前端代码: { this.searchInput = input; }}/> 搜索 // search method: const baseUrl = 'http://localho
我有一个由 AJAX 和 C# 应用程序使用的 WCF 服务, 我需要通过 HTTP 请求 header 发送一个参数。 在我的 AJAX 上,我添加了以下内容并且它有效: $.ajax({
我正在尝试了解如何使用 promises 编写代码。请检查我的代码。这样对吗? Node.js + 请求: request(url, function (error, response, body)
如果失败(除 HTTP 200 之外的任何响应代码),我需要重试发送 GWT RPC 请求。原因很复杂,所以我不会详细说明。到目前为止,我在同一个地方处理所有请求响应,如下所示: // We
当用户单击提交按钮时,我希望提交表单。然而,就在这种情况发生之前,我希望弹出一个窗口并让他们填写一些数据。一旦他们执行此操作并关闭该子窗口,我希望发出 POST 请求。 这可能吗?如果可能的话如何?我
像 Facebook 这样的网站使用“延迟”加载 js。当你必须考虑到我有一台服务器,流量很大时。 我很感兴趣 - 哪一个更好? 当我一次执行更多 HTTP 请求时 - 页面加载速度较慢(由于限制(一
Servlet 容器是否创建 ServletRequest 和 Response 对象或 Http 对象?如果是ServletRequest,谁在调用服务方法之前将其转换为HttpServletReq
这是维基百科文章的摘录: In contrast to the GET request method where only a URL and headers are sent to the serv
我有一个循环,每次循环时都会发出 HTTP post 请求。 for(let i = 1; i console.log("succes at " + i), error => con
我是一名优秀的程序员,十分优秀!