[英]Code stalling at collection.find
我是JS的新手,现在停留在这里。 我试图在开始新查询之前清除数据库,并且它始终停滞在collection.find命令中。 如果删除代码以清除数据库,一切正常。
router.get('/parse', function(req, res) {
collection.remove({})
collectionweb.remove({})
collectionhit.remove({})
//Converter Class
var Converter = require("csvtojson").core.Converter;
var fs = require("fs");
var csvFileName = "./download/company.csv";
var fileStream = fs.createReadStream(csvFileName);
//new converter instance
var param = {};
var csvConverter = new Converter(param);
request({
uri: "http://online.barrons.com/news/articles/SB50001424053111904537004580085820431503044?mod=BOL_twm_fs",
}, function(error, response, body) {
collectionweb.insert({
"website": body
});
});
//end_parsed will be emitted once parsing finished
csvConverter.on("end_parsed", function(jsonObj) {
//Insert into DB
collection.insert(jsonObj);
});
fileStream.pipe(csvConverter);
collectionweb.find({}, function(e, docs1) {
for (var j in docs1) {
var body = docs1[j]
var webs = body.website
console.log(1)
collection.find({}, function(e, docs) {
for (var i in docs) {
console.log(2)
var companies = docs[i]
var Score = 0;
$words = webs.search(companies.Symbol);
console.log(3)
if ($words > 0) {
StockScore++console.log(Score)
collectionhit.insert(companies)
collectionhit.update({
"Name": companies.Name
}, {
'$set': {
"score": Score
}
})
} else {};
};
});
};
});
});
有很多问题,但是它们有一个共同点:您还不了解Node.js是异步的。 只是使用Google“异步的node.js”,您将获得少量资源,或者只是在SO上查找它(例如, 如何开始使用Node.js? )。
要点是等待回调或事件,例如:
var eiot = new EventedIOThing('paaarammm');
// use once, unless you for sure need to listen for the event multiple times
eiot.once('open',function onEIOTOpen() {
console.log('opened the thing.');
}).once('error',function onEIOTError(err) {
console.warn('there were problemzzz');
}).once('end',function onEIOTEnd() {
// successfully finished evented IO thing...
someAction(this.dep,'anotherparam',function callMeWhenActionIsDone(err,result) {
if ( err ) {
console.warn('someAction had a problem!',err);
return; // exit early if we didn't get an optimal result
}
anotherDependentAction(result,function callMeWhenSecondActionIsDone(err,result) {
if ( err ) { // this 'err' is local to this function's scope
console.warn('anotherDependentAction had a problem!',err);
return; // exit early again
}
console.log('All done... what do you want to do next?');
});
});
});
给定变量/函数名称和注释,以上代码是很容易解释的,但是要特别注意方法的调用方式,尤其是在调用方法时。 事情不会连续发生,而是代码处于“备用”状态,直到相关/正确的事情发生并获得成功的结果,然后程序流才继续。
上面的编码风格的缺点是,您最终将获得许多嵌套函数。 这就是异步之类的库发挥作用的地方。 它允许浅的函数程序流:您指定一个函数数组,并在应该在内部调用回调时异步处理,您只需要担心序列。
现在,使用您当前拥有的代码,我们从第一个示例中学到的内容,并通过引入async模块对其进行1-up操作,可以将其重写如下:
var async = require('async'), // https://github.com/caolan/async
fs = require('fs'),
Converter = require('csvtojson').core.Converter;
router.get('/parse',function cbGetParse(req, res) {
async.series([
collection.remove.bind(collection),
collectionweb.remove.bind(collectionweb),
collectionhit.remove.bind(collectionhit),
function convertCsv(callback) {
var cbCalled = false; // i don't trust csvtojson to handle errors properly
fs.createReadStream('./download/company.csv')
.once('error',function(err) {
if ( !cbCalled ) {
cbCalled = true;
callback(err,null);
}
})
.pipe(new Converter({})) // pipe returns an instance of the Converter object
.once('end_parsed',function onConverterEnd(jsonObj) {
collection.insert(jsonObj,function cbCollInsert(err,result) {
if ( !cbCalled ) {
cbCalled = true;
callback(err,result);
}
});
});
},
function barronsHttpRequest(callback) {
request({
uri: 'http://online.barrons.com/news/articles/SB50001424053111904537004580085820431503044?mod=BOL_twm_fs',
},function cbRequest(err,response,body) {
if ( err ) {
callback(err,null);
return; // if err, exit early
}
collectionweb.insert({'website':body},function cbCollWebInsert(err,result) {
callback(err,result);
});
});
},
function lastChunkOfCode(callback) {
// not going to rewrite this, same principle applies as above
collectionweb.find({}, function(e, docs1) {
for (var j in docs1) {
var body = docs1[j]
var webs = body.website
console.log(1)
collection.find({}, function(e, docs) {
for (var i in docs) {
console.log(2)
var companies = docs[i]
var Score = 0;
$words = webs.search(companies.Symbol);
console.log(3)
if ($words > 0) {
StockScore++console.log(Score)
collectionhit.insert(companies)
collectionhit.update({
"Name": companies.Name
}, {
'$set': {
"score": Score
}
})
} else {};
};
});
};
callback();
});
}
],function asyncComplete(err,result) {
// you don't specify how to respond to the request so...
if ( err ) {
console.warn('Problem with /parse:',err);
}
res.end();
});
});
我做了一个废话吨在你的脚本应该如何工作的假设,因此它可能不是你想要的100%,但异步概念得到了应用。 另外,我没有测试此代码。 您需要确定可以并行运行还是串行运行,控制流应该是什么样,以及如何处理错误(错误确实会发生)。
请注意,由于我无法弄清楚您的集合关系是什么,因此我并未在脚本的最后一个块中实现异步行为-我也不会为您做所有工作。 我确实注意到它可以进行一些优化。 我看不出有任何理由要从两个集合中选择所有文档。 您需要将选择器/查询处理卸载到数据库上,如果可以帮助的话,它不应该存在于您的应用程序中。
一些要点:
Collection.remove
(doc)接受回调,然后使用它。 Collection.insert
(doc)相同-尽管文档说回调是可选的,但仅在极少数情况下应将其省略。 (我不在乎您是否在使用写问题。) for...in
,尤其是对于数组,请使用常规的for
或Array.forEach
for
任何异步调用使用任何类型的for
循环时(尤其是与套接字相关的,例如MongoDb),您需要保持耐心并等待回调,否则您将充斥套接字(例如拒绝服务攻击)。 我建议使用async.eachSeries
或async.eachLimit
"
或'
,它们的作用完全相同,请勿混用。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.