繁体   English   中英

PHP cURL或Multi Curl还是其他什么?

[英]PHP cURL or Multi Curl or something else?

我有一个PHP脚本,它循环遍历URL的数据库表,并为每个URL调用PHP cURL,刮取数据,然后将数据保存到不同的数据库中。 码:

$results = $wpdb->get_results("SELECT * FROM urls ORDER BY id DESC");
foreach($results as $row) {
    //PHP CURL STUFF HERE
}

上述脚本每隔12分钟使用cPanel的CRON运行。 我的问题是:a)需要更频繁地删除URL以获得更好的结果,因为有时循环需要时间来完成,并且在12分钟时间内不会覆盖某些URl。

现在..上述策略是唯一的策略还是有更好的解决方案,例如Multi Curl? 我在想是否可以拥有像script.php这样的东西?url = 1然后有一个专用的CRON或类似的URL,所以我可以跟踪和检查这个确切的URL。 这可能吗? 如果有,怎么样? 如果数据库中有300个URL,我就无法为它创建300个CRON :(

期待您的意见:)=

多次调用PHP不是一个好的解决方案。 为什么不能在12分钟内完成300个请求? (多数民众赞成真的很慢)

例如,您需要添加超时

curl_setopt($ch, CURLOPT_TIMEOUT, 10); //Each url will take 10 sec max

然后显示包含URL的日志以查找慢请求使用curl_errno()来检测错误

代码28是超时。

暂无
暂无

声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.

 
粤ICP备18138465号  © 2020-2024 STACKOOM.COM