嘗試使用 Node.js 應用下載大文件時崩潰

Question

我正在嘗試編寫一個可以將 HTTP URL 轉換為種子的程序。 該項目基本上適用於包含小文件的下載鏈接。 就像一個 1-500Mb 的文件。 我的問題是文件大小是否大於應用程序崩潰或超時。 所以我想知道如何解決這個問題。 下面是我的代碼和 Github 鏈接。

https://github.com/savadks95/FireBit

var http          = require('http');
var webtorrentify = require('webtorrentify-link');
var fs            = require('fs');
var url           = require("url");
var path          = require("path");
var validUrl      = require('valid-url');
var express       = require('express');
var getUrls       = require('get-urls');
var remote        = require('remote-file-size');
var app           = express();

var downloadLink;
var fileName;
var fileSize;
var server;
var parsed;
var param;
var link;
var port;
port = process.env.PORT || 80;

app.get('/favicon.ico', function(req, res){
console.log('favicon request recived');
});
app.get('*', function(req, res){
    if(req.url==='/'){

      //app.use('/public/html', express.static(path.join(__dirname)));

    fs.readFile('public/html/index.html', function (err, data) {
    res.write(data);  
  });
  }else if (req.url === '/l?thelink='){
    fs.readFile('public/html/emptyRequest.html', function (err, data) {
      res.write(data);
      res.end();
  });
}else{
//---------Reciving Url--------------------
  console.log(req.query.thelink);
  downloadLink=req.query.thelink;
  //-----------------------------------------

  //------------checking for valid url-------
  if (validUrl.isUri(downloadLink)) {
    console.log('Looks like an URL');
    //-----------------------------------------

    //----------Extracting filename-------------
    parsed = url.parse(downloadLink);
    fileName = path.basename(parsed.pathname);
    console.log(path.basename(parsed.pathname));
    //-------------------------------------------

    //----------Finding File size----------------
    remote(downloadLink, function(err, o) {
      fileSize = (o/1024)/1024;
      console.log('size of ' + fileName + ' = ' + fileSize+" MB");  
    //-------------------------------------------
    if (fileSize < 501)
    {
    ///////////////Creating Torrent////////////////////
    webtorrentify(downloadLink)
      .then(function (buffer) {
         console.log('creating the torrent');
         //res.send('what is');
         //-------------------------------------------
         res.setHeader('Content-Type', 'application/x-bittorrent');
         res.setHeader('Content-Disposition', `inline; filename="${fileName}.torrent"`);
         res.setHeader('Cache-Control', 'public, max-age=2592000'); // 30 days
         res.send(buffer);
         console.log(fileName+'.torrent created');
         res.end();
         //-------------------------------------------
      });
    ////////////////////////////////////////////////
    }
    else{
      console.log('More than 500 MB');
      res.send("<h4> More than 500 MB or invalid URL </h4>");
    }
  });
  }
  else {
    console.log('not url');
    fs.readFile('public/html/404.html', function (err, data) {
      res.write(data);
      res.end();
    });

  }
}
});

app.listen(port);

console.log('server up and running', port);

Answer 1

Node.js 的純文件 (fs) 和大數據處理功能通常無法處理超過 1GB 的文件，但只需一個額外的 NPM 包 EventStream，您就可以解析海量數據集，而不會導致 Node 服務器崩潰。 使用 EventStream 包，您可以下載最大 3GB 及以上的文件。

下面的鏈接中給出了詳細的實現。 我想重申，以下鏈接中給出的示例實現解決了您的大文件下載問題。 您將 http url 轉換為 torrent 流的能力，您似乎已經很好地處理了它。

https://itnext.io/using-node-js-to-read-really-really-large-files-pt-1-d2057fe76b33

這是事件流模塊的 NPM 包。

https://www.npmjs.com/package/event-stream

希望這可以幫助。