如何让网页抓取更快？ Django 项目

Question

我正在使用 Django 框架构建一个网络抓取应用程序。 我需要一些有关如何加快我的应用程序的提示。 截至目前，加载页面仅解析 3 个 url 需要将近一分钟，这是一个问题。 我需要更快地运行，因为我想在我的网页上解析多达 10 个 url。 如您所见，我的代码只针对一个 div，这就是我的应用程序运行如此缓慢的原因。 我想我可以尝试针对多个 div 来缩小我的“汤”范围，但我过去在这方面遇到了困难，所以我希望得到一些指导。

def stats(request):
    if 'user_id' not in request.session:
        return redirect('/')
    this_user = User.objects.filter(id = request.session['user_id'])
    this_stock = Stock.objects.filter(user_id = request.session['user_id'])
    progress_dict = []
    for object in this_stock:
        URL = object.nasdaq_url
        page = requests.get(URL)
        soup = BeautifulSoup(page.content, 'html.parser')
        progress = soup.find_all('div', class_='ln0Gqe')
        for number in progress:
            progress_dict.append(number.text)
    context = {
            "current_user" : this_user[0].first_name,
            "progress_dict": progress_dict,
            "this_stock": this_stock,
        }
    return render(request, "nasdaq.html", context)

Answer 1

您可以使用线程同时抓取多个页面。 看这里， 这里了解更多关于它的信息。

并且使用lxml还可以加快您的网页抓取速度。 您可以在此处查看更多信息。