如何使用 Puppeteer 抓取 React 网站？

Question

我正在尝试抓取一个使用 react 的网站，在 chrome 中我可以访问我想要的元素，但是当我尝试使用 puppeteer 时，我无法访问相同的元素，因为源代码没有加载这些 react 元素, 有什么办法可以访问它。

这是代码

const request= require('request-promise')
const cheerio= require('cheerio');
const puppeteer = require("puppeteer");

const Url='https://angel.co/companies';


(async ()=>{

    const browser = await puppeteer.launch({headless: false});
    const page = await browser.newPage();

    await page.goto(Url);
      const html = await page.content();
    // const response=request.get(Url)
    const $ = await cheerio.load(html);




    // const companies=$('div.base.startup').html()
     const companies=await $('div.base.startup > div.company.column > div > div.text > div.pitch').text()
    // const companies=document.querySelectorAll('div.base.startup > div.company.column > div > div.text > div.pitch')

    console.log(companies)
    await browser.close()

} )()

Answer 1

几个月前我用 Python 做了一些类似的事情。 基本上是等待一个元素出现在页面上（作为指示器，React 完成加载）。

我查找了 Puppeteer 的 API 并找到了page.waitForSelector ，我猜你可以使用它。