美麗的湯 .find 找不到任何東西

Question

我正在嘗試抓取Facebook 群組中的帖子：

URL = 'https://www.facebook.com/groups/110354088989367/'

headers = {
    "User-Agent": 'Mozilla/5.0 (Windows NT 10.0; Win64; x64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/73.0.3683.103 Safari/537.36'
}


def checkSubletGroup():
    page = requests.get(URL, headers=headers)
    soup = BeautifulSoup(page.content, 'html.parser')
    posts = soup.find_all("div", {"class_": "text_exposed_root"})
    print(soup.prettify())
    for post in posts:
        print(post)


checkSubletGroup()

帶有class="text_exposed_root"的div顯然在那里，因為當我在print(soup.prettify())搜索時，我可以用CTRL f找到它，但是當我做soup.find_all("div", {"class_": "text_exposed_root"})它返回一個空列表，因此許多其他類名顯然存在。

請幫忙。

Answer 1

問題是所有那些<div>都在一個注釋掉的 HTML 塊中。

這樣的事情可以解決這個問題：

soup = BeautifulSoup(page.text.replace('<!--', '').replace('-->', ''), 'html.parser')

之后，您可以簡單地執行以下操作：

posts = soup.find_all('div', 'text_exposed_root')

我希望它有幫助。

Answer 2

只需要在使用關鍵字參數檢查類時使用class_ ，因為class是 Python 保留字，不能用作變量。 如果將屬性作為字典傳遞，則只需使用class 。

所以應該是

posts = soup.find_all("div", {"class": "text_exposed_root"})

或者

posts = soup.find_all("div", class_ = "text_exposed_root")