'NoneType' 对象在 BeautifulSoup 中没有属性 'text'

Question

当我搜索“ What is 2+2 ”时，我试图抓取 Google 结果，但以下代码返回'NoneType' object has no attribute 'text' 。 请帮助我实现所需的目标。

text="What is 2+2"
search=text.replace(" ","+")
link="https://www.google.com/search?q="+search
headers={'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36'}
source=requests.get(link,headers=headers).text
soup=BeautifulSoup(source,"html.parser")
answer=soup.find('span',id="cwos")

self.respond(answer.text)

唯一的问题是soup.find id ，但是我非常soup.find选择了这个id。 我不应该弄错。 我也试过answer=soup.find('span',class_="cwcot gsrt") ，但都没有奏效。

Answer 1

解析网站时的一个大问题是，与requests看到的相比，源代码在浏览器中的外观可能大不相同。 不同之处在于 javascript，它可以在支持 javascript 的浏览器中极大地修改 DOM。

我建议3个选项：

1. 使用requests来获取页面，然后仔细检查它 - 当页面被非 js 启用的代理检索时，该标签是否存在？
2. 使用https://www.seleniumhq.org/作为您的代理 - 它本质上是一个功能齐全的浏览器，您可以通过编程方式控制，包括 python。
3. 使用 google 的搜索 API 而不是尝试抓取 html

Answer 2

下次使用原样的查询字符串。

import requests
from bs4 import BeautifulSoup
search="2%2B2"
link="https://www.google.com/search?q="+search
headers={'User-Agent':'Mozilla/5.0 (X11; Linux x86_64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/51.0.2704.103 Safari/537.36'}
source=requests.get(link,headers=headers).text
soup=BeautifulSoup(source,"html.parser")
answer=soup.find('span',id="cwos")
print(answer.text)

输出：

 4  

访问这些网址 - 它们不会返回相同的结果

https://www.google.com/search?q=What+is+2+2

https://www.google.com/search?q=2%2B2

https://www.google.com/search?q=2+2

Answer 3

运行代码时，您可能会遇到 AttributeError：

shell: AttributeError: 'NoneType' 对象没有属性 'text'

如果是这种情况，请退后一步并检查您以前的结果。 是否有任何值为 None 的项目？ 您可能已经注意到页面的结构并不完全统一。 那里可能有一个广告，其显示方式与正常职位发布的方式不同，这可能会返回不同的结果

参考： https://realpython.com/beautiful-soup-web-scraper-python/#extract-text-from-html-elements 。