使用lxml和xpath从网页获取文本

Question

我正在尝试从网页中提取一些数字，特别是RealClearPolitics的当前总统批准等级。

这是我正在使用的代码，尝试使用urllib2获取网页，使用lxml解析所有内容，并使用chrome报告的xpath。 问题是，我最后得到的只是一个空清单。

import urllib2
from lxml import etree

url = "http://www.realclearpolitics.com/epolls/other/president_obama_job_approval-1044.html"
page = urllib2.urlopen(url)

tree = etree.parse(page.content, etree.HTMLParser())

rcp=tree.xpath('//*[@id="polling-data-rcp"]/table/tbody/tr[2]/td[4]')

print rcp

任何帮助，将不胜感激！

Answer 1

tr[2]/td[4]不正确。 看到：

因此，您需要使用正确的XPath查询：

Python代码将是：

import requests
from lxml import html

URL = "http://www.realclearpolitics.com/epolls/other/president_obama_job_approval-1044.html"
response = requests.get(URL)
tree = html.fromstring(response.content)

rcp_approve = '//table[@class="chart_legend small_legend"]/tbody/tr/td[@class="candidate"][1]/div[1]/span/text()'
rcp_disapprove = '//table[@class="chart_legend small_legend"]/tbody/tr/td[@class="candidate"][2]/div[1]/span/text()'

rcp_approve = float(tree.xpath(rcp_approve)[0])
rcp_disapprove = float(tree.xpath(rcp_disapprove)[0])

print "Obama's approve rate: {}".format(rcp_approve)
print "Obama's disapprove rate: {}".format(rcp_disapprove)

输出：

Obama's approve rate: 44.4
Obama's disapprove rate: 51.6