使用Selenium（Python）抓取网站上的所有工具提示吗？

Question

我目前正在尝试抓取此网站https://schedule.townsville-port.com.au/

我想将所有单独的工具提示中的文字都刮掉。

这是我必须悬停的典型元素的html看起来像

<div event_id="55591" class="dhx_cal_event_line past_event" style="position:absolute; top:2px; height: 42px; left:1px; width:750px;"><div> 

这是工具提示的典型html外观

<div class="dhtmlXTooltip tooltip" style="visibility: visible; left: 803px; bottom:74px;

我尝试了各种组合，例如尝试直接刮取工具提示，还尝试通过将鼠标悬停在需要悬停的位置来刮取html。

tool_tips=driver.find_elements_by_class_name("dhx_cal_event_line past_event")

tool_tips=driver.find_elements_by_xpath("//div[@class=dhx_cal_event_line past_event]")

tool_tips=driver.find_element_by_css_selector("dhx_cal_event_line past_event")

我也尝试使用“ dhtmlXTooltip工具提示”而不是“ dhx_cal_event_line past_event”使用相同的代码

我真的不明白为什么。

tool_tips=driver.find_elements_by_class_name("dhx_cal_event_line past_event")

不起作用

可以使用Beautifulsoup解决此问题吗？ 既然html是动态的并且正在变化？

Answer 1

如果您在Chrome DevTools中打开“网络”标签，然后按XHR进行过滤，您会看到该网站向http://schedule.townsville-port.com.au/spotschedule.php发出了请求。

from bs4 import BeautifulSoup
import requests

url = 'http://schedule.townsville-port.com.au/spotschedule.php'
r = requests.get(url, verify=False)
soup = BeautifulSoup(r.text, 'xml')

transports = {}
events = soup.find_all('event')

for e in events:
    transport_id = e['id']
    transport = {child.name: child.text for child in e.children}
    transports[transport_id] = transport

import pprint
pprint.pprint(transports)

输出：

{'48165': {'IMO': '8201480',
       'app_rec': 'Approved',
       'cargo': 'Passenger Vessel (Import)',
       'details': 'Inchcape Shipping Services Pty Limited',
       'duration': '8',
       'end_date': '2018-02-17 14:03:00.000',
       'sectionID': '10',
       'start_date': '2018-02-17 06:44:00.000',
       'text': 'ARTANIA',
       'visit_id': '19109'},
 ...
}

我发现摆脱SSLError的唯一方法是使用verify=False禁用证书验证，您可以在此处了解更多信息。

注意，开始start_date和end_date是UTC时间，因此您可以指定timeshift查询参数：

import time

utc_offset = -time.localtime().tm_gmtoff // 60  # in minutes    
url = f'http://schedule.townsville-port.com.au/spotschedule.php?timeshift={utc_offset}'

或转换日期并将其存储为datetime对象（您可以在此处阅读有关将时间从UTC转换为本地时区的信息 ）。