[英]How do I parse through an infinite scrolling page (ex. Wallbase.cc/search/sky) with Python?
不确定是否有任何与Mechanize或BeautifulSoup有关的东西可以提供帮助。 任何建议将不胜感激!
机械化和美丽的汤不能与用于无限滚动的javascript接触。
硒可以。
此外,如果您在使用无限滚动时查看ajax请求,您会看到带有请求数据的http://wallbase.cc/search/160
的发布请求:
query:sky
board:123
res_opt:eqeq
res:0x0
aspect:0
nsfw_sfw:1
nsfw_sketchy:0
nsfw_nsfw:0
thpp:32
orderby:relevance
orderby_opt:desc
160对应于图像范围,因此之前的请求是wallbase.cc/searc/128
。
声明:本站的技术帖子网页,遵循CC BY-SA 4.0协议,如果您需要转载,请注明本站网址或者原文地址。任何问题请咨询:yoyou2525@163.com.