![](/img/trans.png)
[英]How can I download high resolution images from google use python + selenium + phantomJS
[英]I can't download google images using python selenium
嗨,我正在使用硒抓取谷歌圖片。 但效果並不好。 我怎樣才能讓這個代碼工作? 我的代碼如下。
之前用google_images_download,突然卡住了。 所以我正在尋找一種新的方法,我希望有人可以提供幫助謝謝
from selenium import webdriver
from selenium.webdriver.common.keys import Keys
import json
import os
import urllib.request as urllib2
import argparse
searchterm = 'spider' # will also be the name of the folder
url = "https://www.google.co.in/search?q="+searchterm+"&source=lnms&tbm=isch"
# NEED TO DOWNLOAD CHROMEDRIVER, insert path to chromedriver inside parentheses in following line
browser = webdriver.Chrome('C:\Python27\Scripts\chromedriver')
browser.get(url)
header={'User-Agent':"Mozilla/5.0 (Windows NT 6.1; WOW64) AppleWebKit/537.36 (KHTML, like Gecko) Chrome/43.0.2357.134 Safari/537.36"}
counter = 0
succounter = 0
if not os.path.exists(searchterm):
os.mkdir(searchterm)
for _ in range(500):
browser.execute_script("window.scrollBy(0,10000)")
for x in browser.find_elements_by_xpath('//div[contains(@class,"rg_meta")]'):
counter = counter + 1
print("Total Count:", counter)
print("Succsessful Count:", succounter)
print("URL:",json.loads(x.get_attribute('innerHTML'))["ou"])
img = json.loads(x.get_attribute('innerHTML'))["ou"]
imgtype = json.loads(x.get_attribute('innerHTML'))["ity"]
try:
req = urllib2.Request(img, headers={'User-Agent': header})
raw_img = urllib2.urlopen(req).read()
File = open(os.path.join(searchterm , searchterm + "_" + str(counter) + "." + imgtype), "wb")
File.write(raw_img)
File.close()
succounter = succounter + 1
except:
print("can't get img")
print (succounter, "pictures succesfully downloaded")
browser.close()
我決定從 Google 圖片以外的其他網站抓取圖片。
我也遇到了從谷歌抓取圖片的問題,就像你使用rg_meta
方法一樣
谷歌圖片搜索結果網頁源代碼已更改,自 2020 年初rg_meta
不再提供rg_meta
。
rg_meta
標簽也改為隨機字符串,如
rg_X XXXXXX XXXXXX
我認為谷歌開始禁止爬行機器人並導致使用谷歌自定義搜索 API。
聲明:本站的技術帖子網頁,遵循CC BY-SA 4.0協議,如果您需要轉載,請注明本站網址或者原文地址。任何問題請咨詢:yoyou2525@163.com.