Java：如何使用Selenium从Amazon抓取图像？

Question

我正在尝试使用Selenium WebDriver从Amazon上的此URL刮取页面左侧的6张图像：

http://www.amazon.com/EasyAcc%C2%AE-10000mAh-Brilliant-Smartphone-Bluetooth/dp/B00H9BEC8E

但是，无论我怎么尝试都会导致错误。 到目前为止，我已经尝试过：

1. 我尝试直接使用XPATH刮取图像，然后使用“ getAttributes”方法提取src。 例如，对于页面上的第一个图像，XPATH为：

   .//*[@id='a-autoid-2']/span/input

所以我尝试了以下方法：

  String path1 = ".//*[@id='a-autoid-2']/span/input";
        String url = "http://www.amazon.com/EasyAcc%C2%AE-10000mAh-Brilliant-Smartphone-Bluetooth/dp/B00H9BEC8E";
        WebDriver driver = new FirefoxDriver();
        driver.get(url);
  WebElement s;
        s = driver.findElement(By.xpath(path1));
        String src;
        src = s.getAttribute("src");
        System.out.println(src);

但是我找不到来源。

注意：仅当从某些类型的产品中刮取图像时，才会出现此问题。 例如，我可以使用Selenium轻松从该产品刮取图像：

http://www.amazon.com/zh-CN/Ultimate-Unification-Diet-Health-Disease/dp/0615797806/

import java.util.List;

import org.openqa.selenium.By;
import org.openqa.selenium.WebDriver;
import org.openqa.selenium.WebElement;
import org.openqa.selenium.firefox.FirefoxDriver;

public class mytest {

    public static void main(String[] args) {
        // TODO Auto-generated method stub



        String path = ".//*[@id='imgThumbs']/div[2]/img";

        String url = "http://www.amazon.com/Ultimate-Unification-Diet-Health-Disease/dp/0615797806/";
        WebDriver driver = new FirefoxDriver();
        driver.get(url);


        WebElement s;
        s = driver.findElement(By.xpath(path));
        String src;
        src = s.getAttribute("src");
        System.out.println(src);

        driver.close();


    }
}

该代码可以完美地工作。 仅当刮擦某些产品时，似乎无法解决它。

2. 我尝试单击导致iframe打开的图像，但是即使使用以下方法切换到iframe，也无法从该iframe抓取图像：

   driver.switchTo（）。frame（IFRAMEID）;

我知道我可以使用“屏幕截图”方法，但是我想知道是否有一种直接刮取图像的方法吗？

谢谢

Answer 1

试试这个代码

    String path = "//div[@id='imageBlock_feature_div']//span/img";

    String url = "http://rads.stackoverflow.com/amzn/click/0615797806";
    WebDriver driver = new FirefoxDriver();
    driver.get(url);

    List<WebElement> srcs;
    srcs = driver.findElements(By.xpath(path));

    for(WebElement src : srcs) {
        System.out.println(src.getAttribute("src"));
    }

    driver.close();

结果

2015-01-23 12:36:14 [main]-[INFO] Opened url: http://rads.stackoverflow.com/amzn/click/B00H9BEC8E
http://ecx.images-amazon.com/images/I/41cOP3mFX3L._SX38_SY50_CR,0,0,38,50_.jpg
http://ecx.images-amazon.com/images/I/51YkMhRXqcL._SX38_SY50_CR,0,0,38,50_.jpg
http://ecx.images-amazon.com/images/I/51nSbXF%2BCTL._SX38_SY50_CR,0,0,38,50_.jpg
http://ecx.images-amazon.com/images/I/31s%2B31F%2BQmL._SX38_SY50_CR,0,0,38,50_.jpg
http://ecx.images-amazon.com/images/I/41FmTOJEOOL._SX38_SY50_CR,0,0,38,50_.jpg
http://ecx.images-amazon.com/images/I/41U6qpLJ07L._SX38_SY50_CR,0,0,38,50_.jpg

但是，要获取Amazon Images，建议您尝试使用Amazon API https://affiliate-program.amazon.com/gp/advertising/api/detail/main.html

好多了